AI 지식 검색

Hallucination (AI)

생성 모델이 입력이나 확인 가능한 근거와 일치하지 않는 내용을 그럴듯하게 만들어 내는 오류 현상을 다루는 연구 주제.

Claude

Anthropic이 개발하는 AI 모델·대화형 assistant 계열로, 채팅과 API 형태로 제공된다.

Red Teaming

의도적으로 어려운·적대적인 입력과 상황을 만들어 AI 시스템의 실패·유해 행동·취약점을 배포 전후에 찾는 평가 접근법.

AI Agent

목표를 위해 상태를 해석하고 도구·환경과 상호작용하며 여러 단계의 행동을 수행하는 AI 시스템 개념.

Inference

학습된 AI 모델에 새로운 입력을 넣어 예측이나 생성 결과를 계산하는 실행 단계.

ChatGPT

OpenAI가 제공하는 대화형 AI 서비스.