SEARCH
AI 지식 검색
RESULTS
“AI agent oversight” 검색 결과
20개 문서
AI Agent Oversight
도구를 사용하는 AI 에이전트의 목표·권한·실행·결과를 사람이 확인하는 설계. 승인 피로를 줄이면서 중요한 변경을 검토하는 사례와 실패 대응을 다룬다.
Hallucination (AI)
생성 모델이 입력이나 확인 가능한 근거와 일치하지 않는 내용을 그럴듯하게 만들어 내는 오류 현상을 다루는 연구 주제.
Claude
Anthropic이 개발하는 AI 모델·대화형 assistant 계열로, 채팅과 API 형태로 제공된다.
Gemini
Google DeepMind가 개발하는 멀티모달 AI 모델 계열로, 다양한 Google AI 제품과 개발 도구의 기반으로 쓰인다.
OpenAI
AI 연구와 배포를 수행하는 조직으로 GPT와 ChatGPT 등을 개발한다.
Safety Evaluation
AI 시스템이 유해 행동이나 위험한 능력을 보이는 조건을 정의하고 재현 가능한 절차로 측정·검증하는 평가 영역.
System Card
단일 모델을 넘어 데이터·모델·규칙·제품 구성요소와 상호작용, 위험·제한사항을 시스템 수준에서 설명하는 문서화 방식.
Red Teaming
의도적으로 어려운·적대적인 입력과 상황을 만들어 AI 시스템의 실패·유해 행동·취약점을 배포 전후에 찾는 평가 접근법.
AI Agent
목표를 위해 상태를 해석하고 도구·환경과 상호작용하며 여러 단계의 행동을 수행하는 AI 시스템 개념.
Latency and Throughput
AI 서비스에서 한 요청의 응답 시간과 일정 시간 동안 처리할 수 있는 작업량을 구분해 보는 성능 지표.
Inference
학습된 AI 모델에 새로운 입력을 넣어 예측이나 생성 결과를 계산하는 실행 단계.
Multimodal AI
텍스트·이미지·오디오·영상 등 서로 다른 형태의 정보를 함께 표현하거나 처리하는 AI 접근법.
ChatGPT
OpenAI가 제공하는 대화형 AI 서비스.
GPT-6 Astra
OpenAI가 복잡한 추론·코딩·리서치·도구 작업에 적합한 모델로 소개하는 GPT 계열 모델. 제품 환경과 모델 이름을 구분하고 실제 과제에서 비교하는 방법을 설명한다.
ChatGPT Work
ChatGPT에서 파일과 연결된 도구를 사용해 여러 단계의 작업을 진행하는 환경. 목표·자료·권한·검토 시점을 정하는 방법과 결과물 확인 사례를 설명한다.
Sovereign AI
국가·조직이 AI 데이터·인프라·모델·운영 역량과 의사결정의 통제 범위를 확보하려는 접근. 데이터 위치와 실질적 통제의 차이, 조달·운영 선택을 설명한다.
AI Alignment
AI의 행동을 사람의 의도·가치·제약과 맞추려는 연구와 설계. 보상 지표의 빈틈, RLHF의 역할, 평가와 운영 통제의 차이를 사례로 설명한다.
Voice AI
음성을 이해하거나 생성하는 AI 시스템. 음성 인식·합성·직접 음성 대화, 전이중 대화와 목소리 복제의 차이, 끼어들기·숫자·업무 결과 평가를 설명한다.
AI for Science
과학 연구에서 AI로 예측·후보 탐색·자료 분석을 수행하는 접근. 단백질 구조 예측 사례와 실험 검증, 누출 방지, 자동 연구 시스템의 범위를 설명한다.
AI Memory
AI 서비스가 대화 상태·사용자 선호·작업 기록을 저장하고 다시 조회하는 방식. 문맥·장기 저장·모델 학습의 차이와 오래된 정보·삭제·권한을 설명한다.