연구·평가
본문에서 언급
Safety Evaluation
AI 시스템이 유해 행동이나 위험한 능력을 보이는 조건을 정의하고 재현 가능한 절차로 측정·검증하는 평가 영역.
↳ 안전성 평가
#AI Safety#Evaluation#Risk#Safety Evaluation
2026.10.12 08:56
연구·평가
본문에서 언급
Red Teaming
의도적으로 어려운·적대적인 입력과 상황을 만들어 AI 시스템의 실패·유해 행동·취약점을 배포 전후에 찾는 평가 접근법.
↳ 레드티밍
#Evaluation#LLM#Red Teaming#Safety
2026.10.11 11:43