연구·평가

Benchmark Data Contamination

평가용 벤치마크의 문항이나 정답이 학습 데이터에 포함되어 모델 성능 측정을 왜곡할 수 있는 문제.

#Benchmark#Data Contamination#Evaluation#LLM

2026.10.16 06:47

HELM

언어 모델을 여러 시나리오와 지표로 표준화해 비교하려는 Stanford CRFM의 총체적 평가 프레임워크.

#Benchmark#Evaluation#Foundation Model#HELM

2026.10.16 06:47

MMLU

여러 학문 영역의 객관식 문제를 통해 언어 모델의 폭넓은 지식과 문제 해결 능력을 평가하는 벤치마크.

#Benchmark#Evaluation#LLM#MMLU

2026.10.16 06:47

Hallucination (AI)

생성 모델이 입력이나 확인 가능한 근거와 일치하지 않는 내용을 그럴듯하게 만들어 내는 오류 현상을 다루는 연구 주제.

#Hallucination#LLM#NLG#Reliability

2026.10.13 08:21

Safety Evaluation

AI 시스템이 유해 행동이나 위험한 능력을 보이는 조건을 정의하고 재현 가능한 절차로 측정·검증하는 평가 영역.

#AI Safety#Evaluation#Risk#Safety Evaluation

2026.10.12 08:56

Foundation Model

광범위한 데이터로 학습되고 다양한 하위 작업에 적용될 수 있는 기반 모델이라는 개념.

#Foundation Model#LLM#Research

2026.10.12 08:56

System Card

단일 모델을 넘어 데이터·모델·규칙·제품 구성요소와 상호작용, 위험·제한사항을 시스템 수준에서 설명하는 문서화 방식.

#Documentation#Governance#System Card#Transparency

2026.10.11 11:43

Model Card

모델의 용도, 평가 조건, 성능 특성과 제한사항을 함께 공개하기 위한 구조화된 모델 문서화 방식.

#Documentation#Evaluation#Model Card#Responsible AI

2026.10.11 11:43

Red Teaming

의도적으로 어려운·적대적인 입력과 상황을 만들어 AI 시스템의 실패·유해 행동·취약점을 배포 전후에 찾는 평가 접근법.

#Evaluation#LLM#Red Teaming#Safety

2026.10.11 11:43

Data Provenance

AI 데이터가 어떤 출처에서 만들어지고 어떤 변환·라이선스·사용 과정을 거쳤는지 추적하는 데이터 계보 정보.

#Data Provenance#Dataset#Governance#Transparency

2026.10.10 23:08

Datasheets for Datasets

데이터셋의 동기·구성·수집·전처리·권장 사용과 유지관리 정보를 표준 질문 형태로 기록하는 데이터 문서화 접근법.

#Dataset#Datasheets#Documentation#Transparency

2026.10.10 20:49

AI for Science

과학 연구에서 AI로 예측·후보 탐색·자료 분석을 수행하는 접근. 단백질 구조 예측 사례와 실험 검증, 누출 방지, 자동 연구 시스템의 범위를 설명한다.

#AI for Science#과학 연구#연구 검증

2026.10.10 20:49