SEARCH
AI 지식 검색
RESULTS
#LLM 문서
Red Teaming
의도적으로 어려운·적대적인 입력과 상황을 만들어 AI 시스템의 실패·유해 행동·취약점을 배포 전후에 찾는 평가 접근법.
Benchmark Data Contamination
평가용 벤치마크의 문항이나 정답이 학습 데이터에 포함되어 모델 성능 측정을 왜곡할 수 있는 문제.
Context Window
언어 모델이 한 번의 처리에서 참조할 수 있도록 입력으로 구성하는 토큰 문맥 범위.
KV Cache
자동회귀 Transformer가 이전 토큰의 key·value 표현을 재사용하기 위해 저장하는 추론 메모리.
Inference
학습된 AI 모델에 새로운 입력을 넣어 예측이나 생성 결과를 계산하는 실행 단계.
MMLU
여러 학문 영역의 객관식 문제를 통해 언어 모델의 폭넓은 지식과 문제 해결 능력을 평가하는 벤치마크.
Quantization
모델의 가중치나 연산 표현에 더 낮은 정밀도를 사용해 메모리와 계산 비용을 줄이는 모델 압축 기법 계열.
Claude
Anthropic이 개발하는 AI 모델·대화형 assistant 계열로, 채팅과 API 형태로 제공된다.
Hallucination (AI)
생성 모델이 입력이나 확인 가능한 근거와 일치하지 않는 내용을 그럴듯하게 만들어 내는 오류 현상을 다루는 연구 주제.
Fine-tuning
사전학습된 모델을 특정 과제·도메인·행동 목표에 맞도록 추가 학습해 적응시키는 과정.
Tokenization
텍스트를 모델이 처리할 수 있는 토큰 단위와 정수 ID의 열로 변환하는 전처리·표현 단계.
AI Agent
목표를 위해 상태를 해석하고 도구·환경과 상호작용하며 여러 단계의 행동을 수행하는 AI 시스템 개념.
Reinforcement Learning from Human Feedback (RLHF)
사람의 선호·평가를 보상 신호로 활용해 모델 행동을 조정하는 학습 접근법.
LoRA
사전학습 모델의 기존 가중치는 고정하고 저랭크 행렬만 학습하는 파라미터 효율적 미세조정 기법.
Foundation Model
광범위한 데이터로 학습되고 다양한 하위 작업에 적용될 수 있는 기반 모델이라는 개념.
ChatGPT
OpenAI가 제공하는 대화형 AI 서비스.
Retrieval-Augmented Generation (RAG)
외부 지식을 검색해 생성 모델의 응답에 결합하는 검색 증강 생성 방식.
GPT
Generative Pre-trained Transformer. 생성형 사전학습 Transformer 언어 모델 계열.
대규모 언어 모델 (LLM)
대규모 데이터와 모델 규모를 바탕으로 언어를 학습하는 범용 언어 모델 계열.