KNOWLEDGE CATEGORY
개념·기술
Transformer, RAG, 정렬, 에이전트 등 핵심 개념과 기술을 다룹니다.
DOCUMENTS
개념·기술 문서
Context Window
언어 모델이 한 번의 처리에서 참조할 수 있도록 입력으로 구성하는 토큰 문맥 범위.
Vector Search
고차원 벡터 사이의 거리나 유사도를 이용해 가까운 항목을 찾는 검색 방식.
Embedding
단어·문장·문서 등의 의미적 특징을 연속 벡터 공간에 표현하는 방법.
Fine-tuning
사전학습된 모델을 특정 과제·도메인·행동 목표에 맞도록 추가 학습해 적응시키는 과정.
Retrieval-Augmented Generation (RAG)
외부 지식을 검색해 생성 모델의 응답에 결합하는 검색 증강 생성 방식.
Knowledge Distillation
큰 모델의 출력 분포나 내부 지식을 작은 모델의 학습 신호로 활용해 성능을 이전하는 모델 압축 접근법.
GPU
많은 연산을 병렬로 처리하도록 설계된 프로세서로 현대 AI 학습과 추론의 핵심 가속 하드웨어 중 하나.
Diffusion Model
노이즈를 점진적으로 추가하고 제거하는 과정을 학습해 데이터를 생성하는 확률적 생성 모델 계열.
Mixture of Experts (MoE)
입력마다 일부 전문가 모듈만 선택적으로 활성화해 모델 용량과 계산량을 분리하려는 희소 모델 구조.
Reinforcement Learning from Human Feedback (RLHF)
사람의 선호·평가를 보상 신호로 활용해 모델 행동을 조정하는 학습 접근법.
Transformer
어텐션을 중심으로 시퀀스를 처리하는 신경망 아키텍처.
Attention
입력의 여러 위치 가운데 현재 예측에 더 관련된 정보에 가중치를 두어 표현을 결합하는 신경망 메커니즘.
Quantization
모델의 가중치나 연산 표현에 더 낮은 정밀도를 사용해 메모리와 계산 비용을 줄이는 모델 압축 기법 계열.
AI Agent
목표를 위해 상태를 해석하고 도구·환경과 상호작용하며 여러 단계의 행동을 수행하는 AI 시스템 개념.
Tokenization
텍스트를 모델이 처리할 수 있는 토큰 단위와 정수 ID의 열로 변환하는 전처리·표현 단계.
Latency and Throughput
AI 서비스에서 한 요청의 응답 시간과 일정 시간 동안 처리할 수 있는 작업량을 구분해 보는 성능 지표.
KV Cache
자동회귀 Transformer가 이전 토큰의 key·value 표현을 재사용하기 위해 저장하는 추론 메모리.
Inference
학습된 AI 모델에 새로운 입력을 넣어 예측이나 생성 결과를 계산하는 실행 단계.
Multimodal AI
텍스트·이미지·오디오·영상 등 서로 다른 형태의 정보를 함께 표현하거나 처리하는 AI 접근법.
Sovereign AI
국가·조직이 AI 데이터·인프라·모델·운영 역량과 의사결정의 통제 범위를 확보하려는 접근. 데이터 위치와 실질적 통제의 차이, 조달·운영 선택을 설명한다.
AI Alignment
AI의 행동을 사람의 의도·가치·제약과 맞추려는 연구와 설계. 보상 지표의 빈틈, RLHF의 역할, 평가와 운영 통제의 차이를 사례로 설명한다.
Voice AI
음성을 이해하거나 생성하는 AI 시스템. 음성 인식·합성·직접 음성 대화, 전이중 대화와 목소리 복제의 차이, 끼어들기·숫자·업무 결과 평가를 설명한다.
Physical AI
센서로 물리 환경을 관찰하고 행동을 수행하는 AI. 로봇의 인지·판단·제어, 시뮬레이션에서 현실로의 차이와 실제 작업 평가를 설명한다.
AI Agent Oversight
도구를 사용하는 AI 에이전트의 목표·권한·실행·결과를 사람이 확인하는 설계. 승인 피로를 줄이면서 중요한 변경을 검토하는 사례와 실패 대응을 다룬다.
AI Memory
AI 서비스가 대화 상태·사용자 선호·작업 기록을 저장하고 다시 조회하는 방식. 문맥·장기 저장·모델 학습의 차이와 오래된 정보·삭제·권한을 설명한다.
LoRA
사전학습 모델의 기존 가중치는 고정하고 저랭크 행렬만 학습하는 파라미터 효율적 미세조정 기법.