SEARCH
AI 지식 검색
RESULTS
#Transformer 문서
개념·기술
KV Cache
자동회귀 Transformer가 이전 토큰의 key·value 표현을 재사용하기 위해 저장하는 추론 메모리.
개념·기술
Attention
입력의 여러 위치 가운데 현재 예측에 더 관련된 정보에 가중치를 두어 표현을 결합하는 신경망 메커니즘.
개념·기술
Mixture of Experts (MoE)
입력마다 일부 전문가 모듈만 선택적으로 활성화해 모델 용량과 계산량을 분리하려는 희소 모델 구조.
모델
BERT
양방향 문맥을 사전학습하고 다양한 자연어 처리 과제에 미세조정하는 Transformer 인코더 계열 모델.
모델
GPT
Generative Pre-trained Transformer. 생성형 사전학습 Transformer 언어 모델 계열.
개념·기술
Transformer
어텐션을 중심으로 시퀀스를 처리하는 신경망 아키텍처.