ORBiS Tree

SEARCH

AI 지식 검색

RESULTS

#Transformer 문서

개념·기술

KV Cache

자동회귀 Transformer가 이전 토큰의 key·value 표현을 재사용하기 위해 저장하는 추론 메모리.

#Inference#KV Cache#LLM#Transformer
개념·기술

Attention

입력의 여러 위치 가운데 현재 예측에 더 관련된 정보에 가중치를 두어 표현을 결합하는 신경망 메커니즘.

#Attention#NLP#Transformer
개념·기술

Mixture of Experts (MoE)

입력마다 일부 전문가 모듈만 선택적으로 활성화해 모델 용량과 계산량을 분리하려는 희소 모델 구조.

#MoE#Scaling#Sparse Model#Transformer
모델

BERT

양방향 문맥을 사전학습하고 다양한 자연어 처리 과제에 미세조정하는 Transformer 인코더 계열 모델.

#BERT#Fine-tuning#NLP#Transformer
모델

GPT

Generative Pre-trained Transformer. 생성형 사전학습 Transformer 언어 모델 계열.

#GPT#LLM#OpenAI#Transformer
개념·기술

Transformer

어텐션을 중심으로 시퀀스를 처리하는 신경망 아키텍처.

#Attention#NLP#Transformer