ORBiS Tree

SEARCH

AI 지식 검색

RESULTS

#Attention 문서

개념·기술

Context Window

언어 모델이 한 번의 처리에서 참조할 수 있도록 입력으로 구성하는 토큰 문맥 범위.

#Attention#Context Window#LLM#Tokenization
개념·기술

Attention

입력의 여러 위치 가운데 현재 예측에 더 관련된 정보에 가중치를 두어 표현을 결합하는 신경망 메커니즘.

#Attention#NLP#Transformer
개념·기술

Transformer

어텐션을 중심으로 시퀀스를 처리하는 신경망 아키텍처.

#Attention#NLP#Transformer