SEARCH

AI 지식 검색

전체 #Inference #KV Cache #LLM #Transformer

RESULTS

#KV Cache 문서

1개 문서

KV Cache

자동회귀 Transformer가 이전 토큰의 key·value 표현을 재사용하기 위해 저장하는 추론 메모리.

↳ Key-Value Cache

#Inference#KV Cache#LLM#Transformer

2026.10.10 23:08