ORBiS Tree

SEARCH

AI 지식 검색

RESULTS

#Scaling 문서

개념·기술

Mixture of Experts (MoE)

입력마다 일부 전문가 모듈만 선택적으로 활성화해 모델 용량과 계산량을 분리하려는 희소 모델 구조.

#MoE#Scaling#Sparse Model#Transformer