Foundation Model은 광범위한 데이터를 대규모로 학습한 뒤 여러 하위 작업에 적응할 수 있는 모델을 설명하기 위해 Stanford 연구진이 2021년 보고서에서 제시한 용어다.[1]
이 개념은 특정 모델 아키텍처 하나를 뜻하지 않는다. 대규모 사전학습 모델이 다양한 응용의 기반이 되는 현상과, 하나의 기반 모델에서 성능·편향·안전 문제까지 여러 하위 시스템으로 전파될 수 있는 특성을 함께 다루기 위한 개념적 틀이다.[1]
LLM은 Foundation Model 논의에서 중요한 사례군이지만, Foundation Model은 언어뿐 아니라 비전·로보틱스 등 더 넓은 영역을 포함할 수 있다.
이 개념은 특정 모델 아키텍처 하나를 뜻하지 않는다. 대규모 사전학습 모델이 다양한 응용의 기반이 되는 현상과, 하나의 기반 모델에서 성능·편향·안전 문제까지 여러 하위 시스템으로 전파될 수 있는 특성을 함께 다루기 위한 개념적 틀이다.[1]
LLM은 Foundation Model 논의에서 중요한 사례군이지만, Foundation Model은 언어뿐 아니라 비전·로보틱스 등 더 넓은 영역을 포함할 수 있다.
SOURCES
출처
-
On the Opportunities and Risks of Foundation Models Stanford CRFM원문 보기 ↗
KNOWLEDGE LINKS