System Card

System Card는 단일 머신러닝 모델의 특성만 기록하는 문서보다 넓은 범위에서, 실제 AI 시스템을 구성하는 여러 모델과 데이터 흐름, 비모델 구성요소, 상호작용과 사용 맥락을 설명하기 위한 문서화 방식이다. Meta의 System Cards 연구는 개별 모델 문서를 넘어 시스템 수준의 투명성을 제공하는 접근을 제안했다.^[1]

Model Card가 특정 모델의 용도, 평가와 제한을 중심으로 기록한다면 System Card는 여러 구성요소가 실제 제품 안에서 어떻게 연결되는지까지 다룰 수 있다. 같은 모델을 사용하더라도 검색, 정책 필터, 외부 도구, 사용자 인터페이스와 데이터 처리 방식이 달라지면 최종 시스템의 행동과 위험도 달라질 수 있기 때문이다.^[1]

System Card에는 Safety Evaluation과 Red Teaming의 범위와 결과, 알려진 제한사항, Data Provenance과 관련된 데이터 흐름, 배포 시 적용한 완화책 등을 연결할 수 있다. 문서를 작성했다는 사실 자체가 안전성을 보장하지는 않으며, 시스템 변경에 맞춰 실제 상태와 평가 결과를 지속적으로 갱신하는 것이 중요하다.