AI for Science

AI for Science는 과학 자료를 분석하고 예측 모델을 만들거나 실험할 후보를 좁히는 데 AI를 사용하는 접근이다. Google DeepMind는 단백질·재료 등 여러 과학 분야의 AI 연구를 소개한다.^[1] AI-driven scientific discovery라는 표현은 이런 흐름을 넓게 가리키지만, 모델이 제안한 결과가 실험으로 확인된 발견인지까지 따로 읽어야 한다.

예측은 관찰되지 않은 값이나 구조를 추정하는 일이고, 후보 탐색은 제한된 자원으로 무엇을 다음에 시험할지 정하는 일이다. 그 결과가 자연 현상의 원인을 설명하는 이론과 같지는 않다. 높은 예측 정확도만으로 인과관계가 증명되거나 연구의 모든 단계가 자동화됐다고 판단할 수 없다. 이 구분은 ORBiS Tree가 연구 발표를 읽기 위해 정리한 관점이다.

AlphaFold는 단백질 구조 예측과 관련 분자 상호작용의 모델링을 다루는 대표적인 AI 연구 사례다.^[2] 예측 구조는 후속 연구의 단서가 될 수 있지만 특정 환경에서의 기능·효과를 자동으로 확인하는 실험 결과와 같지 않다. 논문이나 발표를 읽을 때 입력 조건, 비교 기준과 확인되지 않은 부분을 함께 본다.

Automated AI researcher나 AI-led AI R&D라는 표현은 문헌 정리부터 가설 제안·분석·실험 관리까지 서로 다른 범위에 쓰일 수 있다. AI agents for biology도 생물학 자료를 찾는 에이전트와 실제 연구 행동을 수행하는 시스템을 구분해야 한다. 어떤 단계를 도구가 수행했는지, 사람이 어떤 판단을 했는지, 결과가 재현됐는지 명시해야 과도한 자동화 주장을 피할 수 있다. 여기서는 위험한 실험 절차보다 자료 분석과 검증의 경계를 다룬다.

다음은 가상 사례다. 연구팀이 과거 측정 자료로 물성 예측 모델을 만들었다고 하자. 평가 자료에 학습 자료와 거의 같은 표본이 섞이면 실제보다 성능이 높게 보일 수 있다. 시간·표본 계열·수집 기관 등 자료 구조에 맞춰 겹침을 살펴보고, 새 조건의 자료에서 성능을 따로 기록한다. 평가 자료 오염과 자료 출처가 연결되는 지점이다.

자료 버전, 전처리, 모델 설정, 평가 분할과 실패 사례를 함께 남기면 결과를 재검토하기 쉽다. AI가 제안한 후보, 계산으로 얻은 예측, 실제 관찰·실험으로 확인한 결과를 구분한다. Datasheets for Datasets는 자료의 구성과 사용 한계를 기록하는 배경 문서이며, AI Agent Oversight는 자동화 과정의 권한과 검토 경계를 설명한다.

Google DeepMind의 과학 연구 소개 ↗는 여러 분야의 적용 사례를 보여준다.^[1] 독자는 자료 수집, 예측, 후보 선정, 실제 관찰, 결과 해석 중 무엇을 AI가 수행했는지 구분해야 한다. 문헌을 모은 에이전트와 실험 결과를 독립적으로 재현한 연구는 같은 성과가 아니다.

AlphaFold 자료 ↗는 구조·상호작용 예측의 대표적인 배경이다.^[2] 이 문서의 아래 예시는 단백질 실험 절차가 아니라 일반적인 예측 연구의 검증 구조를 설명한다. 예측값, 불확실성 정보와 실제 관찰값을 구분해 기록하면 과장된 발견 주장을 줄일 수 있다.

가상의 물성 자료 120개 중 90개를 학습에, 30개를 평가에 사용했다고 하자. 평가의 30개가 학습 표본과 같은 제조 배치에서 나온 가까운 변형이면, 무작위 분할 점수가 새 제조 조건의 성능을 보여준다고 단정하기 어렵다. 배치·표본 계열·시간에 따라 묶고, 목표로 삼는 새 조건을 실제로 분리했는지 확인한다.

가상의 예측값이 10, 20, 30이고 관찰값이 12, 18, 33이면 절대 오차는 2, 2, 3이며 평균 절대 오차는 7÷3≈2.33이다. 값의 단위와 범위를 적지 않은 2.33은 비교하기 어렵다. 중요한 일부 조건에서 큰 오류가 나는지도 평균과 별도로 본다. 이 숫자는 연구 결과나 특정 모델의 성능이 아니다.

후보를 고른 이유, 사용한 자료 버전, 전처리와 모델 설정, 평가 분할, 실제 확인 방법을 한 기록으로 연결한다. 실패한 후보를 기록에서 빼면 성공 사례만 남는 편향이 생긴다. AI가 작성한 설명은 관찰되지 않은 원인을 확정하는 근거로 쓰지 않고, 확인할 가설과 연결한다.

평가 자료 오염은 학습과 평가의 겹침을, 자료 출처는 원본과 변환을, 데이터시트는 자료의 모집단과 사용 한계를 살펴보는 연결점이다. 범용 모델의 능력과 특정 과학 과제의 검증을 같은 주장으로 합치지 않는다.

Automated AI researcher가 논문 초안을 만들었다면 자료·계산·근거를 다시 열 수 있는지 확인한다. 새로운 발견이라고 주장하려면 해당 분야의 검증과 재현 조건을 따로 만족해야 한다. 도구 실행의 성공, 설명문의 완성, 연구 주장의 성립은 서로 다른 완료 기준이다. 에이전트 감독과 모델의 평가 범위를 함께 읽으면 자동화의 범위와 결과의 의미를 나누기 쉽다.