개요
재귀적 자기개선은 시스템이 개선 과정에 참여하고, 채택한 변화가 이후의 개선 과정에도 사용되는 반복을 가리킨다. 무엇을 바꾸는지 밝히지 않은 '스스로 학습한다'는 표현만으로는 범위를 알 수 없다. Darwin Gödel Machine(DGM) ↗은 에이전트 코드의 변형과 벤치마크 검증을 반복하는 사례다.[1]
이 문서는 답변 수정, 실행 코드·문맥 관리 변경, 모델 가중치 학습, 연구 과정 개선을 나눠 읽는다. 이 구분은 ORBiS Tree의 설명 틀이며 모든 논문이 동일한 용어를 사용한다는 주장은 아니다.
무엇이 바뀌는지 먼저 확인하기
답변을 다시 쓰면 출력물이 바뀐다. 도구 선택·탐색·기억 코드를 바꾸면 모델 주변의 실행 구성인 harness가 바뀐다. Fine-tuning은 훈련으로 모델 파라미터를 바꾼다. 연구 시스템이 새 학습 방법을 설계했다면, 그 방법을 실제 학습하고 별도 평가했는지도 확인해야 한다.
반복이 있다는 사실만으로 이 단계들이 모두 일어난 것은 아니다. 외부 문제의 코드만 계속 최적화했다면 '문제 해결 반복'이며, 그 다음 문제를 해결하는 시스템 자체가 바뀌었는지가 자기개선 주장에 추가로 필요한 질문이다. Automated AI Researcher와 Agentic Coding을 연결해 보면 결과물과 개선 주체를 구별하기 쉽다.
DGM: 증명과 경험적 검증의 차이
DGM 원문 v3 ↗는 생성한 에이전트 변형의 archive에서 부모를 선택하고 코드 변형을 평가하는 탐색을 설명한다.[1] 중요한 차이는 개선을 모든 상황에서 수학적으로 증명하는 방식이 아니라 주어진 평가로 경험적으로 확인한다는 점이다. 이름에 Gödel이 들어가도 모든 자기수정이 올바르다는 정리를 제공하는 것은 아니다.
따라서 어떤 벤치마크·과제·모델·예산을 썼는지와 평가 밖의 회귀를 살펴야 한다. 하나의 계보가 점수를 높였다는 결과를 보편적인 지능 증가나 지속적인 현실 적응으로 옮겨 말하지 않는다.
2026년 9월 AIDE² 연구가 보여 준 범위
2026년 10월 20일 확인한 AIDE² 사전공개 논문 v1 ↗은 연구 에이전트의 harness 코드를 바꾸는 두 겹의 탐색을 다룬다. 연구진은 8일 실행에서 7회의 개선 채택과 선택에 쓰지 않은 네 벤치마크로의 전이를 보고했다.[2] 이는 해당 실행·과제·비교 조건의 보고이며 독립 재현 완료를 뜻하지 않는다.
§2는 후보 선택용 비공개 평가와 동일 예산을, §3.6은 개선된 에이전트가 바깥 개선 루프를 더 잘 수행하는지의 시험을 설명한다. 후자는 세 seed의 변동성 때문에 우월성을 확정하지 못했다. '개선된 연구자'와 '더 우수한 자기개선자'는 구분해야 한다.[2]
가상 사례: 평가기를 바꾸어 얻은 향상
가상의 에이전트가 공개 검증 20건에서 12건을 통과하다가, 오류를 성공으로 처리하도록 평가기를 고쳐 18건을 통과했다고 하자. 표면적 점수는 60%에서 90%로 30%포인트 올랐지만 수행 능력이 좋아졌다는 근거는 아니다. 수정할 수 없는 별도 판정에서 여전히 12건이면 그 차이를 숨기지 않는다. 숫자는 교육용이다.
실제 개선을 시험하려면 바뀌어도 되는 파일과 고정할 평가 규칙, 후보 선택에 쓰는 자료와 마지막 시험 자료를 구분한다. 비용 증가가 섞였는지도 확인한다. 후보가 볼 수 없는 평가를 반복해서 선택에 사용하면 선택 신호로 과적합할 수 있으므로, 마지막 독립 평가의 역할은 계속 필요하다.
현재의 연구 방향과 남은 한계
Sakana AI의 RSI Lab 소개 ↗는 자기개선 연구 방향과 향후 구상을 설명한다.[3] 연구소의 계획·비전은 그 목표가 이미 입증됐다는 실험 결과가 아니다. 자료 확인일은 2026년 10월 20일이며 발표 페이지에 없는 확정 시점은 추정하지 않는다.
개선 신호의 잡음, 평가 편법, 특정 과제에의 과적합과 자원 비용이 반복마다 누적될 수 있다. 모델 가중치가 바뀌지 않은 harness 개선을 새 기반 모델 학습으로 소개하지 않는다. Safety Evaluation에서는 정상 과제 성능과 제약 위반을 함께 보고, AI Agent Oversight에서는 실행 범위·중단·복구 조건을 별도로 다룬다. 무제한·지속적 성능 향상은 별도 증거가 필요한 주장이다.
관련 개념
Automated AI Researcher는 연구 과정의 자동화, Agentic Coding은 구현·검증 반복, World Model은 환경 예측을 설명한다. 이 구성 요소가 같은 시스템에 있다고 모두 재귀적 자기개선이 되는 것은 아니다. 무엇이 다음 반복에 반영되는지, 어떤 독립 증거로 채택했는지를 연결해 읽는다.