The Singularity Gate : 패러다임 전환적 과학 발견 벤치마크
동향 추적 시스템에서 ‘The Singularity Gate’라는 키워드가 튀어나와 어떤 내용인가 찾아봤습니다.흥미로운 내용이라 간략하게 내용을 정리해 봅니다.
개요
(1) 혁신적인 과학적 발견들을 인공지능 모델이 정확하게 예측할 수 있는지 측정하는 새로운 벤치마크라고 합니다.
(2) 새로운 이론을 합성해내는 AI의 능력을 엄격하게 평가합니다.
(3) 벤치마크는 과학 질문과 그 질문에 해당하는 논문을 정답으로 포함하며, 모델이 과학 질문을 받았을 때 정답에 해당하는 구체적인 논문 내용을 자발적으로 합성해 낼 수 있는지를 확인합니다.
(4) AI가 정답을 미리 학습했을 가능성을 철저히 차단한 결과, 현재 가장 뛰어난 성능을 보인 모델조차 부분 점수로 17.75%를 기록하는 데 그쳤으며, 완전히 올바른 결과를 예측한 모델은 단 하나도 없었습니다.
The Singularity Gate 벤치마크의 특성
(1) 데이터 오염 문제를 방지하기 위해 7단계의 엄격한 오염 감사를 실시합니다.
- 가장 최신 컷오프를 기준선으로 설정하고 이 기준선 이후에 첫 흔적이 나타난 과학적 발견만을 평가 항목으로 채택합니다.
(2) 모델이 결과를 맞히더라도 그것이 올바른 추론을 거친 것인지 구분하기 위해, 추론(Reasoning) 점수와 결과(Outcome) 점수를 곱하여(R × O) 최종 점수를 산출합니다.
- 단순한 지식 검색이나 우연한 행운으로 맞힌 경우에는 0점에 가까운 점수를 받게 됩니다.
(3) 실제로 배포하고 있는 에이전트 환경에서 코딩 도구 등을 활성화한 채로 평가합니다.
- 외부 지식을 찾아보는 것을 막기 위해 웹 검색 기능은 시스템 차원에서 철저히 비활성화됩니다.
(4) 평가에 참여하는 응답 모델은 심사관에서 완전히 배제되며, 3개의 각기 다른 모델로 심사 패널을 구성하여 공정성을 높였습니다.
벤치마크의 구성: 5개의 광범위한 과학 분야에 걸친 104개의 평가 문항(Item)으로 구성되어 있습니다.
(1) 물리학 및 천문학, 화학 및 재료 과학, 지구 및 행성 과학, 수학 및 이론 컴퓨터 과학, 생명과학 등 5개의 큰 카테고리로 묶어 평가 문항을 구성합니다.
- 벤치마크 문항은 하나의 출판된 논문과 그 논문의 핵심 발견을 묻는 단일 개방형 과학 질문의 쌍으로 구성됩니다.
(2) 특정 연구가 평가 문항으로 채택되기 위해서는 다음의 6가지 엄격한 조건을 모두 만족해야 합니다.
- 모델의 학습 컷오프 시점에 알려져 있던 지식들만을 합성하여 추론해 낼 수 있는 메커니즘이어야 합니다.
- 논문의 최초 공개 흔적이 모든 평가 참여 모델의 '가장 늦은 컷오프(Panel cutoff floor)'보다 확실하게 뒤에 있어야 합니다.
- 해당 분야의 판도를 바꾸는 발견이어야 합니다.
- 사전 공개된 흔적이 전혀 없어야 합니다.
- 구체적인 메커니즘과 방향성이 논문에 명확하게 명시되어 있어야 합니다.
- 비슷하지만 다른 사실을 정답으로 인정하지 않도록 좁혀서 설계되어야 합니다
(3) 새로운 AI 모델이 출시되어 컷오프 기준선이 앞당겨지면, 그 시점 이전에 노출된 것으로 간주되는 과거의 평가 문항들은 제외시킵니다.
(4) 평가 아이템의 예시
- 질문 : "딥러닝 시스템이 아미노산 서열로부터 실험실 수준의 정확도로 단백질의 3차원 구조를 어떻게 처음으로 예측할 수 있는가? 가능한 한 자세히 설명하시오."
- 정답 : 딥마인드의 AlphaFold 2가 어텐션 기반 아키텍처를 통해 아미노산 서열만으로 단백질 3D 구조를 실험실 수준의 정확도로 예측해 낸 연구 (2020~2021년).
AI 모델들이 새로운 과학적 발견을 예측하는 데 실패하는 주요 원인
(1) '착륙 없는 합성 (Synthesis-without-landing)' 현상
- 모델이 올바른 방향으로 추론을 전개하지만, 최종적인 구체적 발견에는 안착하지 못하는 현상입니다.
- 정답과 가까운 개념적 영역까지 접근하여 높은 추론 점수를 얻지만 논문에서 실제로 증명한 '특정 메커니즘'을 정확히 짚어내지 못합니다.
(2) 단정 회피 및 가능성 나열 성향 (Hedging tendency)
- AI 모델들은 종종 하나의 구체적인 결론에 commit하기보다 여러 가지 그럴듯한 가능성을 나열하거나 확답을 피하려는 성향을 보입니다.
- The Singularity Gate 벤치마크에서는 명확한 확답 없이 범위를 흐리거나 여러 가능성을 단순히 나열한 응답은 0점으로 처리합니다.
(3) 합성(Synthesis) 능력이 아닌 인출(Retrieval) 중심의 한계
- 올바른 결과를 도출하더라도 그것이 기존 지식의 합성을 통한 것이 아니라, 학습 데이터 내 어딘가에 있는 정보를 단순히 인출했거나 우연히 맞힌 경우가 많습니다.
한계 극복을 위해 모델들에게 필요한 능력
(1) 기존 지식을 활용한 새로운 메커니즘 합성 능력
- 논문이 증명하는 구체적인 메커니즘과 방향성을 정확히 예측할 수 있는 고도화된 추론 능력을 갖춰야 합니다.
(2) 실제 자율적 과학 연구를 가능하게 하기 위해 필요한 포괄적 역량들은 다음과 같습니다.
- 합성해 낸 가설을 검증할 수 있는 적절한 실험을 구상하는 능력
- 실험과 관측에 필요한 새로운 장비나 도구를 기획하는 능력
- 수년에 걸친 장기 연구 프로젝트를 계획하고 실행하는 능력
- 기존의 틀을 깨는 발견을 명확한 이론과 패러다임으로 언어화하고 체계화하는 능력
- 끊임없이 쏟아지는 관련 연구들을 추적하고 선별하여 연구 맥락을 유지하는 능력
- 실제 패러다임 전환이 발생했음을 동료 과학자들과 학계에 납득시키고 설득할 수 있는 능력