IT之家 10월 9일 소식, OpenAI가 10월에 719건의 AI 수학 풀이를 공개했으며, 372개 수학 결과 족을 망라하고 수백 건의 미해결 연구 문제를 다루었으나, 발표 후 '수학과 인공지능 자문위원회'(AGMAI)가 제시한 기준에 아직 완전히 도달하지 못한 것으로 지적되었다.
IT之家 앞서 보도, OpenAI는 10월 6일 처음에 GitHub에서 722건의 AI 생성 수학 원고를 총 공개했으며, 372개 결과 족 및 다수의 미해결 연구 문제를 다루었다. 그러나 10월 7일 한 곳의 기호 오류와 그 연쇄 영향으로 3건을 철회하여, 현재 공개 목록은 719건이다.
OpenAI는 발표 전에 프린스턴 고등연구소가 주관하는 '수학과 인공지능 자문위원회'(AGMAI)에 자문하고 그 공개 권고를 참고했다고 밝혔다. 그러나 공개된 정보로 볼 때 이번 공개는 해당 위원회가 제시한 기준에 아직 완전히 도달하지 못했다.
AGMAI는 앞서 프런티어 AI 연구소들이 독점적이고 외부 접근이 불가능한 모델에서 고난도 수학 문제를 시험하는 것을 중단할 것을 권고했고,모델 이름, 프롬프트, 추론 사슬, 소요 시간 및 계산 비용 등 정보의 공개를 요구했다. 그러나 OpenAI는 이번에도 여전히 독점 모델을 사용했으며, 단 10건의 원고에만 모델 추론 사슬이 첨부되었다.
인간 이해 가능성 측면에서 자문위원회는 AI 생성 증명이 수학자가 검토하고 배우기 쉬워야 한다고 강조했으나, 보도에 따르면 OpenAI가 공개한 증명 중 약 42%가 형식화 처리를 거치지 않았고, 자연어 증명과 형식화 산출물을 연결하는 기계 판독 가능 메타데이터도 제공되지 않았다.
AGMAI는 동시에 자신의 자문 역할이 OpenAI의 이러한 결과 입수나 공개에 대한 승인을 구성하지 않으며, 관련 권고가 충분히 이행되었는지는 최종적으로 수학계가 평가해야 한다고 성명했다. 이 사건은 AI 생성 수학 성과의 투명성, 형식화 검증, 동료 심사 및 학술 연구 자율성에 관한 논쟁을 다시 촉발했다.
테렌스 타오는 10월 7일 mathstodon에 게시글을 올려, 자신은 AI가 수학하는 것에 반대하지 않으며 오히려 AI 보조 연구의 적극적 사용자였다고 밝혔다.그러나 그는 'AI로 유명한 난제를 빠르게 공략하는 것'을 주요 목표나 제품 쇼케이스로 삼는 것에 강력히 반대한다. 그는 이것이 수학 공동체가 작동해 나가는 이해, 교육, 협력, 개방적 탐구 메커니즘을 파괴할 것이라고 생각한다.
테렌스 타오는 전통적인 수학에서 오랜 추측에 대한 돌파구는 단지 '답을 얻는 것'이 아니라고 지적했다. 저자는 보고를 하고, 세미나에 참석하고, 동료들과 교류하며, 이후 증명은 단순화되고 해석되어 교재에 수록되며, 후속 문제, 협력자, 새로운 연구 방향을 낳는다.
반면 OpenAI 등 회사의 현재 방식은 흔히 프롬프터가 AI가 자율적으로 문제를 풀도록 이끄는 것이다.목표가 일단 '해결'되면, 이후의 이해, 보고, 동료 토론, 분야 구축은 거의 일어나지 않는다. 테렌스 타오는 발표자가 AI의 출력을 설명하거나, 질문에 답하거나, 분야와 상호작용하기에조차 부족할 수 있다고 본다.
그는 이러한 상황을 수학계의 '증명 소화불량'이라 부른다. AI는 명제, 증명, 반례를 고속으로 생성할 수 있지만,인간은 검증, 이해, 저술, 교육, 흡수할 시간이 없어, 결과적으로 '아무도 소화할 수 없는 증명'이 대량으로 나타난다.
그가 특히 우려하는 것은 OpenAI가 나비에–스토크스 방정식 등 밀레니엄 난제를 모델 능력 벤치마크로 삼아 공략하는 것이다. 그의 눈에 이것은 '몇 문제를 풀었는가, 얼마나 빨리 풀었는가'를 '이해와 통찰'의 지표로 삼는 것이지만, 속도와 양 자체는 수학적 이해와 같지 않다.
테렌스 타오는 강조했다,문제가 일단 공개적으로 '해결'되면, 거의 '미해결' 상태로 되돌릴 수 없다는 점을.사람들이 나중에 다른 경로를 찾거나 그로부터 새로운 방법을 추출하고 싶어도, 답이 존재한다는 것만 알아도 이 탐구 과정을 '오염'시킨다.
따라서 그는 이것을 지속 불가능한 대규모 '수확'이라 비판한다. 열린 문제를 대량으로 소비할 수 있는 자원으로 취급하면, 결국 수학 분야 전체가 전통적 연구 방식보다 비옥하지 못하게 될 것이라는 것이다.
IT之家 주: 테렌스 타오는 현대 최고의 명성을 지닌 수학자 중 한 명이자 캘리포니아대학교 로스앤젤레스캠퍼스(UCLA) 수학 교수이며, 2006년 필즈상 수상자이기도 하다. 흔히 '수학계의 모차르트'로 불린다.
관련 독서: