일부 수학자들, AI 생성 증명이 그들의 분야에 범람하자 OpenAI 보이콧 촉구

일부 수학자들, AI 생성 증명이 그들의 분야에 범람하자 OpenAI 보이콧 촉구

OpenAI가 수백 건의 AI 생성 수학 원고를 공개한 후, 인간 수학 협회는 보이콧을 촉구하고 있습니다. 많은 논문이 너무 밀도가 높고 기이하게 쓰여 있어 최고 전문가들조차 AI의 도움이 있어야 해독할 수 있으며, 아예 불가능한 경우도 있습니다. 증명이 독립적으로 검증되고 인간이 이해할 수 있게 되기 전에 문제가 해결된 것으로 인정될 수 있는지에 대한 논쟁이 형성되고 있습니다.

인간 수학 협회(AHM)는 OpenAI가 AI 증명 을 공개함으로써 과학 연구의 핵심 규범을 위반했다고 비난하며, 수학자들에게该公司와의 협력을 중단할 것을 촉구하고 있습니다.

필즈상 수상자이자 이 단체의 의장인 테렌스 타오는 성명을 게스트 포스트로 공유했으며 블로그에 올리는 한편, 마스토돈(Mastodon)에서 문제 해결이 더 이상 이 학문의 주된 초점이 되어서는 안 된다는 "Math 2.0" 시대를 구상하기도 했습니다. 복잡성 이론가 스콧 애런슨(Scott Aaronson)은 자신의 블로그.

에서 이 상황을 "Mathocalypse"라고 묘사했습니다. AHM 성명은 수개월간 이어진 논쟁을 격화시키는 것입니다. OpenAI는 이미 내부 모델이 한 달 만에 100개가 넘는 미해결 수학 문제 를 해결했으며 그중 나비에-스토크스 밀레니엄 문제에 대한 접근법도 포함되어 있다고 주장하며 파장을 일으킨 바 있습니다. 커지는 비판에 대응해, OpenAI는 고등연구소(Institute for Advanced Study)에 자문 단체 AGMAI를 설립했 지만 이 단체는 회사의 내부 연구 속도에 대해 명시적으로 아무런 발언권이 없습니다.

AHM, 이번 공개를 힘의 과시로 간주

AHM은 OpenAI가 내부 모델로 고급 수학 문제를 시험해서는 안 된다는 AGMAI 조언의 핵심 전제를 이미 무시했다고 말합니다. 성명은 "수학자들은 이런 작업을 해달라고 요청한 적이 없다"고 적으며, 700개가 넘는 파일을 한꺼번에 공개한 것을 "학문의 과시가 아니라 힘의 과시"라고 표현했습니다.

성명의 첫 문단에서는 OpenAI가 전 세계에서 벌이고 있는 수많은 저작권 소송도 언급하며, 직접적으로 말하지는 않지만 회사가 합법적이든 아니든 수학자들의 저작으로 학습했기 때문에 이러한 성과를 낼 수 있었다는 점을 암시합니다.

같은 논쟁은 OpenAI가 최근 두 수학자가 자신들의 AI 보조 솔루션을 발표하기 직전 나비에-스토크스 문제 의 해결을 발표하면서 표면화되었습니다. 두 사람은 연구에 ChatGPT를 사용했으며, OpenAI는 자신들이 해당 상호작용의 데이터 를 자사 시스템 학습에 사용해 더 빨리 해결책에 도달했다는 의혹을 부인했습니다.

Aaronson은 이를 그가 "Anthropic 모델"이라 부르는 것과 대비시킨다. OpenAI는 원시 AI 증명 초고를 한 번에 공개하여, 이를 소화하려는 경쟁을 촉발시킨다. Anthropic은 대신 두 명의 알고리즘 연구자와 협력했다 이들의 AI 모델은 20년 된 두 추측을 반증하는 핵심 아이디어를 제공했다. 연구자들은 보상을 받았고, 인간이 따라갈 수 있는 버전의 증명을 작성했다.

두 접근 방식 모두 단점이 있다. OpenAI의 방식은 커뮤니티가 증명을 읽기 쉽게 만드는 고된 작업을 무료로 떠맡게 한다. Anthropic의 방식은 민간 기업이 어떤 수학자가 결과의 "사절" 역할을 맡게 할지 선택할 수 있게 한다.

AI는 누구도 결과를 검증할 수 있는 속도보다 빠르게 수학 문제를 열어젖히고 있다

Tao는 이전에 합류한 적이 있습니다 다른 24명의 필즈 메달 수상자피터 숄체, 마리나 비아조프스카, 마틴 헤이러를 포함한 저명 수학자들과 함께 AI 산업의 목표와 수학의 목표 사이의 "심각한 불일치"를 경고하는 성명서에 서명했습니다. 그들은 문제 풀이는 개념적 이해라는 이 분야의 진정한 목표를 위한 하나의 도구일 뿐이며, 점점 더 빠른 속도로 풀린 문제를 대량 생산하는 것은 "새로운 아이디어에 생명을 불어넣는 대신 비옥한 토양을 파괴할 수 있다"고 주장합니다.

서명자들은 또한 충분한 문서화나 관련 선행 연구의 인용 없이 AI 생성 솔루션을 성급하게 발표하는 것을 비판하며, 이것이 \"심각한 귀속 및 표절 문제\"를 제기한다고 말했다.

에 마스토돈(Mastodon), 이제 Tao는 한 걸음 더 나아갑니다. 전통적인 수학에서는 오랫동안 미해결이었던 난제에 대한 증명이 강연, 워크숍, 새로운 공동 연구 및 교과서 수록으로 이어지며, 이를 이해하고 맥락화하기 위해 노력하는 젊은 연구자들을 끌어들였습니다.

이제 그는 정반대의 상황을 보고 있습니다. 문제들이 해당 분야에 관심이 없고 결과를 충분히 이해하지 못해 질문에 답하거나 강연을 할 수 없는 AI 사용자들에 의해 자율적으로 해결되고 있으며, 그로 인해 전통적인 돌파구 해결에 비해 세미나와 협력이 훨씬 적게 이루어지고 있습니다. 또한 연구자들은 경쟁자가 해결책을 가로챌까 우려하여 유망한 연구 방향을 숨겨두고 있습니다.

Tao에게 이 손해는 되돌릴 수 없습니다. 일단 문제가 해결된 것으로 간주되면 다시 미해결 상태로 만들 수 없습니다. 해답이 존재한다는 것만 알고 있어도, 그가 표현하듯이 더 많은 통찰을 가져다줄 수 있는 다른 접근 방식을 찾는 탐구가 "오염"될 수 있습니다. 해답들이 대규모로 "수확"되면서 수학의 여러 분야 전체가 예전보다 비옥하지 못하게 되었습니다.

Tao는 "Math 2.0" 시대가 문제 해결을 발전의 주요 척도로 삼는 것을 멈추고, 설명, 커뮤니티 형성, 새로운 연구 방향의 개척을 가치 있게 여기기 시작해야 하며, 그에 따라 훈련, 출판, 경력 진급이 어떻게 평가되는지도 바뀌어야 한다고 주장했다.

이는 Tao의 이전 비전인 "산업 수학" 2024년부터라고 말했지만, 그 버전에서는 여전히 인간이 속도를 조절했습니다. AI는 체스 선수를 보조하는 엔진처럼 수학자들을 보조하여, 인간 전문가들의 더 깊은 연구를 보완하는 광범위하고 비교적 피상적인 연구를 가능하게 할 것으로 여겨졌습니다. 오늘날 Tao는 그 역할이 뒤바뀌었다고 봅니다. AI가 깊은 문제들을 해결하는 동안 인간은 그 결과를 사후에 검토하는 방식으로 일하고 있습니다. 다른 여러 전문가들과 마찬가지로, 타오는 분명히 AI 개발 속도를 심각하게 과소평가했다.

이제 단 3시간의 AI 연산 능력이 수학자의 평생 경력에 필적할 수 있습니다

Aaronson은 이론 컴퓨터 과학의 미해결 문제인 Unique Games Conjecture에 경력 전체를 바쳐온 아내 Dana Moshkovitz의 경험을 통해 이것이 개별 연구자들에게 어떤 의미인지 보여준다. 공개된 내용에는 이 문제에 대한 주장된 증명이 포함되어 있다.

공개된 날 밤 애런슨(Aaronson)에게 보낸 문자 메시지에서 그녀는 "환각제를 복용한 사람이 쓴 것 같은 느낌이다"라고 썼다. 문서의 상당 부분이 불분명했다. 이 논문은 수많은 문헌을 인용하면서도 그것들이 왜 적용되는지 설명하지 않았는데, 사실 이전 결과들이 그럴 수 없음을 이미 보여주었어야 했다.

"기본적으로 이 논문은 너무 엉망으로 쓰여 있어서 AI의 도움 없이는 읽는 것이 불가능합니다"라고 Moshkovitz는 말했다. 그 증명은 그녀가 "어떤 외계인의 미친 짓 같은 것"이라고 표현한 완전히 새롭고 기괴한 구성에 의존했다.

Aaronson는 몇몇 남아 있는 Clay Millennium Problems에서의 부분적 진전을 포함하여 복잡도 이론, 정수론, 알고리즘 연구의 다른 결과들을 나열한다. 그의 견해로는 그중 어떤 하나만으로도 그 자체만으로 올해의 최고 결과 중 하나로 꼽혔을 것이다.

다만 한 분야는 이번 발표에서 빠져 있다. 바로 암호학이다. 익명의 소식통을 인용해 Aaronson은 AI 기업들이 이제 조용히 탐색하고 있다고 보도했다. 암호화 프로토콜의 취약점 전체적으로 약 8,000개의 문제가 테스트되었으며, 성공률은 대략 5%였고 문제당 평균 GPT-Pro 수준의 3시간의 연산이 사용되었습니다. 사용된 모델은 아마도 OpenAI의 현재 내부 모델이었을 것으로 보이며, 이 모델은 앞으로 몇 달 안에 유료 ChatGPT 고객에게 제공될 수 있습니다.

수학자들은 보이콧이 도움이 될지에 대해 의견이 분분하다

Tao의 블로그 게시물에 달린 댓글들은 이 분야가 얼마나 분열되어 있는지를 보여줍니다. 여러 댓글 작성자들은 보이콧을 지지하면서 연구자들이 OpenAI 제품 사용을 중단할 것을 제안하는 한편, arXiv 같은 프리프린트 서버가 학습 데이터의 대량 수집으로부터 더 나은 보호를 받아야 한다고 촉구합니다.

다른 이들은 AHM의 입장이 비현실적이라고 생각하며, OpenAI가 수학 연구를 중단하지 않을 것이고 공개된 결과가 비공개 결과보다 낫다고 주장한다. 또 다른 댓글 작성자는 저자도 다른 누구도 증명을 완전히 이해하지 못한다면 그 문제가 정말 풀린 것으로 간주될 수 있는지 묻는다. Navier-Stokes의 경우, 그 결과가 실제로 누군가의 유체역학 이해를 심화시켰는지는 여전히 불분명하다.

AGMAI 자체는 AHM보다 더 외교적인 입장을 취하며, 이번 공개를 첫걸음으로 보고 결과에 대한 수학적 이해는 이제 막 시작되는 단계라고 본다. 그럼에도 이 단체는 수학 연구의 미래가 AI 연구소가 산출한 결과를 검토하는 것으로만 이루어질 수는 없다고 경고한다.

"수학자들은 자신의 질문을 스스로 formulat하고, 자신의 접근 방식을 개발하며, AI 시스템의 능력 사례로 선정되지 않은 방향들도 탐구할 수 있어야 합니다. 강력한 연구 도구와 충분한 컴퓨팅 자원에 대한 공평한 접근은 그러한 자유에 필수적입니다,"라고 이 단체는 쓴다.

과장 없는 AI 뉴스 – 인간이 엄선

광고 없는 읽기, 주간 AI 뉴스레터, 연 6회 독점 "AI Radar" 프론티어 리포트, 전체 아카이브 접근, 댓글 섹션 이용을 위해 THE DECODER를 구독하세요.

전체 내용을 확인하려면 계속 읽으세요.
과장 없는 보도를 위해 구독하세요.

• THE DECODER의 모든 기사 전체 이용
• 광고 없음
• 댓글 및 커뮤니티 토론 참여
• 매주 이메일로 받는 AI 뉴스 요약
• 연 6회: "AI Radar" — 가장 중요한 AI 주제 심층 분석
• 매일의 AI 뉴스, 항상 최신 정보
• 10년 전체 아카이브
• AI 분야 10년 이상 경력의 팀이 제공