AI生成の証明が数学の分野にあふれた後、一部の数学者たちがOpenAIのボイコットを呼びかけている

AI生成の証明が数学の分野に氾濫し、一部の数学者たちがOpenAIのボイコットを呼び掛けています

OpenAIが数百本のAI生成の数学原稿を公開した後、人類数学協会はボイコットを呼びかけている。多くの論文は密度が高く奇妙な文体で書かれているため、第一線の専門家でも、解読にAIの助けを必要とし、それでも解読できないことさえある。証明が独立に検証され、人間が理解できるようになる前に、その問題は解決済みと見なせるのかをめぐり、論争が形になりつつある。

人間数学協会（AHM）は、OpenAIが同社の公開した～により科学研究の中核規範に違反したとして非難している。 AI耐性証明 そして、数学者たちに同社との協業をやめるよう促している。

このグループの議長を務めるフィールズ賞受賞者テレンス・タオ氏は、 その声明をゲスト投稿として共有しました 自分のブログで、またMastodon上では「Math 2.0」時代を概説し、問題を解くことがもはやこの分野の主な焦点であるべきではないと述べた。計算複雑性理論研究者のScott Aaronsonは、この状況を「Mathocalypse」と表現した。 彼のブログ.

AHMの声明は 数か月にわたる議論OpenAIはすでに、内部モデルがある問題を解いたと主張して騒動を巻き起こしていた。 100件以上の未解決の数学問題 1か月以内で、その中には近づきも含まれる ナビエ・ストークス・ミレニアム問題。批判の高まりを受けて、 OpenAIは諮問グループAGMAIを設立しました 研究所は内部研究のペースについて明示的に何も発言権を持たないが。

AHMはこの発表を武力誇示と見ている

AHMは、OpenAIがすでにAGMAIの助言の中心的な前提——高度な数学の問題を内部モデルでテストすべきではないというもの——を無視していると述べている。「数学者たちはこのような作業を行うよう求めていなかった」と声明は述べ、700を超えるファイルを一度に公開したことを「学問の実証ではなく、力の実証だ」と表現している。

声明の冒頭の段落では、OpenAI が世界中で係争中の多くの著作権訴訟にも触れており、直接は示唆していませんが、同社がこれらの成果を達成できたのは、合法かどうかは別として、数学者たちの業績を使って訓練したからだ、ということをほのめかしています。

OpenAIが最近この問題の解決策を発表した際にも、同じ争いが浮上した。 ナビエ–ストークス問題 2人の数学者がAI支援による独自の解法を発表できる直前のことだった。2人は研究でChatGPTを使用していたが、OpenAIはそれを使用したという疑いを否定した。 それらのやり取りからのデータ 自社のシステムを訓練し、より速く解決策に到達するためである。

アーロンソンは、これを彼が「Anthropicモデル」と呼ぶものと対比させる。OpenAIはAIによる証明の草稿を未加工のまま一括で公開し、それらを検証する競争を引き起こした。 一方Anthropicは、2人のアルゴリズム研究者と提携した。 同社のAIモデルが、20年以上前の2つの予想を反証するための鍵となるアイデアを提供したのだ。研究者には報酬が支払われ、人間が読める形の証明を執筆した。

どちらのアプローチにも欠点がある。OpenAIの手法では、証明を読みやすくするという感謝されない作業をコミュニティが無料で担わされる。Anthropicの手法では、民間企業がどの数学者を結果の「使者」とするかを選べることになる。

AIは、誰もが結果を検証できるスピードを超えて、数学の問題を解き明かしつつある

Taoは以前にも参加していた 他の24人のフィールズ賞受賞者、Peter Scholze、Maryna Viazovska、Martin Hairer などを含む数学者たちが、AI業界の目標と数学の目標との間の「深刻な不一致」を警告する声明に署名した。彼らが主張するには、問題を解くことは、概念的理解というこの分野の真の目標のための単なる道具であり、ますます速いペースで解かれた問題を大量生産することは、「新しいアイデアに命を吹き込むどころか、肥沃な土地を破壊しかねない」という。

署名者らはまた、適切な論文や関連する先行研究の引用なしにAI生成の解決策を性急に発表することを批判しており、これは「深刻な帰属および剽窃の問題」を引き起こすと述べている。

On Mastodon、Taoは現在さらに踏み込んでいる。伝統的な数学では、長年未解決だった問題の証明は講演やワークショップ、新たな共同研究、教科書への掲載につながり、それらを理解し文脈づけようとする若い研究者たちを引きつけてきた。

今や彼はその逆を目にしている。問題は、その分野に関心がなく、結果を質問に答えたり講演をしたりできるほど十分に理解できないAIユーザーによって自律的に解決されており、従来のブレークスルーであれば生まれたはずのセミナーや共同研究がはるかに少なくなっている。また、研究者たちは競合他社に解決策を先を越されることを恐れて、有望な研究方向を控えている。

陶氏にとって、その損害は取り返しがつきません。一度問題が解決済みと見なされると、未解決に戻すことはできません。解が存在すると知っているだけで、さらなる洞察をもたらしうる他のアプローチの探索を、彼の言葉を借りれば「汚染」してしまうのです。解は大規模に「収穫」されており、数学の分野全体が以前より豊かさを失いつつあります。

Tao氏は、「Math 2.0」の時代は、問題解決を進歩の主な尺度として扱うのをやめ、説明、コミュニティの構築、そして新しい研究の方向性の開拓を重視すべきであり、それに応じて研修、出版、キャリアアップの評価方法も変える必要があると主張している。

これはTao氏の以前の「という構想に基づくものである。産業数学「ただし2024年版では、ペースを設定するのは依然として人間でした。AIは、エンジンがチェスプレイヤーを支援するのと同じように数学者を支援するはずのもので、人間の専門家による深い研究を補完する、幅広く比較的表面的な研究を可能にする予定でした。今日、Taoはその役割が逆転したと見ています。AIが深い問題を解決し、人間はその後、その結果を検証していくのです。」 他の多くの専門家と同様に、Taoはどうやら AI開発のペースをひどく過小評価していた.

わずか3時間のAI計算が、数学者のキャリア全体に匹敵しうる時代になった

アーロンソンは、この意味が個々の研究者にとって何を意味するかを、理論計算機科学の未解決問題であるユニークゲームス予想にキャリアの全てを捧げてきた彼の妻、ダナ・モシュコヴィッツの経験を通して示している。その予想の証明と称するものが今回の公開物に含まれている。

公開当夜、アーロンソンへのテキストメッセージで彼女は「サイケデリックスを服用している人の書いたもののようだ」と書いた。文書の多くは不明瞭だった。論文は多数の先行研究を引用しながら、それらがなぜ当てはまるのかを説明していなかった。先行する結果がそれを排除しているはずなのにもかかわらず。

「基本的にこの論文はひどく書かれていて、AIの助けなしには読むことが不可能です」とMoshkovitz氏は述べた。その証明は、彼女が「まるでエイリアンの狂気のようなもの」と表現した、まったく新しく奇妙な構成に依拠していた。

アーロンソンは、計算理論、数論、アルゴリズム研究からの他の成果を挙げており、その中にはまだ残されているいくつかのクレイ・ミレニアム問題に関する部分的な進展も含まれている。彼の見解では、そのどれひとつをとっても、それ単独でその年のトップクラスの成果に数えられたであろうという。

しかし、今回の公開において顕著に欠けている分野が一つある。暗号学だ。情報筋の名を明かさない形で、AaronsonはAI企業が現在こっそりと検討を進めていると報じている 暗号プロトコルにおける脆弱性 そしてプリミティブです。全体で約8,000問がテストされ、成功率はおよそ5パーセント、1問あたりGPT-Proレベルで平均3時間の計算が使われました。使用されたモデルはおそらくOpenAIの現在の内部モデルでもあり、今後数か月以内にChatGPTの有料顧客に提供される可能性があります。

数学者たちの間では、ボイコットが役立つかどうかについて意見が分かれている

Tao氏のブログ記事へのコメントは、この分野がいかに分裂しているかを物語っています。複数のコメント投稿者がボイコットを支持し、研究者がOpenAI製品の使用をやめることを提案するとともに、arXivのようなプレプリント・サーバーを訓練データの大量収集からより適切に保護するよう求めています。

また、OpenAIは数学の研究をやめることはなく、公開されている成果の方が非公開のものより優れていると主張し、AHMの立場は非現実的だとみなす人々もいます。別のコメント投稿者は、著者にも他の誰にも証明が完全に理解されていない問題が、本当に「解決済み」と言えるのかと問いかけています。ナビエ・ストークス方程式の場合、この成果が実際に流体力学の理解を深めたかどうかは依然として不明です。

AGMAI自身 はAHMよりも外交的な立場をとっており、この公開を第一歩と捉え、成果に対する数学的理解はようやく始まったばかりだと考えています。それでも同グループは、数学研究の未来がAI企業が生み出した成果の検証だけで成り立つことはできないと警告しています。

「数学者は、自ら問いを立て、自らのアプローチを開発し、AIシステムの能力の例として選ばれていない方向性を探究できなければなりません。強力な研究ツールへの公平なアクセスと十分な計算資源は、その自由に不可欠です」と同団体は書いています。

誇張なしのAIニュース – 人間によるキュレーション

THE DECODERを購読すると、広告なしの閲覧、週次AIニュースレター、年6回の限定「AI Radar」フロンティアレポート、全アーカイブへのアクセス、コメント欄へのアクセスが利用できます。

詳しい全容は以下をお読みください。
誇張なしの報道は購読で。

• THE DECODERの全記事へのフルアクセス
• 広告なし
• コメント欄とコミュニティの議論に参加
• 週次のAIニュースまとめをメールで配信
• 年6回：「AI Radar」— 最も重要なAIトピックを深掘り
• 毎日のAIニュース、常に最新
• 創刊10年分の完全アーカイブ
• AI分野で10年以上の経験を持つチームによる報道