IT之家 10 月 27 日付消息、潮新聞の 10 月 26 日付報道によると、フィールズ賞受賞者でシカゴ大学数学科教授の鄧煜氏は先週末の「知識分子」「赛先生」フォーラムで基調講演を行い、AI時代における数学研究についての考えを体系的に述べた。
鄧煜氏は、AIが人間に対して持つ優位性について、一方ではAIが無限の知識面を持ち、他方ではAIが極めて低い試行コスト / 試行錯誤コストを持つことだと述べた。しかし私たちは一点を堅持すべきだ、数学研究においても何においても、人は常に主体としてある；AIは一つの道具であり、私たち人間が研究に利用するための道具である。
鄧煜氏は、AIを研究者として扱うなら、学術規範を遵守すべきだと考える。もしAIが非常に重大な問題を証明したなら、非常に合理的な要求は、AIの思考連鎖を公表することだ。しかしAI企業は公表を拒んでおり、これは明らかに学術界の慣例に反している。「このAI企業はそうすることを望んでいない。同社が公表したすべての証明の中で、本当に思考連鎖を公表したのはごくわずかであり、ほとんどの場合、彼らはいわゆる蒸留防止を口実に、思考連鎖および関連情報の公表を拒んでいる。」
鄧煜氏は、AI企業にとって、人類全員のネット上の文献、人類全員の知識を自分が蒸留するときには、堂々と蒸留してはならないと述べた。実際には誰もあなたを蒸留しようとは思っておらず、みんなはただ思考連鎖を知りたいだけなのに、あなたは他人が自分を蒸留しようとしていると思い込み、これはダメ、あれはダメと言い始める。
鄧煜氏は、オープンソースの数学モデルを通じて、数学界が自分たちの手に属する独自のモデルを持つことを保証し、そのようなAI企業に依存する必要をなくすことを提案した。次に、モデルの使用も学術界の規範に従うべきであり、データの使用、思考連鎖の公表、トレーサビリティなどが含まれる。
IT之家が注目したところ、現地時間 9 月 11 日、陶哲軒（テレンス・タオ）、鄧煜、ペーター・シュルツェ（Peter Scholze）ら 25 人のフィールズ賞受賞者が最初の署名者として、共同で声明『数学におけるAIの深刻なミスマッチ』（A Severe Misalignment of AI in Mathematics）を発表し、AI企業と数学コミュニティの間で「深刻なミスマッチ」が生じつつあることを警告した。
声明によると、過去数か月で大規模言語モデルの数学能力は著しく向上し、多くの数学分野における重大な未解決問題を解けるようになった。しかし、AI企業が数学問題をベンチマークとして解決することを推進することは、数学科学と数学界の両方にとって有害である。AI企業の目標と数学界の目標は深刻にミスマッチしており、これらは他の科学やクリエイティブな職業、さらには社会全体に影響を与える、より広範なアライメント問題の一部である。
声明は、これらのAIによる解決策はしばしば性急に公開され、正式な文章を書く時間もなく、新しい方法や新しいアイデアを切り分けたり、他の研究者の関連業績を引用したりする時間もないと述べた。すべてのクリエイティブな職業と同様に、これは深刻な帰属および剽窃問題を引き起こしている。さらに、その発展と数学の正典への組み込みに責任を持つ意志のある数学家がいなければ、AIが着想したアイデアは決して完全に実現できず、数学者同士の重要な人間の伝達の連鎖も失われるだろう。