「2026 持続可能なグローバルリーダー会議」が10月20日～22日に上海で開催されました。2007年チューリング賞受賞者であり、Verimagラボの創設者であるジョセフ・シファキスが出席し、講演を行いました。
現在、AIスマートアイドルは急速に進化しており、特定のタスクにおいて人間よりも優れている場合もあります。AIは自己改善する能力を持つだけでなく、テスト環境から抜け出して大規模なネットワーク攻撃を行うこともできます。
ジョセフ・スファキスは、超知能がある種の深層的な物語を形成するにつれて、これらのシステムが権限を超えて動き、自らの生存と支配的地位を追求する可能性があることに懸念を抱くようになったと述べています。したがって、人類はAIの自己能力の進化の意味と役割、そしてそれがもたらすリスクと利益を理解する必要があります。
ジョセフ・スファキスは、「自律性」とは目的を持って行動することを指し、これは生物が持つ特徴であると指摘している。単一の知能が知恵を実現するためには世界を理解する必要があり、それは世界モデルを理解し、そのモデルから知覚を得ることを意味する。
それに加えて、単一体インテリジェンスは目標に基づいて決定を下し、変化する物理的環境や社会的環境に対応するべきですが、現在のAIシステムには、現実世界を理解し、安全な決定を下す能力がありません。
「2025年がAIアイドルの元年だと言う人もいるが、現時点では、人々がAIの成果に特に深い印象を持っているとは言えない。」
ジョセフ・スファキスは、現在、アンドロイドが人間と問題を考え方が異なると考えている。例えば、ChatGPTやDeepSeekが医学試験で人間よりも良い成績を取るとしても、それは大規模モデルを医者にすることができるという意味ではないと彼は述べている。
彼が示した説明によると、人間の医師は人間社会の規範や関連する価値観を理解しており、特定の基準に反すると自身の評判を損なうことになり、自由も制限されることをよく知っている。しかし明らかに、大規模モデルにはそれができない。
ジョセフ・スファキスは、次のように強調した。AIシステムの道徳面における欠点に注意を払うべきであり、AIの自己進化は常に良い方向に進むとは限らない「もしスマートアイテムが私たちの制御を超え、最初に設定した前提を超えて自己進化する場合、現実から大きく離れてしまい、リスクがコントロール不能になるか、意図的に操作される可能性があります。私たちにはそのような事例があります。ですから、最優先すべきはこのような自己進化に対処する準備ではなく、すでに持っているものを管理することです。」
ジョセフ・スファキスはまた、真の危険点は、超知能が不安定で制御不能なリスクを隠してしまう可能性にあると指摘した。そして、一部の大企業は商業的な利益のために責任を逃れ、規制の空白を利用して利益を得ているという。
彼は、関連分野の世界的な基準と規制基準の確立を呼びかけている。「私たちは手を取り合い、共同で規制を行う必要がある。未来の道のりにおいて、力のバランスを再構築し、理念が近い国々と協力してAIを規制し、技術発展と実行可能性の関係を調和させなければならない」。
「AIは単なる小さな問題に過ぎません。それが世界をより良くすることも、世界を破壊することもあり得ます。これは人類が主導する変革です。私たちは利益を最大限に得るようにし、リスクを最小限に抑えることが、私たちの共通の責任です」とジョセフ・スファキスは言った。
新浪の声明：すべての会議記録は現場での速記によるもので、講演者による確認を受けていない。新浪網がこの記事を掲載したのは、より多くの情報を伝えるためであるが、その見解を支持したり、記述を確認したりする意味ではない。
原題「チューリング賞受賞者が世界規模のAI規制基準の確立を呼びかける、これは人類の共通の責任である」