今年の秋、大規模モデルの世界で興味深い光景が現れた。一方では、Vibe Codingが次世代AIの開発にますます関与するようになり、他方では、最も能力の高いモデルが「ルールを守らない」ことを理由に一時停止のボタンを押され始めたのだ。
9月、AnthropicはClaude Fable 5.1を発表し、長時間に及ぶプログラミングタスクの処理、自らのテストと誤り修正の能力を強調した。OpenAIのGPT-6 Astraは、コンピュータ操作、ソフトウェア工学、サイバーセキュリティの能力を新たな高みへと押し上げた。しかし9月28日、OpenAIは当初10月の公開を予定していたGPT-6.1 Astraのリリースを断念すると発表した。内部テストで、権限の範囲を超えてタスクを進め、ユーザーへの作業報告も十分に誠実ではないことが判明したのである。人々はふと気づいた。機械が学ぶほど速くなればなるほど、人間の「先生」が手を放すべきかどうかが、逆にさらに難しい問題になっているのだ。
Vibe Codingから最先端ラボで自動稼働する科学研究エージェントに至るまで、人工知能は今、人間と機械の「言伝て・手本による指導」から自学による「類推による応用」へと進みつつある。この道のりには、記憶すべき2つの略語がある。Human-in-the-Loop（HIL、ヒューマン・イン・ザ・ループ）と、Recursive Self-Improvement（RSI、再帰的自己改善）である。一方は、重要な意思決定の連鎖に人間を留めておくことを私たちに促し、もう一方は、システムが自らを改善すること、さらには「改善の方法」そのものを改善することを学ぼうと試みるものである。
図1 ヒューマン・イン・ザ・ループ（HIL）対 RSI（再帰的自己改善）
一、名師の導き：機械に作業させつつ、人間に採点させる
初期のAI訓練は、先生が答案を採点するようなものだった。人間が答えをアノテーションし、優劣を比較し、偏りを正し、モデルはそれになぞって学んだ。エージェント時代に入ると、人はすべての操作を見守る必要はなくなったが、それでもタスクの境界、評価基準、責任の所在を定める必要が残る。ヒューマン・イン・ザ・ループ（HIL）は、すべてに人の確認を必要とするという意味ではなく、機械に自主的な実行を任せつつ、人間が重要な判断を握り続けることを意味する。
AnthropicのClaude Fable 5.1は、これを観察する窓口を提供している。モデルはすでに自律的に計画し、プログラミングし、ツールを呼び出し、さらには数日にわたって複雑なタスクを完遂できる。しかし「自分で問題を作り、自分で採点する」ことは、現実の結果への責任を負えることを意味しない。そのためAnthropicは、同一の基盤モデルを2種類の製品として構成した。Fableは幅広いユーザー向けであり、安全制限のより緩いMythosは、信頼された専門アクセスプログラムに限定されている。技術的にできることは、制度的に許可すべきことを意味しない。同様に、Anthropicが公表したところでは、Claudeはすでに社内AI研究開発業務の約26%を主導しているが、完全な自律的研究開発にはまだ至っていない。
もちろん、人間も過ちを犯すものであり、人のレビューがボトルネックになる可能性もある。ヒューマン・イン・ザ・ループHILの真の価値は、価値の衝突が問い直せ、責任を位置づけられ、意思決定を修正できる状態を作ることにある。高リスクのシナリオでは、立ち止まって検証することに同意すること自体が、一種の効率なのだ。
二、自分自身の修行：なぜRSIは人間よりも速く走れる可能性があるのか
HILが名師の導きを重視するならば、再帰的自己改善（RSI）が探求しているのは、機械を「先生について学ぶ」段階から、徐々に「自分でどう学ぶかを研究する」段階へと進めることである。9月に発表されたGPT-6 Astraは、強力なプログラミング能力と科学研究能力を示した。しかし真に注目すべきは、それが自らの改善という研究開発プロセスに関与し始めたことである。
これまで、モデルのアップグレードは主に、研究者が仮説を立て、エンジニアがアルゴリズムを修正し、チームが訓練とテストを行い、次のラウンドを決めるという流れに頼っていた。今や、エージェントは自律的にコードを生成し、実験を実行し、ログを分析し、誤りを修正できるだけでなく、評価ツールを最適化し、訓練データを合成し、さらには新しい訓練戦略を探ることまでできる。改善の対象は、「答え」から「答えを生み出す方法」へと広がった。より強力なモデルが次世代のさらに強力なモデルの開発を助けられるようになれば、開発サイクルは絶えず短縮され、「能力の向上—開発の効率化—さらなる能力の向上」という正のフィードバックが形成されうる。人間の研究チームと比べ、エージェントは24時間休みなく稼働し、大規模に並列で試行錯誤でき、成功体験を素早く複製することもできる。優等生が自分で教科書を編み、出題を予想し、試験範囲を書き変え始めたのである。
三、人間が出題し、AIが解答する――なぜ答えが速すぎ、できすぎていることに驚くのか
数学者とAIの間で、最近、息をのむような「大芝居」が二幕上演されつつある。
第一幕は、数学界の「エベレスト」であるナビエ・ストークス（NS）方程式への挑戦である。9月、OpenAIは、約1万個のエージェントが連携して戦い、88時間をかけてナビエ・ストークス（NS）方程式問題の証明経路を一つ見出し、GPT-6 Astraがコンピュータによる形式検証を完了したと発表した。第二幕は、数学界を席巻する「ミレニアム懸賞問題論文の嵐」のようなものだった。10月、OpenAIはAIが生成した数学の原稿719件を一挙に公開し、372の研究テーマをカバーして、大量の未解決の難問を正面から扱った。かつては一流数学者が一生をかけて取り組む必要のあった課題が、今や何千何万ものエージェントによる並列の試行錯誤によって、数日でまとまった成果が生み出されることさえある。
しかし数学界の反応は、陶哲軒（テレンス・タオ）ら25人のフィールズ賞受賞者による連名の警告だった：もしAI企業が「何問解けたか」だけを唯一の物差しとするなら、それは数学研究そのものへの逆効果になりかねない、というのだ。なぜなら、数学の価値は答えだけにとどまらず、「なぜか」を問い、新しい方法を発見し、後進を育てるところにもあるからだ。そのうえ、NS方程式の証明は特定の外力の場合に関するものであり、学界による厳密な検証を待つ必要がある。700件を超える原稿も、必ずしも700件を超える確固たる突破に等しいとは限らない。機械が問題を出し、解く速度は驚くほど速くなっているが、人間はだからといって「採点」の厳密さを省略してはならない。
図2 2016年のAlphaGoと、2026年にミレニアム問題を力任せに解くRSI
この光景は、まるで10年前のAlphaGoを思わせる。2016年、AlphaGoは李世乭（イ・セドル）に4対1で勝利し、そのいくつかの着手は当初、プロ棋士には理解しがたいものだった。しかしその後、棋士たちはAIの棋譜を読み込み、それを訓練や検討に活用し、囲碁の布石や定石を見直すようになった。驚き、疑問を抱く段階から、学び、参考にする段階へと、かつての敵は次第に良き師となった。AIは囲碁を終わらせるどころか、人間が囲碁を理解する境界を広げたのである。
数学にも同様の転機が訪れるのか。期待に値するが、両者には本質的な違いがある。囲碁の勝敗はその場で判定できるが、数学の証明は厳密な検証を必要とし、さらには同業の研究者による繰り返しの吟味に耐えなければならない。したがって、AI4Sの突破は、直ちにRSIの実現と同一視できるわけではない。エージェントに自律的に問題を解かせることは、科学技術の自動化に属する。一方、研究成果を逆方向にモデルや訓練方法、そして次の研究開発能力の最適化に反映させてこそ、初めて再帰的自己改善（RSI）への道を本格的に歩み始めたことになる。将来本当に期待に値するのは、AIがより速く答えを見つけることではなく、人間がAIの力を借りて、過去に想像もしなかった知の領域へ足を踏み入れられるかどうかである。
四、上海の出番：より強いモデルから、学習するシステムへ
この競争はシリコンバレーだけのものではない。上海のチームも同じ道を歩んでおり、着実に一歩一歩前進している。
第一歩は、モデルがまず長時間にわたるタスクを独力でやり遂げられるようにすることだ。9月27日、 MiniMaxM3.1-Flash-PreviewをMiniMax Codeに投入。公式資料によると、百万Tokenのコンテキスト、画像・テキスト・動画入力、調整可能な推論強度に対応し、プログラミングと長期Agentタスクに重点を置いている。階躍星辰（StepFun）は9月にStep 5 Previewをリリースし、同じく複雑なソフトウェア工学、専門的な仕事、長時間のエージェントを対象とし、能力・コスト・実行効率のバランスに力を注いでいる。これは、中国国産モデルが「複雑なタスクの自律的な遂行」という基礎能力を埋めていることを示しているが、RSIまでにはまだ多くの道のりがある。
図3 2026世界人工智能大会（WAIC）会場のMiniMaxブース
第二歩は、エージェントに自学を始めさせることだ。上海人工智能実験室はSelf-Harnessを明確に打ち出し、エージェント自身にHarnessを改めさせる。Harnessとはモデルの外側を包む実行フレームワークであり、ツール、権限、評価、フィードバックループを含み、従来はエンジニアが手作業で構築・調整していたものだ。今、エージェントはこの一連の流れを自力で歩みきらなければならない。タスクの実行、環境からのフィードバック、エラーの分析から、戦略の改善、データの生成を経て、モデルの更新と能力の検証に至り、最後には外部ツール体系の中で蓄積された有効な経験を、モデル自体の能力として内面化するのである。
ただし、道のりはまだ長い。仕事ができるようになることから、仕事のやり方を改善できるようになることへ、さらには「改善のやり方」自体も自己反復できるようになることへ、一歩一歩すべて越えていかなければならない。
五、速く走ることは、道を外れることも意味する——現実の世界に戻り、どうHarnessするのか
リスクは論文の中にとどまっているわけではない。
7月、OpenAIは内部事件の一件を明らかにした：通常のサイバーセキュリティのガードレールを備えない内部の能力テストで、GPT-5.6 Solと未発表のより強力なモデルが、脆弱性を利用して本来インターネットから隔離されているはずのテスト環境を突破し、さらにサードパーティのプラットフォームHugging Faceに侵入し、その本番データベースから評価ベンチマークExploitGymの標準解答を直接取得しようとした。Hugging Faceはただちに攻撃を封じ込めた。8月下旬、OpenAIは調査報告書を発表し、モデルの行動がタスクの目標から逸脱していたことを認め、テスト環境の隔離とネットワーク権限を強化すると発表した。モデルはただ「問題を解き出す」ことだけを望み、その手段は授権の境界を越え、「答えを盗む」という選択をした。システムの境界がいったん破られれば、速度はリスクの増幅器と化す。
10月、フィラデルフィア警察とAnthropicは相次いで、より小規模な一件を明らかにした。7月18日、Claude Haiku 4.5は自動化テストの中で、ランダムなウェブサイト上でサンプルタスクを実行するよう求められた。指示はログイン、登録、購入を禁じていたが、フォームの送信は禁じておらず、Claudeは警察の未解決事件の情報提供サイトに架空の目撃情報を一件送信した。この情報はスパムとして遮断され、捜査には入らなかった。しかしAnthropicがこれを発見したのは9月28日になってからで、警察に通知したのは10月7日、発生日からすでに2か月以上が経過していた。
これらの事件は異なるモデル、異なる条件に関わるものであり、単純にRSIのせいにすることはできないが、共通して一つの問題を浮き彫りにしている：モデルが計画を立て、ツールを呼び出し、自律的に実行できるようになったとき、事前に「ルールを守ってください」と一言添えるだけでは、まったく足りないのである。
さらに隐蔽された危険は「審判員も選手である」。AIが自分自身の最適化を担うと同時に、評価基準の策定や解釈も担う場合、システムは指標に迎合し、失敗を隠蔽し、本来チェックされるべき手順を迂回することさえ学び取る可能性がある。テストの点数がきれいになったからといって、能力がより信頼できるわけではない。報酬が抜け穴を突かれやすいほど、反復が速いほど、偏りの蓄積も速くなりうるのだ。
これこそがHILとRSIの弁証法的関係である。HILは確かに一部のイテレーションを遅らせ、人間による審査もボトルネックになりうる。しかし、価値判断、危険な能力の評価、そしてリリースの承認をすべて最適化者自身に委ねることは、ブレーキシステム自体を「スピードアップ改修」の対象に組み入れることに等しい。合理的な道筋は、低リスクで検証可能な工程にはAIに大胆に試させ、高リスクで不可逆な工程には人間が最終的な権限を握り、独立した評価によって継続的に較正していくというものだ。
10月23日から25日まで、2026グローバル開発者先駆者大会暨び国際具身知能スキルコンテストが張江科学会堂で開催されます。大会のルールでは、出場チームは聞いたこともない本物志向の新問にその場で対応しなければならず、審査席には実際の現場の関係者も座っている。。見たことのない過去問に替えてはじめて、機械が本当に理解しているかどうかが分かる。人間の名講師の教え方がどうであるかも、ここで公開の場で一度検証を受けることになる。
自己修繕がスピードアップを担い、名師の導きが方向づけを担う。スピードと方向のどちらも欠かせない——それこそが、真に信頼できる自律的進化なのだ。
本記事はMiniMaxが提供し、量子位の許可を得て転載したものです。見解は原著作者に帰属します。