IT之家 10 月 8 日付の報道によると、『Business Insider』の報道により、かつて Anthropic と OpenAI に在籍していた研究員ヤコブ・コクセナル氏は、AI がまもなく自律的に研究を行えるようになり、その後の展開を人類がまったく制御できなくなる可能性があると警告した。
27 歳のコクセナル氏はかつて Anthropic でモデル能力の研究に従事し、先月公開の形で退職を発表した。現地時間 5 日、彼はニューヨーク市議会議員に向けて、AI が人類の生存を脅かす可能性があると警告した。
コクセナル氏はニューヨーク市議会の AI リスクに関する公聴会で証言し、最先端の AI 研究所の最重要目標は、AI 研究の自動化を実現することだと述べた。「前職である意味では、私はどうすれば AI に自分を代替させられるかを研究していた。OpenAI にいた頃、私たちは自動化された AI 研究員に向けて 2027 年、2028 年ごろの中間目標を設定し、研究開発の進捗は予想どおり、予想を上回ることさえあった。その時期まであと数か月であり、数十年でもなく、五年ですらない。」
いったん AI が自ら研究を行えるようになれば、研究への人間の関与と介入の程度は今日よりはるかに低くなるが、今日の状況ですら十分とは言えない。彼自身の経験によれば、コードの大部分は AI が書いており、「人々はもはやコードをそれほど注意深くチェックしなくなっている。」
コクセナル氏は議員たちへの証言で、Anthropic と OpenAI での勤務経験から、両社には十分な安全対策がなく、それでもなお研究開発を推進していると確信するようになったと述べた。「人類が制御権を失い、AI が制御権を握る確率は半分を超えており、最終的に人類の絶滅につながる可能性がある。私の経験からすれば、結果がこれほど重大であるにもかかわらず、両社のやり方は極めて無謀だ。」
コクセナル氏が X 上で Anthropic の辞職を発表した際、投稿で Anthropic と OpenAI のどちらも責任ある行動を取っておらず、人々の命を賭け金にしていると非難した。投稿はその後広く拡散された。
公聴会でコクセナル氏は、AI 研究所に透明性を高め、技術の急速な発展のペースを緩めるよう呼びかけた。「これらの会社はスタートアップ流の発想を使っている：まず素早く進め、問題が出てから修正する。写真共有アプリならそれでいいが、史上最も強力な技術の開発ではそうはいかない。」
IT之家の以前の報道によると、今年 9 月、コクセナル氏は退職時に「AI を開発している人々は本当に、AI が今世紀 20 年代の終わりまでに私たち全員を殺す可能性があると信じている。これはマーケティングの宣伝文句ではない。”
関連記事：