IT之家 10月25日の報道によると、情報漏洩の疑いで解雇されたOpenAIのセキュリティ研究者3人が、自らの言い分を明らかにした。トメク・コルバク、ミキタ・バレスニ、ジャスミン・ワンは機密情報の漏洩を否定し、自分たちが解雇された公式な理由に疑問を投げかけ、この件が彼らが常に主張してきたAIシステムの透明性向上と関連していると推測している。
OpenAIは内部調査の結果、3人が機密情報管理規定に違反したと判断し、彼らを解雇した。解雇される前に、この3人はAIのリスクに関する意見を公に発表していた。
IT之家が確認したところによると、『ウォール・ストリート・ジャーナル』のインタビューに応じた際、数人の研究員が公式の説明に反論したという。OpenAIは同紙に対し、解雇の件は彼らが抱える安全上の懸念とは無関係だと述べた。しかし、3人の研究員は、どの情報が不適切に処理されたかを書面で通知されることはなかったと語った。また、この事件により独立したセキュリティ監査員がAI企業との協力を望まないようになる可能性もあると懸念している。
『ウォール・ストリート・ジャーナル』の報道によると、この衝突の原因が明らかになった。OpenAIのセキュリティチームは、3人が外部のセキュリティ研究者に会社内のモデル構造の詳細を漏洩し、彼らに個人携帯電話のロック解除を要求したと疑っている。調査員は携帯電話の中から、「阅后即焚」機能が有効なSignalのチャット記録を発見した。1週間後、3人は同時に解雇された。OpenAIはSignalが会社が認可した通信ツールではないと述べたが、これが解雇の理由ではないと強調した。コルバックは、「阅后即焚メッセージはシリコンバレーでは通常のセキュリティ対策である」と反論した。
争点：AIの推論手順を検証することを許可するか
この争いの核心は、深刻な影響を与える技術的な問題です：AI企業は外部の人間にモデルの思考過程を見られるようにするべきかどうか。推論型モデルは内部の「思考チェーン」の一時保存領域に問題解決の中間ステップを記録します。企業やセキュリティ研究者はこれらの記録を頼りに、モデルが判断を下す論理を理解します。
2025年の論文で、バレスニ、コルバック、ワン・モリは、多くのAIラボの優秀研究者と共に、この検証可能な能力を継続して保持するよう呼びかけました。今年の夏、この問題はさらに重要になりました。多くのAI企業が新しい種類のモデルについて議論を始めました――思考時間は長くなりますが、記録される中間ステップは少なくなります。バレスニは社内で異論を唱え、当時レッドウッド・リサーチのチーフサイエンティストであるライアン・グリーンブラットの提案を転送しました。
コルバックもグリンブラットと頻繁に連絡を取り合っている。二人はSlackとSignalを通じて協力し、注目を集めた事件であるOpenAIのスマートアプリがHugging Faceを攻撃した事件について共同で分析を行っている。グリンブラットはMETRの依頼を受けて、この独立調査を担当している。
Astraに関する報道が、内部調査を引き起こした
9月1日、The Information誌の報道によると、OpenAIの新モデルAstraは能力が向上しているものの、明らかになる推論プロセスは少ないとされている。この協力関係が問題の火種となった。当時、OpenAIのチーフサイエンティストであるヤクブ・パホツキーはXプラットフォームでこの報道を論理的に混乱していると評したが、彼自身は以前から、業界全体が監視が困難なモデルを開発し合っていると警告していた。
『ウォールストリート・ジャーナル』によると、数週間後、OpenAIは内部の情報漏洩調査を開始した。バレスニによると、調査員はグリーンブラットが情報が漏洩された受信者であると判断し、彼らとのSignalのチャット記録を取得するよう要求した。グリーンブラットは記者に機密情報を伝えたことを否定した。
王茉莉に対する告発については別途調査が行われる：OpenAIによると、彼女はある高級幹部のメールアドレスを何度も訪問したとされる。彼女の説明では、この権限を取り消す申請を近1年前に行っていたという。先月は敏感なメールを誤って開いただけで、内容を転送したり拡散したりすることはなく、その失敗を直ちに報告したとのことだ。OpenAIは、権限自体が問題ではないと述べている。
コルバックは、この事件がもたらす負の影響は彼ら3人だけではないと述べている。彼によると、現在の同僚たちは外部の人々と交流することを恐れ、内部で安全上のリスクを指摘することもできないという。3人の研究者はOpenAIの取締役会に手紙を送り、外部の安全機関との協力を強化するよう呼びかけている。
また、新たに発表された現場監査報告書でも、OpenAIのセキュリティプロセスに疑問が呈されている。METRとサンクレイト研究所の監査員が調査した結果、OpenAIのインフラ基盤には多数のセキュリティ漏洞があることが明らかになったが、OpenAIは最終報告書のほぼ半分を黒く塗りつぶした。
OpenAIも新しいセキュリティアーキテクチャの報告書を発表しました。このアーキテクチャでは、動作中にインターネットが切断されます。同社によると、関連する脆弱性は修正されており、10月初旬にはモデルのトレーニングを再開し、また多くの新たな外部協力も近いうちに発表されるとのことです。