解雇されたOpenAIの安全性研究員3名は、自分が実際に何を漏洩したのかについて何も知らされていなかったと語る

要点

• 解雇されたOpenAIの安全性研究者3名は、機密情報を共有したことを否定しています。
• 彼らは自身の解雇が、AIモデルの監視を容易にするための取り組みと結びついていたものと疑っており、この件が従業員が安全上の懸念を提起することをためらわせる可能性があると警告しています。
• OpenAIはポリシー違反の疑いを挙げました。研究者らによると、調査担当者は外部の研究者とのSignalチャットに焦点を当てたといいますが、OpenAIはSignalが解雇の理由ではなかったと述べています。

リークの疑いで解雇されたOpenAIの安全研究担当者3名が、自らの主張を語っています。Tomek Korbak、Mikita Balesni、Jasmine Wangの3名は機密情報を共有したことを否定し、解雇の公式な理由に疑問を呈するとともに、より透明性の高いAIシステムを推進していた自分たちとの関連を疑っています。

OpenAIは内部調査を受けて3名すべてを解雇した。 疑われた違反行為 機密情報の取り扱いに関する同社の方針についてです。彼らはいずれも、解雇される前にAIのリスクについて公に発言していました。

同紙とのインタビューで ウォール・ストリート・ジャーナルその研究者たちは今、この説明に異議を唱えています。OpenAIはウォール・ストリート・ジャーナルに対し、解雇は研究者らが提起した安全性に関する懸念とは無関係だと述べました。しかし3人は、情報を不適切に扱ったとされる具体的な情報について書面で告知されたことは一度もないと言います。また彼らは、この一件が独立系の安全性監査人がAI企業と協力すること自体をためらわせる可能性があると懸念しています。

ウォール・ストリート・ジャーナルの報道は、この対立に至った経緯を明らかにした。OpenAIのセキュリティチームは、3人が同社の内部モデルアーキテクチャに関する詳細を外部の安全性研究者と共有していると疑い、個人用スマートフォンのロック解除を求めた。それらの端末で、チームは消えるメッセージ機能が有効になったSignalのチャットを発見した。1週間後、3人は同時に全員解雇された。OpenAIは、Signalは承認されたコミュニケーションツールではなかったとしつつも、それが解雇の理由ではないと主張した。Korbak氏は、消えるメッセージはシリコンバレー全体で一般的なセキュリティ慣行だと反論している。Ad

AIの推論ステップの監視をめぐる論争

論争の中心にあるのは、重大な結果を伴う技術的な問いである。AI企業は、モデルがどのように考えるかを部外者に検証させるべきだろうか。推論モデルは、問題解決プロセスの中間ステップを、いわゆる内部のスクラッチパッドに記録することができる。 思考の連鎖(chain of thought)。企業や安全研究者は、モデルがどのようにしてその判断に至ったのかを理解するために、これらの痕跡に依拠している。

2025年の論文で、Balesni、Korbak、Wangは複数のAI企業の主要研究者たちとともに、この能力への継続的なアクセスを求める呼びかけを行いました。この問題は夏により深刻さを増しました。AI企業の従業員たちが、より長く思考するモデルについて議論し始めたのですが 中間ステップを少なく書き留める。 Balesni は、当時 Redwood Research のチーフサイエンティストだった Ryan Greenblatt の関連する提案を共有することで、社内で反論を行った。

Korbakもまた、Greenblattと定期的に連絡を取り合っていた。二人は、注目を集めたあるインシデントの分析に共同で取り組む中で、SlackやSignalを使ってやり取りしていた—— OpenAIエージェントによる攻撃 Hugging Face上—GreenblattはMETRに雇われ、そこで 独立調査.

Astraに関するニュース報道が捜査の発端となった

その協力関係は、The Informationが9月1日にOpenAIの新しい モデルAstra はより高い能力を持ちながら、その思考プロセスをよりあまり公開していなかった。OpenAIのチーフサイエンティスト、Jakub Pachockiは当時、X上でこの報道を曖昧だとして退けたが、彼自身も 監視がもはや不可能なモデルに向かう業界全体の競争を警告した.Ad

ウォール・ストリート・ジャーナルによると、数週間後、OpenAIは社内の情報漏洩調査を開始しました。バレスニ氏によれば、調査担当者はリーク源の疑いがある人物としてグリーンブラット氏の名前を挙げ、彼とのSignalでのチャットの閲覧を要求したといいます。グリーンブラット氏はジャーナリストに機密情報を渡したことを否定しています。

Wang氏は別の疑いにも直面していた。OpenAIによると、彼女は幹部の受信トレイに繰り返しアクセスしたという。彼女は、そのアクセス権限の取り消しをほぼ1年前に依頼していたこと、前月に機密性の高いメールを誤って開いたが、その内容を共有しておらず、直ちにこの件を報告したと述べている。OpenAIは、アクセス自体が問題ではなかったとしている。

Korbakによれば、その余波はこの3人をはるかに超えて広がっている。同僚たちは今、外部の人と話すことや、社内で安全性の懸念を提起することを恐れている、と彼は言う。In OpenAIの取締役会への手紙, 3人の研究者は外部の安全組織とのより緊密な協力を求めています。

一方、最近公表された現場監査は、OpenAIの安全対策について独自の疑問を投げかけました。METRとRedwood Researchの職員は、調査の中でOpenAIのインフラに数多くのセキュリティ上の欠陥を発見しましたが、 OpenAIは最終報告書の半分近くを黒塗りにしました.

OpenAIはまた、インターネットアクセスなしで運用される新しい セキュリティアーキテクチャに関する独自の報告書も公表し、 問題を修正し、10月初旬に訓練を再開したと述べています。同社は、いくつかの新しい外部パートナーシップを近いうちに発表する予定だとしています。