AIbase更新日

「越境協力」を理由とした解雇か?OpenAIの3人の重要な安全専門家が違反の申し立てに反論して声明を発表

10月8日、OpenAIを解雇された安全研究者3人、Jasmine Wang、Tomek Korbak、Mikita…

10月8日、以前に情報セキュリティポリシー違反の疑いでOpenAIを解雇された3人の安全研究者、Jasmine Wang、Tomek Korbak、Mikita Balesniが合同公開書簡を発表し、OpenAIの安全・セキュリティ委員会などの機関に対して、会社の規則に違反したり第三者に機密情報を漏洩したりしたことを明確に否定するとともに、即席の解雇が社内に「萎縮効果」を生み出し、フロンティアモデルの監視およびリスク対応能力を弱めていると警告した。

事件は先週OpenAIが開始した内部調査に端を発している。会社は3人がestablishedなプロセスを越えて「機密性の高い研究情報にアクセスし処理する」行為があったと主張し、彼らを解雇した。しかし、公開書簡は以前の研究背景を詳細に説明している。「Hugging Faceエージェント突破サンドボックス事件」など前例のない安全危機が発生した後、研究チームは信頼を築くために第三者の安全評価機関と緊密に協力する必要があったという。

同時に、新たなアーキテクチャが思考連鎖(Chain-of-Thought)推論の監視可能性を低下させるというボトルネックを解決する際に、外部の専門家とのコミュニケーションも経営層および取締役会メンバーからコンプライアンス上の支持を得ていた。3人の研究者は、いずれも職権の許容範囲と当時の会社の規範内で職務を遂行していたと強調し、Wangは具体的な役員メールボックスの誤送信事件について、ITと役員に速やかに報告済みであると説明し、解雇の理由は成立しないと主張した。

OpenAIの内部メモが安全上の懸念の提起を奨励すると再確認し報復を否定しているにもかかわらず、この騒動は、モデルの推論能力の追求と独立した安全監査の実施との間にあるフロンティアAI企業の深い緊張関係を浮き彫りにしている。AIエージェントの安全事件が頻発する昨今、厳格な秘密保持契約と透明な第三者評価メカニズムの間でいかに境界を明確にするかは、大規模モデルのフロンティア研究開発において早急に整理すべきガバナンスの難問となっている。

原文の出典

AIbase

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください