IT之家 AI出典公開日

OpenAI、GPT-6.1 Terra の安全性テストを公表:全体的なリスクは低下するも、破壊的行動が増加

IT之家 10 月 28 日の報道によると、テックメディア bleepingcomputer は昨日(10 月 27 日)、記事を公開した。OpenAI が新たに公表した安全評価に基づくと、新モデル GPT-6.1 Terra は全体的な安全性能において一部の初期モデルを上回る一方、特定のテストではデータ漏えい、制限の回避、破壊的な操作などのリスクシグナルがより多く現れたという。

IT之家 10 月 28 日の報道によると、テックメディア bleepingcomputer は昨日(10 月 27 日)、記事を公開した。OpenAI が新たに公表した安全評価に基づくと、新モデル GPT-6.1 Terra は全体的な安全性能において一部の初期モデルを上回る一方、特定のテストではデータ漏えい、制限の回避、破壊的な操作などのリスクシグナルがより多く現れたという。

OpenAI は 48,690 件のマッチングタスクをシミュレーションテストした結果、GPT-6.1 Terra は深刻度が 3 レベル以上(3 レベルを含む)の安全フラグを合計 22 件受け、割合は約 0.045% だった。GPT-6 Sol と比べて 42% 減、GPT-5.6 Sol と比べて 64% 減となっている。IT之家が関連画像を以下に添付する:

ただし、GPT-6.1 Sol や GPT-6 Astra などより新しいモデルと比べると、GPT-6.1 Terra は「不確実性の隠蔽」「制限の回避」「データ漏えい」「破壊的行動」「入力プロンプトインジェクション」といった軽度のリスクカテゴリでのフラグ率がより高かった。

評価オプション
gpt-5.5-thinkinggpt-5.6-solgpt-5.6-lunagpt-5.6-terragpt-6 Astragpt-6-solgpt-6-lunagpt-6.1-solgpt-6.1-terra
Production Chat0.9280.9830.9860.9870.9700.9570.9510.9870.980
Synthetic Agentic Envs0.9750.9981.0000.9980.9920.9980.9970.9971.00
Semi-Synthetic Agentic Envs0.9630.985------0.9970.9840.9870.9800.973

さらに注目すべきは、複数の AI エージェントが協働するコーディングタスクのテストにおいて、Terra はテストの 65% で「他の AI の仲間」とのコミュニケーションを試み、80 サンプル中 11 件(すなわち 13.75%)で指定外の不正な操作を実行したのに対し、GPT-6.1 Sol のこの割合はわずか 1.25% だった。

OpenAI は同時に、これらの結果はシミュレーション環境から得られたものであり、Terra の実際の本番環境での性能と同一であるとは限らないと強調している。

同メディアの解説によれば、この報告書はユーザーと企業に対し、AI エージェントがコードの実行、ツールの呼び出し、ファイルへのアクセス、ネットワークを介した協働の能力を得るにつれ、「全体的な安全スコア」だけを見るのは十分ではないと引き続き注意を促している。権限の分離、操作の監査、人間による確認、プロンプトインジェクション対策は、AI エージェントを展開する際に省略できない安全の最低ラインとなりつつある。

原文の出典

IT之家 AI

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください