アントロピックは、METRにAIモデルと安全ポリシーを監査するアクセス権を与えている

アントロピックは、METRにAIモデルと安全ポリシーを監査するアクセス権を与えている

アントロピックは、非営利団体METRのチームに自社のAIモデルと安全対策をレビューする権限を与えたと発表した。6人のMETR職員は企業のハードウェア、オフィススペース、内部ツールへのアクセス権を得た。アントロピックによると、これにより彼らは自社のリスクチームとほぼ同等の立場に立つことになる。

顧客データ、弁護士・クライアント特権に該当する情報、およびモデル構造に関する詳細は公開禁止です。METRは、自身の調査結果を独立して公表します。Anthropicは、特定の定められたカテゴリーにおいて隠蔽を求めることができると述べていますが、METRはそのような隠蔽が正当であったかどうかを公に表明する自由があります。

アントロピックは、攻撃者に役立つ可能性があることや、商業的に機密性の高い情報であるため、安全に関連するすべての情報を公開することはできないと主張している。METRの取引は、同社が他の外部レビュアーに対して提供した内容よりもさらに厳格なものである。SecureBio、Accenture、Facultyはこれまでより少ないアクセス権と、発表できる内容の制限が厳しくなっている。一方、アントロピックはHugging Faceとの早期な協議を開始している。 この動きは、アントロピックが超知能に関するホワイトハウス協定に署名したことに続くもので、外部レビュアーと協力することへの約束も含まれている。

アイイーニュース：過度な期待なしで – 人間が選んだもの

広告のない読書、毎週のAIニュースレター、年に6回の独占「AIラドル」フロンティアレポート、完全なアーカイブアクセス、コメントセクションへのアクセスなどができるTHE DECODERを購読してください。