IT之家 10月17日の報道によると、POLITICOの報道によると、情報を知る人物3人が明らかにしたところによると、Anthropicの代表者がアメリカ議会山の議員に、先進人工知能の安全と防衛基準を規制する法案案をこっそり提案したという。
報道によると、現在アメリカ議会は、この急速に発展する業界に対する規制枠組みをどのように確立するかを慎重に検討している。この草案の提出は、このトップクラスのAIラボが、自社の技術に関する規制規則を左右しようとする具体的な措置を講じていることを示している。
「この法案は、Anthropicが『先進人工知能フレームワーク』で提案した核心案を反映しています。私たちは6月から連邦および各州の立法者に対して働きかけてきました」とAnthropicの広報担当者は述べた。「私たちは、議会がこれらの実用的で合理的な政策について立法措置を講じるべきだと確信しています。」
草案は規制介入の基準を大幅に厳格化した：モデルが予見可能で切迫した「10億ドル以上の（IT之家注：現為替レートで約67.03億元）経済的損失」または「50人以上の死亡や重傷を引き起こす」可能性がある場合にのみ、政府がそのモデルの発表や使用を停止することができる。
また、上記のリスクは、生物兵器の製造や拡散に起因するもの、モデルが開発者による管理下から外れること、または重大なネットワーク攻撃を引き起こすことである必要があります。この表現は、昨年施行されたSB 53など、カリフォルニア州の現行AI法に含まれる核心条項を直接借用したものです。
今年の夏、いくつかのトップクラスのAIラボが複数のセキュリティ事件を公開しました。これらのAIアイドルの自動化された行動により、一部のウェブサイトやプラットフォームに侵入やスキャン検出が行われていました。しかし、現時点で、これらの事件が大規模な死亡者や10億ドル以上の経済損失を引き起こしたという報告はありません。
アントロピックが提出した草案では、リスクの公開開示、第三者評価、重要なセキュリティイベントの報告など、一部の州レベルの人工知能に関する法律が廃止される予定です。多くの技術業界団体は、統一された国家基準に比べて、各州ごとに独自の規制が存在するため、企業が適応するのが困難であり、コンプライアンスコストも高くなると述べています。
この案では、先進モデルラボに明確な要求が出されています。安全フレームワークを構築すること、新しい先進モデルの透明性報告を発行すること、告発者保護メカニズムを実施すること、そして重大な安全事故が発生した場合には米国商務省に通報を行うことです。