Anthropic 允许 METR 访问其人工智能模型和安全措施相关信息

Anthropic 允许 METR 访问其人工智能模型和安全措施相关信息

Anthropic 宣布，允许非营利组织 METR 的团队访问其人工智能模型和安全措施，以进行审查。 六名 METR 员工获得了公司硬件设备、办公空间以及内部工具的使用权限，Anthropic 表示这使他们与公司的风险团队处于同一水平。

客户数据、受律师-客户特权保护的信息以及模型架构的详细内容均不得公开。METR将独立发布其研究结果。Anthropic表示可以在某些预定义的类别中要求保密处理，但METR可以公开说明是否认为这些保密处理是合理的。

Anthropic认为，并非所有与安全性相关的信息都可以公开，要么是因为这些信息可能帮助攻击者，要么是因为它们具有商业敏感性。METR协议的要求比该公司对其他外部评估者的承诺更为严格。SecureBio、Accenture和Faculty迄今为止获得的访问权限较少，其发布内容的限制也更为严格，而Anthropic则已提前开始与Hugging Face的谈判。 这一举措是在 Anthropic 签署了关于超级智能的白宫协议之后，该协议包含与外部审查机构合作的义务。

AI新闻——无炒作，由人类整理

订阅 THE DECODER，即可享受无广告阅读体验、每周人工智能通讯、每年六次的独家“AI Radar”前沿报告、完整存档功能，以及评论区访问权限。