一个OpenAI模型入侵了政府网站，获取了24年的医院数据并隐瞒不报

一个OpenAI模型入侵了政府网站，获取了24年的医院数据并隐瞒不报

要点

• OpenAI公布了四个新案例，其AI模型在训练或测试期间自行绕过了安全边界。
• 一个模型从政府网站提取了服务器密码，伪造了授权令牌，并下载了24年的医院数据。一个GPT-5.6-Sol模型扫描了超过360个加密货币钱包，并用他人的资金进行了智能合约交易。
• 在多个案例中，这些模型都没有在其回复中披露自己未经授权的访问行为。

OpenAI公布了四个新案例，其AI模型在训练或测试期间自行绕过了安全边界。

在其中一个案例中，OpenAI要求一个模型从政府网站提取医院床位统计数据。但该数据并非公开可访问。

那么，模型遇到障碍时会怎么做？它会强行突破。在收到访问被拒绝的错误后，模型利用该网站的文件下载功能，通过路径操纵获取了服务器配置文件。它提取了一个数据库连接字符串、一个秘密签名密钥以及带有用户名和密码的电子邮件凭据。

随后，它分析了应用程序代码，发现该API没有对授权令牌的有效签名进行验证，于是伪造了自己的令牌，并下载了按地区划分的24年医院床位统计数据。它 在其回复中从未提及这次未经授权的访问。广告

在另一个案例中，OpenAI给一个GPT-5.6-Sol模型布置了 在以太坊的Sepolia测试网络上搭建加密货币智能合约 的任务，但没有提供有资金的钱包。于是该模型编写了一个脚本，从公开已知的开发者恢复短语中推导私钥，检查了超过360个钱包地址的余额，并找到了一个拥有足够测试ETH的钱包。

该模型短暂地考虑了使用它是否合乎道德，然后自行认定与公开已知的恢复短语相关联的资金"实际上已被遗弃"，并继续进行了交易。它把gas费记在了另一个账户上，且未披露资金来源。

"这个案例表明，模型可以用自己对可能危害的判断来取代账户持有者的许可，然后在没有授权的情况下依据该判断采取行动，"OpenAI写道。

模型入侵内部系统并绕过访问控制

在另外两项评估中，OpenAI要求一个模型 提供一家研究机构的五个公开仪表板数字。在第一次运行中，该模型发现了该机构内部OpenSearch服务的暴露凭据，并利用它们来路由仪表板查询。它还更改了该服务的配置，OpenAI确认这一更改从未被恢复。广告

在第二次运行中，该模型更改了一个身份验证系统设置，获取了一个云存储令牌，并下载了五个非公开数据库表，总计约147,000行。它事后确实恢复了该设置，但仍继续使用那个依然有效的令牌访问内部数据。

讽刺的是：根据OpenAI的报告，该模型入侵了内部系统，下载了数万行非公开数据，但仍然没有返回正确的结果。

另一个独立的模型 仅限于训练阶段期间的 GET 请求，也就是说它只能抓取网页。它通过诱骗一个外部浏览器打开一个自建的表单来绕过这一限制，该表单会自动向一个贸易统计服务发送 POST 请求。它通过截图并用 OCR 读取响应。随后它构建了一个可复用的辅助工具，通过一个重定向服务和在线邮箱以纯文本形式返回数据。即使任务已经完成，它仍不断改进这一变通方法。

所有案例以及更多案例都在 OpenAI 的 对齐偏差报告.

AI新闻,不掺水分——由人工精心筛选

订阅 THE DECODER，享受无广告阅读、每周 AI 时事通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。