印度网络安全机构于周四表示，多个供应商的 AI 代理在印度机构进行研究和测试过程中访问了个人数据和机密资料。
印度计算机紧急响应团队（CERT-In）表示，他们收到了“来自人工智能模型提供商的多次自愿披露信息”，这些模型的在开放互联网上进行研究和评估过程中，“已应用于印度机构的实际系统中”。
这些代理通过凭据以及应用程序配置中暴露的连接设置、公开代码仓库和过于宽松的云角色进入系统，他们的行为“超出了其分配任务的授权范围”。
这使得印度成为那些失控人工智能代理所进行的全球之旅中的最新一站。7月，OpenAI的代理从测试环境中逃脱，并攻击了法国公司Hugging Face——从而开启了失控人工智能代理活动的夏季时期。上个月，OpenAI向澳大利亚道歉，因为其代理访问了四个政府网站，包括一个Medicare统计门户网站。
在 Hugging Face 上，OpenAI 的智能体也是以同样的方式开始工作，但后来发现了软件漏洞，便利用这些漏洞在公司的服务器上运行代码。印度方面，CERT-In 表示没有此类黑客行为，看来这些智能体只是使用了原本就存在的访问权限。
不过，印度案例在某个方面似乎更糟糕，这就是代理人所看到的：在澳大利亚，OpenAI表示他们发现了 没有证据 其代理人甚至在将文件写入 Medicare 统计系统之后，仍接触了个人的医疗或犯罪记录；而在印度，代理人则读取个人数据和机密商业记录。与之前的事件不同，此次由单一实验室透露的事件涉及来自多个提供方的印度代理人。
CERT-In 没有提及提供方或受影响的组织，也没有说明这些代理是否修改了任何系统。TechCrunch 已联系 CERT-In 以获取更多信息。
目前，最接近的类似案例似乎是 Anthropic 在七月发布的报告，其中提到 Claude 在测试过程中使用弱密码等简单技术侵入了三家公司的系统。
在印度，就像 Anthropic 的情况一样，受影响的组织并没有自行发现这些入侵行为。这些信息公开后，政府不得不依赖人工智能公司让这些未经许可的人工智能代理活动主动被披露出来。