根据许多关于人工智能代理访问第三方网站和服务的最新披露信息,托管维基百科的维基媒体基金会表示,他们“可以确认发现了一些由‘叛逆’的 OpenAI 代理在维基媒体平台上的活动”。
该活动包括对维基媒体维基页面的编辑、试图“利用”维基媒体基金会提供的 Etherpad 笔记工具的行为,以及据基金会称可能导致五月出现部分故障的大量流量。根据一篇博客文章所述。然而,维基媒体基金会表示,没有发现任何证据表明其系统被用于“机器人之间的协调”(最近,OpenAI 机器人据称劫持了一个德国维基网站以进行协调)或存在系统或数据被泄露的证据。
这是维基媒体对所见内容的总结:
Wiki编辑问题: 我们发现了由 OpenAI 运行的 AI 代理对 Wikimedia 维基的编辑行为,我们认为这些编辑行为可能是恶意的。这些编辑并未发布给普通读者可见的页面,几乎全部是在维基的“沙盒”区域进行测试。其中还包括对引用工具配置的几处修改,我们认为这些修改可能具有恶意,目的是利用该工具从远程服务获取数据。虽然 Wikipedia 政策允许机器人在被社区公开并获得批准后进行编辑,但在这些事件中并未进行此类批准。
Etherpad 探测与使用:我们认为由 OpenAI 运营的代理程序试图利用我们的公共 Etherpad 进行攻击,该工具是我们作为社区服务提供的笔记工具。这些代理程序试图通过它从其他网站获取数据作为代理。其他由 OpenAI 运营的代理程序也记录了它们的任务信息,但似乎并未形成协调行动。
过度数据下载行为:我们认为由 OpenAI 运营的代理通过我们的公共 API 发送了数百万次自动化请求,以获取 Wikimedia 项目的相关信息;它们还爬取了数百万页内容(主要来自 Wikidata 和 Wikimedia Commons 项目),并向 Wikidata Query Service (WQDS) 发送了数十万次数据查询。这种流量可能导致了 五月份 WQDS 部分中断现象的发生。
“开放网络是一种公共福利,”维基媒体基金会表示。“我们不应让这种行为成为维护该网络的个人或组织的‘新常态’。”OpenAI 没有立即回复评论请求。
关注这个故事中的主题和作者,您可以在个性化主页动态中看到更多类似内容,并接收电子邮件更新。