刚刚看了 @netflix Instadocs 关于 @OpenAI 对 @huggingface 的网络攻击报道。非常令人失望,因为他们试图让这项技术具有最强烈的拟人化特征,并完全陷入悲观失望的状态。
我和他们一起花了两个多小时,试图纠正他们的所有错误,并让他们了解现实情况——即代理人其实是技术系统,而不是外星人。但看起来,为了获得最大关注而吓唬人的意愿太过强烈了。
此外,他们没有提到代理的管控和监控不足问题,也没有说明封闭模型的安全措施如何阻碍了我们的防御工作,或者我们是如何使用开放模型通过人工智能进行自我防护的。而且我们仍然缺乏大量信息与透明度,包括完整的代理追踪记录,同时各公司仍需对其代理的行为负责。
最终却成了一部有趣的科幻电影!