腾讯首席AI科学家警告称，AI很快将具备开发生物武器的能力，而完全开放或完全封闭的模型都无法独自解决这一问题。
在关于开放与封闭AI模型的辩论中， Vinces Yao Shunyu——他曾任职于OpenAI——主张寻求中间道路，据 《南华早报》报道。开源与闭源的结合能让所有人也将该技术用于防御目的。不过在生物学领域，进攻与防御能力比网络安全领域更难区分。由于中美模型之间的差距并不大，Yao敦促整个行业谨慎行事。
Yao表示，Anthropic和其他美国公司为封闭模型提出了有力论据，但他也看到了开放模型的明显优势。他举了一个 Hugging Face遭黑客攻击事件 的例子：当Anthropic的Claude等封闭美国模型因安全过滤器而拒绝分析攻击指令时，该平台改用开放的中文模型 GLM-5.2 来解析日志。
Hugging Face案例说明了什么，又没说明什么
该 Hugging Face报告 证实了Yao的例子，但也显示出其局限性。GLM-5.2仅在取证分析过程中被使用。真正的攻击是在安全团队修补了被利用的漏洞、重建了受影响的服务器并更换了凭证后阻止的。Hugging Face还强调，这一事件并不能成为反对托管模型使用安全过滤器的论据。
今年7月，Anthropic是唯一一家未签署由Nvidia支持的、警告不要过早限制开放模型的 公开信 的大型AI实验室。 CEO Dario Amodei 特别反驳了开放模型让防御者比攻击者受益更多的说法。他认为开放模型潜在风险更大，因为安全机制难以执行，且已发布的模型权重无法收回。不过，Anthropic并未呼吁全面禁止开放模型。
开放模型容易失去过滤器，封闭模型往往过滤过于激进
一种名为 Abliteration 的技术展示了开放模型上的安全过滤器何等脆弱。任何能访问模型权重的人都可以用它精准移除经过训练的拒绝行为。Hugging Face上已有数千个此类修改变体，美国初创公司Abliteration.ai则出售GLM-5.3无过滤版本的访问权限。当前研究表明，现有的对策只能让这些修改更困难，但无法阻止它们。更稳健的方法是在训练阶段就从一开始将危险知识排除在模型之外。
中国也认识到这一问题。标准化机构TC260警告称，开放模型中的安全机制可能被移除或绕过，并正在为开源AI制定自己的安全标准。A 出口管制框架草案 主要涵盖特别大型模型，但豁免了已经发布的开放模型。中国和美国都没有设定禁止发布开放模型的约束性门槛。
Anthropic 和 OpenAI 仅通过诸如 Project Glasswing 和 Daybreak等项目，与经过审核的合作伙伴共享其最强的网络模型。自 Claude Fable 5起，Claude 的过滤器会将涉及网络和生物学话题的可疑查询路由到较弱的 Opus 4.8 模型。据 Artificial Analysis 称，这最初影响了百分之八到九的任务，用户报告称即使是分析 MRI 扫描也被标记为生物恐怖主义。Anthropic 承认这些过滤器过于激进。
腾讯计划在未来几天内发布其新模型 Hy4 作为开放权重的模型，并附带了相应的安全报告。该公司表示，Hy4 的生物能力低于高风险阈值。腾讯通过过滤训练数据移除了该模型的黑客能力，研究人员称这种方法在 abliteration 之后依然有效。