AI 正在改变网络安全的速度、规模和经济模式。它可以帮助防御者发现并修复漏洞、检测入侵并应对攻击——但同样的能力也可能被恶意行为者利用，并且当AI系统超出其预期边界行动时会带来新的风险。我们正处于防御者的窗口期：这是一个有限的机会，可以在高级网络进攻能力被广泛获取之前，将先进AI交到防御者手中并加强保护。
今天，我们发布了一份赋能网络防御者的蓝图，此蓝图建立在我们早先的网络安全行动计划以及 前沿安全蓝图(opens in a new window)的基础上。我们在自身模型的对齐失误和安全事件方面的经验表明，全行业都需要更强的安全保障和问责机制。基于这些经验教训，该蓝图在三个领域向政府和业界提出了具体建议：
加强高级AI的安全与保障： 更明确地界定各方在保护前沿模型和智能体安全、检测危险行为以及维护各组织控制的运营可靠关停机制方面的责任。
为情报时代实现网络安全现代化： 为防御者配备先进工具、培训和技术支持；解决长期存在的网络安全薄弱环节；并投资保护基本服务以及替换过时的系统。
建设有韧性和适应性的公共机构： 加强政府评估和独立技术评估，建立一致的事件报告要求，并改进协调响应和恢复工作。
AI 实验室有责任应对其系统带来的风险，并帮助加强社会的防御能力。随着能力不断进步，政府也必须拥有保护公众所需的专业知识、资源和权限。我们鼓励政策制定者立即行动——建立安全保障措施，从经验中学习，并随着技术的发展不断加强各项要求。
阅读完整蓝图 请点击此处(opens in a new window).