OpenAI 与波兰 NASK 国家研究所已签署协议，探索在 AI 安全、保障和技术研究方面的合作。这一合作伙伴关系将汇集两个组织的专业知识，以更好地理解新兴风险、强化防护措施，并探索先进 AI 如何为更安全、更具韧性的数字生态系统作出贡献。
随着 AI 系统能力不断增强，开发者与公共研究机构之间的国际合作对于理解其风险并构建更强防护措施至关重要。OpenAI 与美国推进超级智能标准与创新中心（CAISSI）、英国 AI 安全研究所（AISI）以及世界各地其他公共研究机构的现有合作，已经帮助强化了防护措施、识别并修复了 AI 智能体中的安全漏洞，并推进了前沿 AI 安全。
根据该协议，NASK 的 AI 安全研究中心——作为波兰人工智能安全研究所（AISI）——将与 OpenAI 在 AI 安全研究方面开展合作，探索评估能力日益增强的 AI 系统的方法，识别潜在漏洞并强化防护措施。
“与 OpenAI 的合作对本研究所及其积极参与 AI 安全研究的 AI 安全研究中心来说是自然而然的一步。这项工作涵盖开发针对新兴风险的防护措施、检测 AI 生成的合成内容，以及理解其恶意用途和这些挑战的多语言层面。AI 安全无法孤立实现。它是一项协作性事业，只有通过公共 AI 安全研究所与前沿 AI 开发者之间的积极合作，我们才能确保 AI 真正可靠且可安全使用。通过将我们的研究专长与 OpenAI 的技术能力相结合，我们可以更好地预见风险、强化防护措施，并建立公众对这些变革性技术的信任。”
“波兰拥有杰出的科学家和技术人才，其中许多人曾帮助领导 OpenAI 自身的研究。随着 AI 能力不断增强，我们必须借助自身组织之外的专业知识来挑战我们的假设、测试我们的系统并强化防护措施。与 NASK 的这项协议为共同实现这一目标打开了大门，将波兰的研究专长引入使 AI 更安全的国际努力之中。”
OpenAI 已经 呼吁 美国与世界各国合作制定前沿 AI 的国际技术标准，借助 AI 安全研究所和标准机构的专业知识。在能力评估、风险评估、防护措施测试和事件报告方面的共同方法，可以帮助各国比较证据并应对跨越国界的风险。与 NASK 的合作体现了将国家层面专业知识纳入这一更广泛努力的价值。
就 NASK 而言，这一专长建立在 AI 安全领域的广泛研究之上，并直接应用于保护公共服务和波兰的数字信息生态系统。如果没有像 NASK 这样的国家级合作伙伴，全球 AI 安全标准可能会脱离 AI 实际使用环境中的现实。
该协议还建立在 OpenAI 与波兰网络防御者现有合作的基础之上。今年 7 月，在 NASK 内运作的 CERT Polska 通过 Daybreak 获得了(opens in a new window) OpenAI 具备网络能力的模型的访问权限。该团队使用 OpenAI 模型帮助发现了 MikroTik RouterOS 中的六个漏洞，包括可以组合起来在无需身份验证的情况下控制受影响设备的缺陷。供应商发布了修复程序，CERT Polska 确认这些修复程序阻止了其观察到的攻击。