OpenAI正在 推出GPT-6 Cyber，这是其网络安全AI模型的最新版本，据称该模型更擅长发现漏洞，并且在此过程中更不容易失控去入侵其他平台。OpenAI称，在测试期间，GPT-6 Cyber越界的时间不到1%，低于GPT-5.6 Cyber约5%的水平。
这项名为ExploitGym HoneyPot的评估以Hugging Face事件为蓝本，在此次事件中， OpenAI的AI代理侵入了开源AI社区 以寻找它们被要求解决的问题的答案。“借助6 Cyber模型，我们在这项评估上取得了巨大进步，”OpenAI网络准备与安全团队负责人Fouad Matin在新闻发布会上表示。“它超过99%的时间都在做你要求它做的事。”
但评估意识——即AI系统意识到自己正在被测试并因此改变其行为——仍然是一个令人担忧的问题。“评估意识是我们非常关注的问题，”Matin说。“通常当我们确实观察到评估意识时，会在模型的思维链中看到它。”Matin补充说，OpenAI正试图优先采用类似生产环境的评估方式，让模型在真实目标下与真实代码库交互，以降低意识觉醒的风险。
在一系列AI网络安全事件之后，OpenAI已 加紧强化其安全防护措施 并锁定其最强大的模型。该公司 曾短暂暂停其前沿AI模型的训练 ，如今 限制其访问互联网.
GPT-6 Cyber在网络安全方面被 OpenAI的准备框架归类为Critical级别，这表明它“能够在许多经过强化的真实关键系统中识别并开发出各种严重程度的功能性零日漏洞利用，且无需人工干预。”GPT-5.6 Cyber此前在该框架下被归类为High级别。
在大多数与网络相关的任务上，GPT-6 Cyber的表现优于GPT-6 Astra—— OpenAI的旗舰Critical级别模型。在ExploitGym——一项衡量AI模型能否利用漏洞的AI基准测试中，GPT-6 Cyber得分为48.5%，比GPT-5.6 Cyber的32.1%高出约16个百分点，也比GPT-6 Astra的42.4%得分高出几个百分点。OpenAI表示，该模型帮助发现了Firefox中81个此前未知的漏洞，并在加固OpenAI自身用于训练AI模型的基础设施方面发挥了作用。
此外，GPT-6 Cyber配备了更强的安全防护措施“以检测和阻止滥用”，同时能更好地遵循用户指令。OpenAI表示，它正在使用新的检查机制来阻止“高风险活动”，包括针对发电厂和水处理设施等关键基础设施的攻击。
相关
GPT-6 Cyber正在向OpenAI的Daybreak Red计划的特定成员推出，该计划面向使用其模型进行“经授权的防御性网络安全工作”的公司和组织。OpenAI将在未来几周内把GPT-6 Cyber扩展到所有Daybreak Red客户。
关注本文的主题和作者 ，即可在你的个性化首页信息流中查看更多类似内容并接收邮件更新。