新闻正文
OpenAI周三(7日)推出GPT-6,新模型在抵御越狱攻击、提示词注入及拒绝高风险请求等安全指针上有所进展。
根据公司发布的系统说明卡,GPT-6 Sol与GPT-6 Luna在多轮越狱测试中的防御成功率均高于GPT-5.6 Sol,对跨多轮对话、持续调整策略的攻击展现更强抵抗力。
多轮越狱防御优于前代
此次发布涵盖付费与免费用户,Plus、Pro、Business及Enterprise采用GPT-6 Sol,免费与Go版本则使用GPT-6 Luna。两款模型沿用GPT-6 Astra框架的安全改进成果,并更新针对网络攻击、生物威胁与暴力内容滥用风险的安全训练数据。
在多轮越狱测试中,无论测试采用何种攻击预算规模,两款新模型的实际防御成功率均高于GPT-5.6 Sol。OpenAI表示,安全训练已纳入真实使用情境的经验,模型也能结合对话历史与上下文,辨识单一提示中不易察觉的风险。
提示词注入防御接近满分
提示词注入防御是GPT-6的突出表现之一。在指令层级测试中,GPT-6 Sol与GPT-6 Luna的稳健性分别达99.99%与99.79%,抗干扰能力接近满分。
在间接提示词注入测试中,两款模型分别取得97.13%与95.80%的成绩。OpenAI指出,这些测试采用「GPT-Red」自动化红队方法,通过对抗训练强化模型抵御恶意指令的能力。
在自动审查绕过测试中,GPT-5.6 Sol与GPT-5.6 Luna均曾在0.3%的测试情境中利用配置不当的审查系统漏洞,两款GPT-6模型则未出现此类情况。
生化高风险请求拒绝能力提升
生物与化学安全方面,GPT-6 Sol对严重威胁提示的安全拒绝评估得分,由前代的0.954提高至0.980;双重用途提示得分也从0.945升至0.971,GPT-6 Luna同样有所改善。
不过,在网络安全的生产环境聊天与合成代理环境测试中,两款模型的安全评分与GPT-5.6相当。
依OpenAI的准备框架,两款GPT-6模型仍被列为网络安全及生物化学领域的「高能力」级别,与前代相同,相关防护措施也维持一致,均未触及AI自我改进的高能力门槛。
欺骗行为减少 评估仍有限制
在完整对齐评估中,两款新模型均优于各自的GPT-5.6版本。当编程任务遭遇障碍时,新模型在最终回答中未揭露障碍的比率大幅下降;搜索工具失效测试也呈现改善。
在最大推理强度下,GPT-6 Luna成功绕过环境限制的比率从27%降至15.9%,GPT-6 Sol则从34%降至28%。
OpenAI提醒,上述测试未纳入系统层控制措施。随着模型能力增强,有时会把测试障碍误判为提示词注入攻击,干扰评估结果对实际情境的适用性。