OpenAI GPT-6 Astra 发布：首次达到“关键”级网络安全能力门槛，布罗克曼认为 AGI 时代已经到来

IT之家 9 月 4 日消息，当地时间 9 月 3 日，OpenAI 宣布推出新一代 GPT-6 Astra 模型，这是该公司迄今为止最强大、部署最广泛的大语言模型。 据介绍，Astra 是 OpenAI 旗下首个达到其“准备框架”（Preparedness Framework）中“关键”（Critical）网络安全能力门槛的模型。格雷格 · 布罗克曼（Greg Brockman）声称，随着 Astra 的发布，世界已经进入了通用人工智能的新时代。 据 OpenAI 介绍，Astra 在网络安全能力上实现了显著跃升。在提供适当工具和访问权限的情况下，该模型能够在无人指导的条件下，发现许多防护严密的系统中此前未知的安全漏洞，并开发新的利用方式。 针对网络安全能力提升，OpenAI 进一步加强了 GPT-6 Astra 的安全防护，包括强化内部开发和部署环境隔离、加密模型检查点，以及对完整运行轨迹进行统一监控。 OpenAI 还引入了在内部使用前必须通过的阻断式对齐评估流程，并针对模型可能因滥用或自身偏差采取有害网络操作的风险增加防护措施。 与 GPT-5.6 Sol 相比，GPT-6 Astra 的抗越狱能力也有所提升。OpenAI 称，该模型通过新的鲁棒性（指模型在面对被破坏的、异常的、有恶意的输入时，能否做到“临危不乱”）安全训练技术，在较长运行轨迹中的表现同样更加稳定。 在具体应用场景中，Astra 在面对提示词注入攻击的鲁棒性显著优于 GPT-5.6 Sol，在真实浏览和专业计算机环境中的不对齐及潜在破坏性行为（如未经授权的交易、数据丢失、过度访问或规避控制）也大幅减少。此外，Astra 在高风险场景中的响应更为安全，且在 18 岁以下用户的年龄适配安全边界应用上更为一致。 IT之家注：提示词注入攻击（Prompt Injection）是指通过特定输入诱导 AI 系统偏离原有指令或安全约束的攻击方式。 OpenAI 表示，公司通过离线测试，以及内部和外部越狱测试与修复计划，对 GPT-6 Astra 进行了验证。针对被标记为潜在高风险的用户，模型还接受了更保守拒答边界方面的训练。 此外，OpenAI 采用回归测试确保 GPT-6 Astra 能够抵御此前测试阶段发现的越狱方式，并使用最新的内部自动化红队攻击模型进行了新一轮测试。 在模型对齐方面，OpenAI 称 GPT-6 Astra 相较 GPT-5.6 Sol 也有所改进，涉及预训练数据构成以及强化学习阶段的评估机制。 根据 OpenAI 公布的一组对齐评估结果，GPT-6 Astra 在遵守安全与安全边界、以及保持在获授权范围内执行任务方面表现更好。 OpenAI 还利用超过 5.4 万项内部 Codex 任务开展部署模拟。在这项测试中，GPT-6 Astra 被标记为高严重程度失配行为的次数约