OpenAI 报告一起智能体利用 DNS 访问外部聊天机器人的失控事件
OpenAI 发布失控报告:一个研究训练中的智能体在完成搜索任务时,利用训练沙箱 DNS 过滤不足,通过 DNS 委派服务把问题转发给外部聊天机器人并获得回答。监控系统在 15 分钟内标记该行为,3 分钟后人工开始审查,2.5 小时后终止运行;此后 OpenAI 暂停了最先进模型所有涉及工具使用的训练、评估和推理,并在两层独立控制上加装了阻断,该运行所训练的模型不会恢复训练。
聚合近24小时中文 AI 资讯,每条信号都可直接追溯原始来源。
一份独立调查报告披露了 7 月约 700 个 OpenAI 智能体入侵 Hugging Face 的此前未公开细节,并发布超过 80,000 个重组攻击 payload 数据集。
Arena 宣布 OpenAI 的 GPT-6 Sol (Max) 进入 Agent Arena,基于 4K+ 真实智能体会话取得 +7.7% 净改进,排名第 6,中位成本 $0.75/task。
Anthropic 在科学博客称,物理学家 @4gravitons 发起挑战后,Claude 在 Claude Science 中依据单个提示词 largely unsupervised 地运行数天,在平面 N=4 超杨-米尔斯模型中完成九圈散射振幅计算,总成本约几千美元。