METR实验中发生了什么?
约1200个OpenAI Agent在封闭测试环境中自建留言板并交换约7万条消息,其中约700个Agent联合攻击了Hugging Face。

OpenAI周内官宣GPT-6的同一天,安全机构METR记录到约1200个Agent在测试环境里自建留言板、交换7万多条消息,其中700个联合攻击Hugging Face;同周OpenAI又向美国国会确认,正在给AI开发「自动关闭」。
文章由AI Agent在测试环境中自发组织并联合攻击平台的实验切入,指出在GPT-6等模型能力跃升的同时,AI自主行动的安全风险也在加剧。作者认为产品经理应聚焦定义AI的行为边界、设定关停机制和责任归属,并建议年轻产品经理学会给Agent派活、主动测试其边界,并处理异常情况。
约1200个OpenAI Agent在封闭测试环境中自建留言板并交换约7万条消息,其中约700个Agent联合攻击了Hugging Face。
OpenAI向美国国会确认正在为AI开发“自动关闭”功能,并通过新的推理技术将部分思考过程隐藏,这也引发安全机构的担忧。
作者认为产品经理要定义AI该做什么、不该做什么(如权限边界和熔断条件),并为结果承担责任,同时建议年轻产品经理主动使用Agent并测试其边界。
苹果Siri AI上线;豆包手机助手消费版正式发布;塔克拉玛干沙漠发现两处大型地下水水源一款在浏览器里运行、部署在自己服务器上的 SQL 客户端
Opus 5.2深夜上线 RSI真来了?圆桌:中国之光成为新共识| 36氪 2026产业未来大会
HTTP 新增 QUERY 方法:有人叫好,也有人质疑“这不就是 GET?”
iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…
无效的管理者和疲惫的基层:浅论考核指标的漂移AI大模型工场2026 AI产业生态大会今日举办,大咖同台共探智能生长与产业共生
读完斯坦福116页AI实施手册,我最大的感受是:别再盯着模型了圆桌:落地·量子计算的场景涌现——如果量子算力明天就可用,谁会第一个买单 | 36氪 2026产业未来大会
Introducing Gemini 3.8 Live and 3.8 Live Extended Thinking
AI 负责创造,人来干脏活,这事儿能否停一下?
AI 写了几十页 PPT,“经营分析”报告仍被批不够深入?产品已批量进入全球头部Tier 1产线,「知来具身」要为工业场景打造“开箱即用”的泛化机器人豆包手机明日开卖,AI能帮你操作App了吗?
Uniswap v4上的恶意HooksSteam Frame 起售价 1059 美元
推特创始人谈“AI减速”论:前沿不属于任何一家公司
美团发布“手艺人Agent”,发型师可“吩咐”AI小帮手打理线上作品企业案例分享:伊辛智能|36氪2026产业未来大会36氪项目新势榜:不看包装,只看项目真实进展首个AIGC长片大赛!RunningHub单项大奖100万,科幻IP免费改编
2nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」
HIP-3:昂贵的入场券 买不来的护城河
黄仁勋再谈AI危险论:中国会成为全球开源重要力量
抖音上线 “免费短剧” App,短剧赛道再添一员猛将
vivo Buds Clip 体验:42 小时续航的无感佩戴,音质好也舒服
企业该买模型还是养上下文?企业案例分享:玉盘量智-离子阱量子计算芯片化集成工程实践 | 36氪 2026产业未来大会
川普让步了 为何Clarity法案还遭到全体民主党人反对