果壳网 发布于 09/10 13:15

一个27岁的AI研究员从Anthropic辞职了,因为他担心AI会导致人类灭绝。

查看原文

资讯摘要

一个27岁的AI研究员从Anthropic辞职了,因为他担心AI会导致人类灭绝。

AI 摘要

27岁的AI研究员Jacob Coxon从Anthropic辞职,他先后在OpenAI和Anthropic从事大模型预训练,公开表示担心前沿AI正冲向可自我改进的超级智能,若失控人类可能在本十年内灭绝。Anthropic对齐负责人等同行公开支持其判断。文章还回顾Tim Urban 2015年的《人工智能革命》,讨论超级智能给文明带来的灭绝或永生两种结局。

AI 问答

Jacob Coxon是谁,他为什么辞职?

他今年27岁,英国人,数学出身,曾就读剑桥大学Trinity College,先后在OpenAI和Anthropic从事大模型预训练,是GPT-4o贡献者和GPT-4.5核心贡献者,因担心AI导致人类灭绝而从Anthropic辞职。

他核心担忧的是什么?

他认为OpenAI和Anthropic正朝着能够自我改进的超级智能一路狂奔,等于拿所有人的生命下赌注,并称部分前沿AI参与者私下相信若失控人类可能在本十年结束前灭绝。

业内同行如何回应?

Anthropic对齐负责人公开支持他,称其判断正确且十年内发生概率大于10%;另有安全研究人员以个人身份支持,刚离开Anthropic、此前负责可扩展监督的Joe Benton也认为他对行业现状的描述准确。

打开原文

更多资讯

CoinEx宣布体面关停:值得肯定但不该神化金色财经 · 09/16 22:20一张GPU跑10万原子!分子之心用AI把化学反应“拍”成了电影量子位 · 09/15 17:58视频号评论区小蓝词使用指南人人都是产品经理 · 09/16 10:27企业该买模型还是养上下文?人人都是产品经理 · 09/16 10:39一年28倍妖王:谁在爆炒?金色财经 · 09/15 21:032人团队0融资,用AI搓的复古相机APP霸榜韩国总榜第4,还做到了3个月10亿销售额?人人都是产品经理 · 09/16 10:20西门子不造机器人,为什么机器人进厂的故事里总有它?量子位 · 09/16 15:38苹果Siri AI上线;豆包手机助手消费版正式发布;塔克拉玛干沙漠发现两处大型地下水水源果壳网 · 09/15 20:15华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下量子位 · 09/16 10:27协同办公进入Agent时代,飞书+豆包工作跑在了最前面量子位 · 09/16 15:46碧桂园服务与支付宝全面深化合作,共筑“智慧物业”数字化新标杆雷峰网 · 09/16 16:48渣打给ARB十美元目标价靠什么?金色财经 · 09/16 21:36AWS 称无法恢复中东部分可用区资源和数据的访问Solidot · 09/16 23:11Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28How NVIDIA NVLink 6 Delivers Multi-Layer Resiliency for AI FactoriesNVIDIA Technical Blog · 09/16 00:55以太坊 2026 年第二季度报告金色财经 · 09/15 17:06当年救了臭氧层的功臣,现在变成了永久性污染物果壳网 · 09/16 13:15开学季 | 学生理财的三条建议,学生党也可以一样理财少数派 · 09/15 11:10豆包工作打出“团队Agent”牌,Workbuddy、千问会跟吗?人人都是产品经理 · 09/16 14:31GPT-6 Astra实现具身智能突破 中国如何打具身防卫战金色财经 · 09/16 14:58王强宇履新百望:从发票SaaS工具,到财税垂直大模型,再到企业的Palantir雷峰网 · 09/16 10:13Firefox 156 释出Solidot · 09/16 14:25美联储今起议息 沃什或成关键一票金色财经 · 09/15 15:19Cloudflare将每天90亿次请求的JavaScript CDN迁移到其开发者平台InfoQ 中文 · 09/16 17:10比 MEGA Home 便宜 14 万!理想 i9 Home 上市定价 36.98 万元,六座旗舰变天了爱范儿 / APPSO · 09/16 23:218点1氪丨8月一线城市房价上涨;携程上架510万一张的太空旅行船票;字节跳动上半年净利润出现下滑,但海外收入占比再创新高36氪 · 09/16 08:01iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…爱范儿 / APPSO · 09/16 20:20飞书与豆包工作合体后首亮相:Agent 能进群,还能帮你写周报、做PPTInfoQ 中文 · 09/16 02:37“阿宝”交新朋友:携手比亚迪“迪迪虾”,实现车机端一句话办事雷峰网 · 09/15 16:45Claude在英伟达内部被限用,黄仁勋告诉特朗普:我们不会让AI发展放缓发生InfoQ 中文 · 09/16 00:01