金色财经 发布于 09/15 19:37

Anthropic CEO自爆行业黑幕

查看原文

资讯摘要

Dario Amodei 首认行业长期隐瞒 AI 风险,提出三步走限速框架,遭开源阵营激烈反弹。

AI 摘要

Anthropic CEO Dario Amodei 发布政策长文并接受 CBS 专访,首次承认 AI 行业长期淡化风险,提出限速三步走框架:派驻嵌入式评估员、在民主国家内部建立前沿协调与安全检查点、寻求全球多边规则。马斯克、Altman、Nadella 等表态支持,Yann LeCun 与开源阵营则批评其以安全之名构筑合规壁垒、推高监管俘获与反垄断豁免。

AI 问答

Dario Amodei 提出的限速方案包含哪些层级?

分为三层:一是设立常驻的“嵌入式评估员”,让外部第三方团队获得类似内部员工的系统权限;二是在民主国家内部建立前沿协调与“安全检查点”机制;三是寻求全球范围的多边规则,包括生物安全、发布前测试、对递归自我改进设限等设想。

业内对这份提案的主要质疑是什么?

质疑集中在其推荐 METR 存在监管俘获风险、借安全之名抬高合规门槛并寻求反垄断豁免、以外部竞争为由继续迭代,同时回避产品过失追责与强制召回等真正有约束力的法律工具。

开源阵营为何强烈反对?

图灵奖得主 Yann LeCun 等认为这是以“安全”为名集中行业解释权的权力游戏,并翻出 2019 年 GPT-2 分阶段发布的旧账,指其可能重演一次风险公关营销。

打开原文

更多资讯

XCancel 服务再次下线Solidot · 09/15 14:20OpenAI 总裁:AGI 已经发生金色财经 · 09/15 22:2519.98 万元起,吉利银河战舰 700 开启预售,最高 1129 匹马力,还有三电机四驱爱范儿 / APPSO · 09/15 21:04SDL3 移植到 HarmonyOS / OpenHarmonySolidot · 09/16 16:57AI攻克世纪数学难题,顶尖数学家抱团抵制,而他们担心的并不是丢了工作果壳网 · 09/15 19:15AWS 称无法恢复中东部分可用区资源和数据的访问Solidot · 09/16 23:11Grayscale:比特币能否优化私募市场投资组合?金色财经 · 09/15 09:10OpenAI万亿IPO推迟背后 四本账与三条投资路径金色财经 · 09/16 11:27美联储今起议息 沃什或成关键一票金色财经 · 09/15 15:19iOS 27 正式版体验:Siri AI 终于开窍了,老 iPhone 升级也有新东西爱范儿 / APPSO · 09/15 13:00圆桌:探路·产业分工的新图谱,看到新未来——国家力量如何转化为产业价值 | 36氪 2026产业未来大会36氪 · 09/15 17:39当黄仁勋和Dario遇上休谟:火鸡、台球与AI末日论金色财经 · 09/15 22:18百度做了一堆AI产品,却没有一个能代表百度?人人都是产品经理 · 09/15 18:31B站AI无限竞技场今日上线!全球百大AI模型同场竞技,GPT-6高居榜首量子位 · 09/16 14:23当罗永浩站在群众的对立面人人都是产品经理 · 09/15 11:35Windows 11 的 9 月例行安全更新再次引发了大量故障Solidot · 09/15 14:29耐克、妮维雅、谷歌的警示:品类,正在误导品牌战略!人人都是产品经理 · 09/15 09:42前高通算法研发经理跨界AI算力板检测,获近亿元战略投资丨36氪首发36氪 · 09/15 09:30GPT-6 Sol 曝光:OpenAI 要把旗舰变成大白菜人人都是产品经理 · 09/16 19:58Uniswap v4上的恶意Hooks金色财经 · 09/15 12:43微软 CEO 纳德拉:AI 应用的机会正在变大,模型成本将继续下降人人都是产品经理 · 09/16 11:48字节跳动CEO梁汝波:豆包、飞书与火山引擎整合后 将加大企业市场投入雷峰网 · 09/15 11:452人团队0融资,用AI搓的复古相机APP霸榜韩国总榜第4,还做到了3个月10亿销售额?人人都是产品经理 · 09/16 10:20英伟达开始限制Claude使用了金色财经 · 09/15 12:37超越代币化:让RWA在链上发挥实用价值金色财经 · 09/15 12:11阶跃发布 StepAudio 3 ,多款语音模型登顶 Artificial Analysis 全球榜单雷峰网 · 09/15 17:50社区速递 158 | 便宜耐造的副厂手柄与大学宿舍里那些相见恨晚的装备少数派 · 09/15 17:00How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera RubinNVIDIA Technical Blog · 09/16 00:55数亿元!前京东副总裁“消失”4年:不造会跑的天工,他在仓库里给人形机器人“占工位”雷峰网 · 09/15 15:14企业该买模型还是养上下文?人人都是产品经理 · 09/16 10:39