金色财经 发布于 09/14 13:30

Anthropic CEO谈放缓AI研发:无需“把一切都关掉”

查看原文

资讯摘要

Dario Amodei认为,“放缓AI”不是说我们今天需要恐慌,也不是说要把一切都关掉。但我们需要确保我们的安全防护、理解能力和控制能力,能够跟上技术发展的速度。

AI 摘要

Anthropic CEO Dario Amodei接受CBS专访,回应“放缓AI研发”话题。他表示当前不是五级火警,而是警告信号:无需把一切都关掉,但必须让安全防护、理解与控制能力跟上技术发展速度。他提出引入第三方评估员、多家公司共同制定安全标准、政府参与对话的三步方案,并称行业对风险撒谎太久,风险是真实的。

AI 问答

Amodei如何描述当前的AI发展阶段?

他用指数曲线比喻,称技术正以1、2、4、8、16、32的速度增长,人类正处于曲线开始变陡的弯道上。他认为这是警告信号,而非五级火警,也不是要把一切都关掉。

Amodei提出的三步方案是什么?

第一步引入来自第三方非营利机构或政府机构的嵌入式外部评估员,观察模型训练和运行全过程;第二步多家公司共同制定发布安全标准与节奏标准;第三步政府必须在场参与这场关于发布速度是否安全的对话。

Amodei如何看待“AI终止开关”?

他认为能够停用、限制或关闭模型不是唯一解决方案,足够强大的模型可能在模拟中已显示出规避关闭尝试的能力,所以可能根本不起作用,主张用多层防护的“瑞士奶酪模型”。

打开原文

更多资讯

豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群爱范儿 / APPSO · 09/15 14:39OpenAI 总裁最新采访:现在所有人对 AI 的预测,大概率都是错的人人都是产品经理 · 09/15 16:19日本百岁老人人数首次超过 10 万人Solidot · 09/16 13:35Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18牛市的钱:是熊市里守出来的金色财经 · 09/15 19:04派早报:豆包发布手机助手消费者版,绿联发布首款雷电 5 显卡坞等少数派 · 09/15 08:06当黄仁勋和Dario遇上休谟:火鸡、台球与AI末日论金色财经 · 09/15 22:18阶跃发布 StepAudio 3 ,多款语音模型登顶 Artificial Analysis 全球榜单雷峰网 · 09/15 17:50前高通算法研发经理跨界AI算力板检测,获近亿元战略投资丨36氪首发36氪 · 09/15 09:30一年28倍妖王:谁在爆炒?金色财经 · 09/15 21:03WorkBuddy + 美图设计室,在对话框里就能解决办公设计任务?人人都是产品经理 · 09/15 08:57号称人类造的最后一个 AI 要来了,刷屏全网的 RSI 是什么爱范儿 / APPSO · 09/15 17:43Scaling Federated Learning Across Docker, Kubernetes, and Slurm with NVIDIA FLARENVIDIA Technical Blog · 09/15 23:00高通技术公司携手中兴努比亚和豆包手机助手,共同推动智能手机迈入个人AI新时代量子位 · 09/16 16:18云连锁到轻连锁,品牌业务逻辑的改变人人都是产品经理 · 09/16 11:47产品观察丨xTool做了一台3000元起步的激光雕刻机,难的不只是价格36氪 · 09/16 10:40Claude在英伟达内部被限用,黄仁勋告诉特朗普:我们不会让AI发展放缓发生InfoQ 中文 · 09/16 00:01CLARITY折戟 多方博弈撕裂行业预期 市场怎么看?金色财经 · 09/16 10:33字节跳动CEO梁汝波:豆包、飞书与火山引擎整合后 将加大企业市场投入雷峰网 · 09/15 11:45只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17稳定币挤兑与套利集中化金色财经 · 09/16 18:54QQ 飞车 Agentic 研发转型过程中的Loop EngineeringInfoQ 中文 · 09/16 01:24Your Agent Aced the Task. Will It Do It Again?Hugging Face Blog · 09/16 00:00实时互动、实时改视频、探索空间视频,Vidu S2一次放了三个大招量子位 · 09/16 10:58Fedora 45 Beta 释出Solidot · 09/16 15:26AI for everyone in every languageGoogle AI Blog · 09/16 00:00理想落幕:加密行业为何集体走向同质化?金色财经 · 09/15 18:31Ctenophores Aren’t Just Beautiful. They’re Biological Wonders.Quanta Magazine · 09/16 23:56OpenAI 总裁:AGI 已经发生金色财经 · 09/15 22:25被英伟达点名的杭州团队,补上了AI for Science的「最后一公里」量子位 · 09/16 11:40