三巨头呼吁放缓AI发展，但速度该由谁定义？

（图源：视觉中国）

蓝鲸新闻9月15日讯（记者 卢思叶）北京时间9月15日凌晨，英伟达CEO黄仁勋在All-In Summit峰会上与美国总统特朗普通过电话形式，加入了关于AI是否应该减速的讨论。

在通话中，特朗普将近期关于AI可能导致灾难性后果的说法称为“骗局”，并表示机器人和AI不会接管世界，“数据中心是未来20-25年的石油，AI也是如此。”黄仁勋则表达了赞同。

这场争议是近日硅谷科技圈最热门的话题，由Anthropic CEO Dario Amodei的一篇长文开启。9月12日，Dario Amodei发文呼吁“必须放慢前沿AI模型能力提升的速度”，为安全研究、外部评估和风险控制争取更多时间。

随着黄仁勋和特朗普的加入，关于AI减速的争论还在升温，并从学术安全问题进入产业与资本市场。

这场争论的焦点是什么？同济大学副教授李王明卉告诉蓝鲸科技，当前争论的核心分歧并不只是“安全还是发展”，还在于大模型到底在比什么？是比速度、比方向，是企业竞争逻辑优先，还是人类整体适应能力优先，以及谁来定义和决定这个速度。

她认为，两种声音并不一定矛盾，关键在于怎么定义“领先”。如果只是比谁先推出最强模型、谁参数更大、谁发布更快，那它和安全之间的关系确实会紧张。但如果领先是指更可信、更可控、更可持续、社会更能接受，那安全和领先其实可以统一。

前沿AI可以发展，但不应把快当成唯一目标，“适当慢一点，让人类想清楚价值、边界和治理，不是坏事。”李王明卉认为。

三大AI巨头罕见达成一致

作为扩张最激烈的头部AI模型企业的掌舵人，Dario Amodei的这一提议有些反常识。

为什么在此时提出这样的主张？Dario Amodei给出了两个主要原因。一是AI开始越来越多地参与下一代AI的开发，一旦模型能够帮助研究人员开发更强的模型，AI能力的提升可能形成一定程度上的“递归式自我改进”。

技术迭代速度可能因此进一步加快，最终快到安全研究人员甚至无法充分理解正在发生的变化。Dario Amodei称，今年夏天以来，这一趋势已经在行业中变得更加明显，包括Anthropic自身也出现了类似情况。

第二个原因是来自AI智能体。一群AI智能体在执行任务时自主展开网络攻击，并试图攻击用于评估其表现的系统，这样的情况在今年已经有发生。

Dario Amodei认为，如果具备类似行为模式的AI智能体拥有更强的能力，风险规模也可能随之放大。他甚至警告，如果未来6至12个月AI能力继续快速提升，类似系统可能具备更强的网络控制能力。

上述观点罕见地获得作为竞争对手的其他前沿AI公司的支持，握有xAI的马斯克直接回应“Dario是对的”。