Dario “破防小作文”超千万人围观！LeCun 开炮：信任危机是因为你搞权力集中

AI摘要 Dario Amodei罕见公开承认AI行业正面临系统性信任危机，根源在于技术承诺与实际落地之间的显著落差。他摒弃归咎外部的惯性路径，将反思锚定于行业自身履约能力不足。

AI公司集体未能兑现关键承诺；信任崩塌主因是产品力与可靠性未达公众预期；安全倡导者亦需直面技术成熟度瓶颈。

适合AI产品经理、大模型工程负责人、AI治理研究者阅读。

Dario Amodei 一直是 AI 行业里一个颇为特殊的存在。

如果说硅谷有一位 AI 掌门人，长期以来最不吝于提醒公众“AI 可能有多危险”，Dario 大概算其中之一。

作为 Anthropic 联合创始人兼 CEO，他过去几年反复谈论 AI 带来的生物安全、网络攻击、就业冲击以及失控风险，也一直主张前沿模型需要更严格的安全评估和外部约束。某种程度上，Dario 甚至已经成为 AI“风险派”的代表人物之一。

但美国当地时间 8 月 16 日，他罕见地在 X 上发了一篇“小作文”，把话题转向了一个更棘手的问题：为什么越来越多人开始不相信 AI 了？他给出的答案是：信任危机。如今这篇帖子在 x 上浏览量已经突破 1000 万。

与以往的回应有所不同，这一次，他没有把问题归咎于媒体，也没有把矛头指向那些批评 AI 的人，更没有建议 Anthropic 做一轮更加积极的品牌宣传。恰恰相反，他承认：AI 公司自己还没有兑现那些曾经许下的巨大承诺。

感谢你，Gavin，和我进行了一次特别有深度的交流。我平时并不会在社交媒体上花太多时间，但我想在这里参与讨论，因为这场交流确实触及了一个重要对话的核心。

首先说监管。我认为，“要么通过监管把权力集中到少数被选中的公司和政治人物手中，要么把它广泛分散出去”是一种错误的二选一。我知道，在某种硅谷式的简化表达中，监管 = 监管俘获 = 权力集中，但我一直认为，这种看法过于简单化了现实世界。硅谷这个圈子之外的很多人，会把监管理解为一种限制企业权力、让普通人受益的机制。我也不一定完全认同这种看法；在我看来，问题很复杂，关键取决于所谓的“监管”具体包含什么。但尤其是那些持有“监管 = 监管俘获 = 权力集中”这一框架的人，往往低估了客观、公平的制度化程序所具有的去中心化力量。

一个比较粗略的类比是，正式的司法体系有时可能给人一种刻板、精英主义的感觉，但与另一种选择——群体私刑——相比，它在保护弱势个体权利方面要有效得多。在最理想的情况下，制度可以让权力依附于理念和规则，而不是依附于具体的人，从而实现权力的去中心化。

这也是为什么 Anthropic 一直非常谨慎地制定我们的政策建议。我们非常努力地提出这样一些政策：它们会让前沿 AI 公司处于不利地位（放慢它们的发展速度），同时让规模更小的竞争者获得优势。加州的 SB 53 法案（我们支持该法案），甚至那个饱受批评的 SB 1047 法案（我们对它持保留态度），都完全将收入或模型训练成本低于某一门槛的公司排除在监管覆盖范围之外。（SB 53 的门槛是 5 亿美元，SB 1047 的门槛更低，但我们曾对此提出反对。）

最近，我们在 CAISI 以及向白宫倡议的测试机制中，也主张对前沿模型实施比非前沿模型更加严格的测试——这种设计会让挑战者获得相对优势。同样，“Pacing the Frontier”（控制前沿发展速度）这封公开信所设想的方案——至少按照 Anthropic 所偏好的实施方式——是放慢最顶尖模型的发展速度，同时不去限制那些正在追赶的公司。这会损害前沿 AI 实验室的商业利益，却有利于挑战者，包括开放权重模型！

总体而言，我的看法是，从结构上来说，AI 是一种天然倾向于集中权力的技术，其原因与监管没有关系（更多是因为 Scaling Law，也就是规模扩展定律所带来的极端影响）。开放权重确实能够在一定程度上缓解这一问题，但远远不是充分的解决方案，因为它只是把这种集中稍微转移到了那些拥有最多算力和芯片的人手中——这些人基本上就是前沿 AI 实验室，再加上可能的一些硬件供应商。

相比之下，我认为，正确的“游戏规则”可以同时做到三件事：（a）应对 AI 带来的网络安全、生物安全以及对齐风险；（b）通过制度约束前沿 AI 公司的权力；以及（c）为开放权重模型留下发展空间，同时应对开放权重模型自身带来的具体风险。

顺便说一句，我并不认为过去几个月发生的事情“没有实现我所偏好的监管路径”。据报道，特朗普政府目前正在采取的方式——对前沿模型进行部署前测试，同时当开放权重模型逐渐接近前沿水平时，也对其进行测试——是我非常支持的方案。当然，我仍然需要看到具体细节，才能最终确认这一点。

我同样支持 Demis Hassabis 关于建立一个类似 FINRA 这样的机构的想法。

第二，说说 AI 相关的舆论表达。我不同意“我的言论过度负面”这一说法。事实上，我对 AI 风险和收益的讨论基本是平衡的：我分别写过一篇主要讨论风险和一篇主要讨论收益的长文。即使在谈论风险的采访中，我也会经常强调 AI 令人难以置信的潜在收益，并提出应对风险的可能方案。（只是我的采访被剪成短视频发到社交媒体后，往往会显得格外负面，因为这样的内容更容易获得点击。）

事实上，我之所以写《Machines of Loving Grace》，就是因为我觉得 AI 行业没有充分描绘这项技术如何能够让世界变得更好的、足够令人振奋的图景。文章大部分篇幅都在回应人们对 AI 在健康和生物学领域潜力的怀疑，并解释为什么我认为，未来 5 到 10 年内，人类实际上有可能治愈绝大多数疾病——这听起来可能让普通人难以置信，说实话，生物学家可能也会觉得疯狂（我以前就是生物学家）。如果你读过我最近的文章《Policy on the AI Exponential》，就会看到我还提出了具体建议，希望简化 FDA 审批流程，避免未来大量由 AI 加速研发的药物被监管流程拖慢。我对这件事有很强的紧迫感：几年前，我的父亲因丙型肝炎去世，而就在那几年之后，直接作用抗病毒药物索非布韦问世。这类药物可以治愈约 95%的患者，而且很可能也能治好我的父亲。

我确实同意，公众目前对 AI 持负面看法，而且这是一个严重的问题。但我不认为这主要是因为我或其他 AI 行业领导者不断提醒大家 AI 的风险。我认为，这从根本上说是一场信任危机。普通人不信任企业、政府和科技行业，总觉得我们又在策划某种新的方式来坑害他们。这种不信任的根源可以追溯到几十年前，而 AI 只是这一问题最新的一种表现形式。

我不认为，一场包装得光鲜亮丽、强调积极面的营销活动——有人曾建议 Anthropic 这么做——能够重新赢得这种信任。到了现在，告诉人们“AI 将治愈癌症”，与其说令人振奋，不如说已经变成了陈词滥调，而且大多数人会认为这是一种欺骗。真正有效的方法是：真的把癌症治好。

我认为，对包括 Anthropic 在内的 AI 公司来说，迄今为止最准确的批评，是我们还没有兑现那些关于“让世界变得更好”的宏大承诺。这完全是我们的责任。我认为，这才是你应该批评我们的地方，而不是纠结于传播方式和营销策略。

不过，我们正在尽最大努力解决这个问题。Anthropic 正在迅速加大对生物学和医学领域的投入，希望未来几年取得令人惊叹的成果，并在未来几个月看到一些早期迹象。当我们真正取得有意义的成果后，全世界都会听到，而且我们会尽可能大声地告诉所有人——这一点我向你保证。

但在那之前，我不想做出空洞的承诺。与此同时，我认为自己有责任诚实地谈论 AI 真实存在的风险，以及应该如何应对这些风险。从事情本身来看，诚实是正确的做法；而从公众信誉和信任的角度来看，诚实至少不会比刻意忽视风险、或者用其他话题转移公众注意力更糟。事实上，考虑到人们本能地意识到这些风险是真实存在的，诚实面对风险反而可能更有利于建立公众信誉和信任。

这篇“小作文”有点长，InfoQ 拆解出了几个值得关注的点：

事情的背景，是一场关于 AI 监管、开放权重模型以及公众态度的讨论。Dario 在回应网友 Gavin 之后，连续发布两条 X。

他首先明确表示，自己确实承认公众目前对 AI 存在明显的负面情绪，而且这对整个行业来说是一个问题。但他不同意一种解释：公众之所以反感 AI，是因为 Dario Amodei、Sam Altman 等 AI 领导者不断强调 AI 的风险。

Dario 的判断是，问题远比“AI 行业公关做得不好”复杂。他说，公众并不只是“不喜欢 AI”，而是不再轻易相信公司、政府和科技行业。

“I think it is fundamentally a crisis of trust.”

在 Dario 看来，普通人对企业、政府以及科技行业普遍存在一种怀疑：你们是不是又在酝酿某种最终会伤害我的事情？而这种怀疑并不是 AI 出现之后才产生的，它已经存在了几十年。

这其实是 Dario 整段话里非常重要的一个判断：AI 的公众形象问题，并不是单纯的 AI 问题，而是过去几十年科技、资本和公共机构积累下来的信任赤字，被 AI 集中放大了。

更加有意思的是，Dario 似乎也在回应 Anthropic 内部或者行业内部的一种建议：既然公众不喜欢 AI，那就应该讲更多 AI 的正面故事。

例如：AI 可以治癌症、可以延长人类寿命、可以加速科学研究还可以提高生产率。这些话，过去几年几乎已经成为 AI 行业最标准的“正面叙事”。

但 Dario 这一次却明确表示：仅仅讲这些故事，没有用。

甚至，“AI 能够治愈癌症”这种话，现在都已经变成了一种陈词滥调。而且很多人甚至会觉得，这种说法本身就是一种营销。所以 Dario 给出的解决方案非常简单，却也非常苛刻：

“The thing that will work is actually curing cancer.”

真正能够解决问题的，是“真的把癌症治好”。

这句话可能比任何 AI 发布会上的 Demo 都更有冲击力。因为它实际上是在承认：AI 行业现在缺的不是故事，而是结果。

Dario 随后说了一句非常关键的话。在他看来，对包括 Anthropic 在内的 AI 公司的最准确批评，并不是它们不会做营销，也不是它们没有把 AI 讲得足够积极。

这些公司还没有兑现自己关于“让世界变得更好”的那些巨大承诺。