Dario Amodei 深度访谈

Amodei回顾了他2017年提出的'大计算块假设'(Big Blob of Compute Hypothesis)，这个假设至今没有改变。他认为所有精巧的方法和技巧都不太重要，真正关键的只有七个因素：(1)原始计算量(2)数据数量(3)数据质量和分布广度(4)训练时长(5)可无限扩展的目标函数（预训练和RL都是这样的函数）(6-7)归一化和数值稳定性。现在RL规模化展现出与预训练相同的对数线性规律——在数学竞赛（AIME）等任务上，模型表现与训练时长呈对数线性关系，这验证了假设的持续有效性。Rich Sutton的'苦涩教训'也是同一方向。

Amodei详细讨论了AI技术能力与实际部署之间的差距。即使AI能力足够强大，企业采纳仍需要时间——法律审查、安全合规、内部推广等流程使得大企业采用Claude Code等工具比个人开发者和初创公司慢数月。他用一个具体模型解释：AI比人类更容易整合进经济——AI可以几分钟读完所有Slack消息和Drive文件，AI实例之间可以共享知识，不存在人类招聘中的逆向选择问题。但即使如此，即使AGI或'数据中心的天才国度'也不会无限快地扩散——可能以3-5倍甚至10倍的年增长率扩张，这在历史上前所未有，但仍非瞬时完成。

Amodei提供了编程AI加速效果的具体数字：目前约15-20%的总速度提升，六个月前仅5%。5%时几乎感觉不到，但现在已成为几个关键因素之一。这个加速还在继续，形成了雪球效应——10%、20%、25%、40%递增。不过他也指出多个公司都在使用彼此的编程模型，所以暂时没有看到某个公司因编程AI获得持久优势。关于是否需要on-the-job learning，Amodei认为现有范式中的预训练+RL广度学习加上in-context学习（百万token上下文相当于人类数天到数周的阅读量）可能已经足够实现'数据中心的天才国度'的大部分功能。

Amodei提出了一个AI行业经济学的简化模型：假设50%算力用于训练，50%用于推理，推理毛利率超过50%。如果需求预测准确，在正确需求下1000亿美元算力支出可产生1500亿推理收入和500亿利润。但关键困难是需求预测——提前一年购买算力中心，如果低估需求则利润高但研究算力不足，如果高估需求则亏损但有充足研究算力。由于对数回报递减，训练支出不会无限增加——超过50%后每多花的10亿美元边际回报大幅下降。Amodei预测到2030年前AI行业收入将达到万亿美元级。

Amodei讨论了Anthropic在安全方面比其他公司做得更多，这在商业竞争中增加了额外压力。他谈到负责任扩展政策(RSP)——Anthropic承诺在模型能力达到某些阈值时暂停部署进行安全评估。他讨论了软起飞vs硬起飞的观点——他倾向于软起飞论，认为进步是平滑指数增长而非突然跃迁。关于对齐，他认为'数据中心的天才国度'如果实现了，人们会知道——华盛顿的人会知道，房间里的人会知道。目前我们还没有达到那个水平，这很清楚。