AI is accelerating, 深度访谈

开场以 Anthropic CEO Dario Amodei 曾提到的“20% 毁灭概率”引入，强调这一风险高于俄罗斯轮盘。随后介绍 Connor Leahy 是 Conjecture 的 CEO，长期关注高级 AI 的社会与生存风险。他早年来自黑客和开源社区，曾支持开放技术知识，但如今主张负责任的 AI 发展，并批评强大模型在没有安全机制时被无限制开源可能伤害社会与民主。片段还预告了他对超级智能、无人真正掌控局面、大型科技公司游说反监管以及 ASI 一旦出现就为时已晚的核心观点。

主持人说明自己早年通过阅读和播客接触 AI 时，Connor Leahy 是让他意识到 AI 不只是技术变革的重要声音之一，并指出 Connor 不仅警告风险，也声称有应对计划。正式提问从日常使用 AI 的生产力提升切入：许多人每天使用 ChatGPT 等工具，感受到效率和便利，但主持人追问这种帮助背后的代价。Connor 首先纠正“人人都满意”的表述，指出民调和社会情绪显示，科技行业之外的普通人并不普遍乐观，很多人感到被剥削，担忧就业、儿童受影响以及社交媒体被 AI 内容进一步侵蚀。

Connor 表示，虽然现阶段 AI 已带来许多问题，但他最关心的是正在出现的、具备智能体特征且可能超过人类的 AI。他将超级智能定义为远比全体人类加起来更聪明的系统，并指出目前人类并不知道如何控制这样的系统，甚至很难想象如何控制一个比自己聪明得多的主体。他认为权力正在从人类转移到 AI：AI 已经在做更多决策，获得更多经济、政治、社会和文化影响力。如果未来出现完全自主、完全智能体化且超级智能的系统，未来的关键决策将不再由人类作出。

主持人追问超级智能尚未存在时，Connor 对到达那一步的信心和时间判断。Connor 以 Claude Code 等编程工具为例，称现在已经可以用自然语言让计算机执行任务，等待几十分钟后得到可用结果。他认为当前 AI 在许多初级工程任务上已超过 junior engineer，虽然高级架构能力仍有差距，但一年前这些自主写代码能力并不存在。随后他回忆自己在 GPT-2 时第一次意识到超级智能将到来，因为模型展现出可扩展的通用模式学习能力：投入更多算力和模式，能力就逐步增长。此后每一年，AI 都完成此前被认为“不可能”的事情。

主持人提到人们似乎不断把 AGI 标准往后推，Connor 回应称这既像是否认阶段，也对应一个长期存在的现象：AI effect。自 1950 年代“人工智能”一词出现以来，许多过去被视为 AI 的能力在实现后就不再被称为 AI，例如数据库、图像识别、对话能力和图灵测试。Connor 认为，人们习惯把 AI 定义为“计算机尚不能做到的事”，所以当能力真正出现后又会被视为普通工具。他指出专家预测也经常严重滞后，很多人声称 AI 永远做不到某事，但实际工具已经可以完成。他认为不会有一个所有人同时承认“AI 到了”的清晰时刻。

主持人指出讨论焦点已从 AGI 转向超级智能，并请 Connor 区分概念。Connor 说明这些词并非严格科学术语，因此不同人会混用。他将 AI 的早期含义概括为让计算机做人能做的事，但后来许多能力被拆分出来，AGI 逐渐被用来指“真正像人一样”的通用智能，即任何人类能做的任务，AGI 至少也能同样完成。超级智能则是远超人类乃至远超整个人类社会能力的系统。他举例说，单个人无法制造芯片，但人类社会可以通过供应链完成；超级智能则可能独立推导并组织出类似供应链，不再需要人类帮助。

当被问到当下 AI 距离 AGI 或 ASI 多远时，Connor 明确表示他认为我们已经非常接近 AGI。他再次以 Claude Code 为例，认为它虽然尚未完全达到标准，但已经能完成大量任务，包括持续较长时间的工作和采取行动。过去人们常说大语言模型只是聊天机器人、只是输出 token，但 Connor 指出 token 可以是命令，行动能力使这种说法失去解释力。他强调过去一年出现了能够收集信息、在外部环境中执行任务的智能体，而且这些系统已开始可用。更重要的是，多智能体编排和智能体群正在出现，从十个、百个扩展到更大规模。

主持人追问一旦达到 AGI，通向 ASI 的路径是否会是智能爆炸。Connor 表示他预计从 AGI 到 ASI 的时间会非常短，可能是几个月、几周，甚至几小时；他承认不确定具体速度，但认为这段时间会短于从当前水平到 AGI 的时间。原因在于，一旦拥有真正可工作的 AGI，就可以复制成数百万个实例，以远超人类的速度运行，并且不会疲劳或厌倦。由于 AGI 本身能够做 AI 研究，它们可以改进模型、算法、编排方式和数据，从而让 AI 研发速度发生巨大提升。