Inside the Startup 深度访谈

开场以提问和片段预告方式引出核心矛盾：如果 AI 技术本身能帮助 AI 研究，那么公司中其他人的角色、组织方式和商业模式都需要重新思考。嘉宾强调，这类技术会改变模型研发所需的人数、资源和监督方式；即使模型在需要人工监督方面只有微小改进，也可能带来大量推理 token 的有效投入和结果产出。主持人将其形容为“下一层作弊码”，并追问这种递归式加速最终会走向何处。

主持人介绍 Ben Mann 和 Harsh 曾在 Anthropic 担任研究科学家，也与主持人在 Google Blue Shift Labs 有交集。嘉宾回顾公司设立的思想源头：在 OpenAI scaling law 出现时，他们意识到 AI 正处于革命前夜，关键问题变成哪些技术能够加速所有科学领域，以及当前瓶颈在哪里。后来在 Anthropic 工作期间，他们认为主流前沿实验室与“加速科学”的最短路径出现偏离，因此决定创建公司，聚焦自我加速 AI，并希望让这项技术可被更多人使用。

主持人指出科学本身高度依赖真实世界实验，询问 AI 如何真正加速科学。嘉宾解释，过去五年模型先后在科学所需的基础能力上进步，包括高中与大学数学、编程以及竞争性代码能力。他们将“科学”定义得较宽：目标是构建能进行 AI 研究和工程的系统，而这些能力也适用于数字世界中的科学，或带有数字组件的物理科学。嘉宾进一步强调，科学家和工程师的核心能力是长期深入某个狭窄领域、积累尖锐专业知识；AI 的关键则是能被导向某个方向，并在该方向上快速改进。

主持人要求解释“自我加速 AI”究竟是什么。嘉宾给出多个层次的定义：从历史上看，AlphaGo 的自我博弈循环已经是一种自我加速 AI；另一种形式是将 AI 放入未知环境，让它自行学习规则并提升能力；企业场景中，一个 AI 进入公司后也需要像员工一样吸收上下文并发挥作用。而他们当前聚焦的版本，是让系统承担 AI 研究员和 AI 工程师的工作，从底层 kernel、框架到高吞吐研究执行。嘉宾认为，这个较窄版本会通向更广义的自我加速 AI，最终扩展到更广泛的高级科学活动。

主持人理解为科学家可能需要某种程度上变成 AI 人才，而嘉宾纠正并扩展了这一点。他们认为，许多重大科学和技术挑战不是人类水平问题，而是超人类水平问题；仅仅造一个能替代科学家的 AI 科学家并不够。每个重大问题都需要一个“周期性实验室”式团队，由理解领域的专家和专门针对该问题推进 AI 的团队组成。难点在于为每个领域组建顶尖前沿 AI 团队几乎不现实。因此他们的目标是把所需 AI 团队规模从数百人降到十人、两人、一人，最终让领域团队不必单独雇用 AI 人才，从而把精力放在数据、物理实验和其他约束上。

主持人提到早期神经架构搜索曾被认为可以自动解决机器学习问题，并追问如今的自我加速状态有何不同。嘉宾认为关键区别在于执行搜索的系统或智能体本身的智能水平。随着“智能旋钮”不断调高，系统用更少计算就能得到更好的结果；今天的能力也不再局限于架构搜索，而是能触及大范围软件改进。随后主持人追问通用模型与窄模型的关系。嘉宾表示，如果为了专门化而降低智能水平，模型仍会犯低级错误，例如代码连接错误或缺乏专家心智；近代模型版本的进步显著提升了系统可连续运行的时间，减少卡住和需要监督的地方。

主持人询问项目背后的历史。嘉宾回顾，他们对用 AI 加速科学这一宏大挑战已投入约五年，并笑称这类“隔夜突破”往往需要多年积累。早期模型甚至不擅长高中数学和自动补全代码，因此他们先在 Gemini 相关工作中构建数学专用模型和推理模型。加入 Anthropic 后，一些基础能力开始汇合，使他们认为可以更有野心地直接攻击“AI 能否进行自身工程和研究”的问题。嘉宾还提到模型能力随规模呈平滑指数式提升，不仅底层模型变强，推理时进行研究与工程的吞吐率也在提高。

嘉宾解释离开 Anthropic 创业的原因。Ben 当时领导科学团队，Harsh 发起并领导自动化预训练项目，两人持续讨论如何把这些能力用于科学加速。他们认为，自我加速 AI 是颠覆性技术，而颠覆性技术要成长，需要重新设计公司结构、文化、角色和商业模式。在现有大模型公司中，如果商业模式是训练大模型并按使用收费，那么把能帮助他人训练模型的技术开放出去，会削弱用户对公司的依赖，因此激励存在根本冲突。基于这些实际限制，他们决定创办一家从一开始就围绕这项技术重新设计的公司。主持人随后引出关于安全护栏和前沿 AI 研究辅助是否会被少数公司限制的问题。