AI Whistleblower 深度访谈

开场即提出鲜明批判：凯伦·郝认为当下 AI 产业的许多做法“极不人道”，企业通过制造“谁先加速 AI 谁就赢得文明竞争”的神话，为自身攫取利润与权力。她指出自己掌握的内部材料显示，公司有意营造公众焦虑与依赖感，以便持续“extract and exploit”。她将 AI 公司比作旧式帝国：一方面大规模占用艺术家、作家与创作者的知识产权训练模型；另一方面依赖大量隐形劳动，让被裁员工反过来训练会取代自己的系统，并造成更差的新岗位。她还批评行业带来环境、公共健康与立法游说问题，并压制不利于自身议程的研究者。她强调，问题不在技术毫无用处，而在当前生产方式对人造成了系统性伤害，而这些能力本可以用伤害更小的方式发展。

这一段主要介绍凯伦·郝为何会写这本书。她最初在 MIT 学机械工程，毕业后进入旧金山一家以应对气候变化为使命的创业公司，却很快目睹董事会因盈利问题解雇 CEO。这个事件让她意识到，硅谷所谓创新常常优先服务利润，而非公共利益；许多真正重要的问题，例如气候变化，未必是“赚钱的问题”。这促使她离开工程与创业道路，转向写作和新闻，最终在 MIT Technology Review 全职报道 AI。她说自己从 2018 年起就开始累积这本书的研究。为写作，她进行了 300 多次采访，采访对象超过 250 人，其中 90 多位是 OpenAI 现任或前任员工与高管。她强调，这本书不仅是企业内幕史，也试图走出硅谷，观察 AI 在不同文化与地区中的真实影响，从而检验“AI 造福所有人”的官方叙事。

在主持人要求面向普通观众解释后，凯伦·郝把起点放回 1956 年达特茅斯会议。她指出，John McCarthy 将这一新领域命名为“artificial intelligence”，但这一命名从一开始就把目标绑定到“重建人类智能”，而问题在于，直到今天我们仍没有关于“人类智能”是什么的科学共识。她进一步强调，历史上对人类智能进行量化和排名，常常带有证明某些群体更低等的恶意政治动机。因此，当产业今天宣称自己在追求 AGI 时，实际上并没有明确终点。她认为这给企业留下巨大话语空间：它们可以根据对象与利益需要，反复改写 AGI 的定义。比如对国会，AGI 被描述成能治癌、解决气候与贫困的系统；对消费者，它是最强数字助手；对微软，它又成了能创造千亿美元收入的机器；官网则写成在多数经济价值工作中超越人类的高度自治系统。她借此说明，AGI 更像可被策略性使用的修辞工具，而非一致清晰的技术目标。

凯伦·郝接着把讨论拉到 2015 年 OpenAI 成立前后。她引用 Sam Altman 当时博客中的表述：超人机器智能可能是人类存续面临的最大威胁，甚至“最有可能摧毁一切”。她认为，Altman 面向公众发言时，真正目标往往不止公众本身，还包括需要被动员的关键人物。在这一案例中，他是在争取 Elon Musk 共同创办 OpenAI。凯伦指出，如果把 Altman 当年的语言与 Musk 同期关于 AI 是“最大生存威胁”的公开发言并排比较，会发现二者高度一致。她认为，这并非纯粹理念自然趋同，而是 Altman 为了说服 Musk 而进行的策略性语言调整。主持人随即追问，这是否意味着 Altman 操控了 Musk；凯伦回应说，至少从 Musk 的视角看，他确实感觉自己被精心设计的话术争取进来，后来又在组织演化中被排挤，因此才留下极强的个人怨怼。

这一段聚焦 OpenAI 内部权力结构如何重塑。凯伦·郝介绍，根据 Musk 与 Altman 诉讼中披露的文件，OpenAI 原本以非营利组织成立，但后来决定设立营利实体，核心问题是谁来担任新实体 CEO：Musk 还是 Altman。她称，时任首席科学家 Ilya Sutskever 与 CTO Greg Brockman 最初在邮件里更倾向让 Musk 担任 CEO。但根据她的采访，Altman 随后私下游说 Brockman，强调 Musk 声望高、外部压力大、可能受威胁、行事不可预测，若让如此强大的未来技术落在他手中会很危险。这个论点最终说服了 Brockman，再由 Brockman 说服 Ilya 改变立场，转而支持 Altman。结果是，当 Musk 发现自己不能出任 CEO 时选择退出。凯伦借此说明，OpenAI 的转型并非单纯组织升级，而是围绕控制权展开的政治过程，也构成后来 Musk 与 Altman 激烈冲突的重要背景。

在被问到“你怎么看 Sam Altman”时，凯伦·郝先停顿片刻，随后给出的关键词是“极具争议”。她说，在所有受访者中，几乎没人对 Altman 持中间态度：支持者把他视为这一代最伟大的科技领袖，甚至类比现代版 Steve Jobs；反对者则认为他擅长操控、会撒谎、具有滥用倾向。她总结，这种分裂根源并不只是人格判断，而是人们是否认同 Altman 所推动的未来图景。如果认同他的愿景，就会把他看成无与伦比的资产，因为他极其擅长讲故事、募集资本、招募人才、汇聚实现目标所需的一切资源；但若不认同这一愿景，就会觉得自己被他的说服力裹挟，去服务一个自己并不接受的未来。她特别提到 Dario Amodei 的例子：后者原本在 OpenAI 任高管，后来逐渐意识到 Altman 所指向的未来与自己理念相反，进而觉得自己的能力被用来建设一个自己并不赞同的方向，最终带着强烈不适离开并创建 Anthropic。

在这一段结尾，主持人把讨论引向 OpenAI 关键人物立场随时间变化的问题。他提到 Dario Amodei 在 2017 年仍担任 OpenAI 研究副总裁时，曾公开表示，类似 Nick Bostrom 提出的 AGI 毁灭人类风险在原则上并非不可能，他估计人类文明规模的灾难性失控概率可能在 10% 到 25% 之间。主持人借此指出，一个人的公开表态会随着所处机构、激励结构和个人路线变化而演变；同时他也把 Ilya Sutskever 提出来，追问其后来离开的原因。虽然在这段字幕里问题尚未完全展开，但这里已经清楚勾勒出后续主线：OpenAI 内部高层不仅在组织控制权上分裂，也在 AI 风险、速度与发展路径上存在深刻分歧，而这些分歧最终推动了 Anthropic 等竞争者的形成。