The Ex-Pentagon Chief Sounding the Alarm 深度访谈

访谈开场以 Carson 早年进入国会的经历切入。他回忆国会议员每天真正用于阅读和深入理解议题的时间极少，只有约 17 分钟，以此说明政治系统面对 AI 这类复杂技术时存在结构性知识不足。片段同时预告了后续核心议题：美国对芯片的控制、阻止他国发展超级 AI 的可能性、加沙场景中算法打分与打击阈值的不透明，以及人们把 AI 拟人化的危险。他还批评美国战争方式倾向用资本和高科技装备替代人力，但真正决定战争结果的仍是人。

Carson 介绍自己为何进入 AI 政策领域。他长期关注人工智能与公共治理，在国防部负责陆军事务期间接触战争法，并参与五角大楼层面对军事服务的法律监督。离任前，自动武器问题开始成为国防部重要议题，美方向日内瓦派遣陆军律师，与红十字会讨论潜在条约和相关担忧。之后他在弗吉尼亚大学任教期间，因一次冷电话受邀参加波多黎各 AI 会议，逐渐接触到 Dario Amodei、Stuart Russell、Yoshua Bengio、Reid Hoffman、Elon Musk 等 AI 和科技圈人物。

这一段集中讨论 AI 监管是否会被产业俘获。Carson 承认监管俘获在许多行业已经造成严重问题，但认为不能因此陷入反监管虚无主义。他引用《萤火虫》中的台词，指出政府本身也是由未必自律的人组成，因此需要民主问责和国会监督。他主张对前沿模型进行强制测试与评估，但不一定由庞大官僚机构直接执行，可以借鉴上市公司审计模式，由独立验证组织完成，并接受类似 SEC 的公共监督。他认为即便机构可能受到行业影响，也比由硅谷资金网络非正式左右 AI 政策更透明、更可问责。

主持人提到 Anthropic 对 Claude 的 token、模型分配和服务行为作出改变，却缺乏清晰说明，用户难以知道自己过去和现在究竟为哪些服务付费。Carson 将其归入消费者保护问题：服务商应告知用户购买的服务内容，重大改变可能涉及合同责任。但他进一步指出，前沿 AI 公司已经具有近乎全球性的地位，其产品会对社会产生划时代影响，因此不能像普通五金店那样随意改变服务。它们至少应做到可信，公开训练数据、能力范围、内部政策，并在变更时通知用户、说明理由。这种责任未必已写入法律，但带有明显道德义务。

访谈转向 AI 被用于制造深度伪造色情等伤害时应追究谁的责任。Carson 认为使用者和工具开发者都应负责。受害者往往难以找到匿名发布者，即便多年后赢得诉讼，名誉和心理伤害也难以弥补。因此，实验室应尽可能在设计阶段移除可被用于此类伤害的功能。他用枪支销售、产品责任和侵权法类比，说明法律长期以来会在制造者、销售者和滥用者之间分配责任；当风险可预见时，提供工具的一方不能完全免责。他还特别提到训练数据中的儿童色情内容，认为开发者有能力清理却不行动时，应对下游伤害承担责任。

Carson 认为 AI 与传统产品相比最大的法律挑战之一，是人们会把语言模型拟人化。模型输出语言，看似像人在说话，于是引发第一修正案、诽谤、伤害诱导等法律问题。他的立场很明确：当前 AI 是产品、机器，而不是人。如果它输出错误内容、诽谤某人或诱导伤害，应按产品责任制度处理，而不应把模型输出视为拥有言论自由的主体。他批评一些科技公司和前台组织推动“AI 拥有第一修正案权利”的说法，认为这实际是在阻止监管。人类对语言有天然崇敬感，容易把会说话的机器误认为具有人格，这正是危险所在。

主持人赞同当前 AI 不是人，不应享有人权，但也补充说也许一百年或两百年后人工生命可能达到需要权利保护的程度。Carson 回应说，他尊重关于 AI 意识的严肃哲学论证：如果有人真认为 AI 是有感知的存在，而不是机器，那么关于权利和特权的结论确实会随之而来。但他认为，现实中许多主张 AI 拥有第一修正案权利的人，并非基于意识理论，而是反对任何 AI 监管。他们在立法战场失利后，转向法院论证模型输出具有宪法保护，以此削弱监管空间。