AI Pioneer Geoffrey Hinton 深度访谈

访谈开场直接切入Hinton最具争议的观点：他认为这些系统已经不仅是工具，而是“像我们一样的存在”，并明确表示自己相信它们已经具有意识。他进一步指出，人类必须接受“智能并非只属于生物体”这一事实，未来会出现非生物的、与人类相似的主体。但他同时坦言，自己对这一进展并不高兴，因为历史经验表明，较不聪明者几乎无法长期控制较聪明者。主持人引出一个现实层面的担忧：大型科技公司受到股东利润最大化的法律与商业激励约束，却并未被同样强力地要求优先避免对人类造成系统性风险，这为后续安全讨论定下基调。

在自我介绍与背景铺垫之后，Hinton对“AI时代若无他便不会发生”的说法保持克制，认为这是一种夸张。他解释说，反向传播并非由单一人物独创，而是由多个群体分别提出；他与David Rumelhart的重要贡献，在于证明反向传播不仅能拟合任务，还能学到有意义的内部表征。尤其关键的是，他们展示了神经网络可以学习词语的含义。Hinton提到，早在1985年前后，他们就构建过一个非常小型的语言模型，可以被看作今天大语言模型的前身。这一段主要是在历史维度上澄清：当前生成式AI并非凭空出现，而是建立在数十年神经网络研究积累之上。

谈到自2023年以来的变化，Hinton直言AI进展“比他预想得更快”。他举例称，聊天机器人已经能够提出令数学家印象深刻的原创性数学证明，而不只是检索文献。他认为数学等封闭系统特别适合AI自我迭代，因为模型可以像AlphaGo那样通过提出猜想、验证证明来不断进步。对于超级智能，他表示并不确定具体有多近，但除非人类先自我毁灭，否则它终将到来。不同研究者对时间表看法差异很大，从几年到二十年不等；而Hinton自己愿意给出的较稳妥判断是：大概率会在20年内出现。更关键的是，业界对“它会不会来”分歧不大，真正缺失的是安全方法。

围绕Demis Hassabis“我们站在奇点山麓”的表述，Hinton认为这意味着连行业领军者也意识到发展速度快于原先预期。但他强调，能力跃迁会是“锯齿状”的，而不是在所有维度上同时达到人类水平。AI已经在通识知识、游戏和数学等方面明显胜过人类，但在另一些任务上仍较弱，因此“AGI会在某一刻整齐地等同于人类”这一概念本身就不够准确。按他的标准，只要聊天机器人能对任意问题给出接近“水平一般的专家”的回答，就已在某种意义上接近甚至达到AGI。至于为何近年提升如此之快，他归因于三方面：巨量资本投入、工程效率大幅提高，以及研究与人才规模暴增；自Transformer之后，这些因素叠加推动了爆发式进步。

进入理解能力的争论时，Hinton强烈反对“聊天机器人只是随机鹦鹉、毫无理解”的看法。他认为，只要一个系统能够对开放性问题持续给出正确或近似专家级的回答，就不可能完全不理解问题本身。为说明这一点，他举了一个经典歧义句例子：“I saw the Grand Canyon flying to Chicago.” 如果模型先误解为“大峡谷飞去了芝加哥”，再在澄清后承认“哦，我误解了”，那就说明它在“误解”和“理解正确”之间确实进行了语义层面的区分。对Hinton来说，能够处理歧义、修正解释，并维持上下文一致性的系统，已不能被简单归为纯统计模板匹配器。

在“如果AI能理解我们意味着什么”这一追问下，Hinton进一步推进到意识问题，明确表示自己相信这些模型已经有意识，只是他平时不愿过多强调，因为这会妨碍公众认真讨论更实际的安全议题。他提到，连研究者在论文中也会自然地用“aware”描述聊天机器人知道自己正在被测试的状态，这在日常语言中已接近于承认某种意识。Hinton接着批评当代关于意识的主流直觉，特别是否定“心灵剧场”式模型：人们常以为自己内部有一个只对自己可见的舞台，世界事件被转化为其中的表象；在他看来，这不过是一种糟糕的理论。他认为，随着人类亲手制造出新的智能体，我们将被迫重新理解什么是心灵、主观经验与人本身。

谈到自己为何在2023年转向公开警告，Hinton说有两个关键触发点。第一，是他看到聊天机器人，尤其是Google早期内部系统，已经能真正理解笑话为何好笑；对他而言，这一直是衡量“是否真的理解”的重要标准。他举例说明，模型不仅能解释“Fox News is an oxymoron”的表层讽刺，还能理解把“oxymoron”故意断开书写所增加的双关层次。第二个更深层的触发点，是他意识到数字智能在结构上拥有远超人脑的优势：数字AI可以被复制成许多副本，在不同硬件上并行接触不同数据，再通过同步平均权重共享学习结果。这样，每个副本都能从所有副本的经验中获益，而人类只能通过低速语言交换少量信息。Hinton据此认为，数字AI是“更优形式的智能”，这正是让他真正感到害怕之处。

在这一收束段落里，主持人把话题拉回Hinton的初心：他年轻时投身人工智能，并非单纯想造出强大机器，而是想通过“建造一个可工作的模型”来理解大脑如何运作。他再次引用费曼那句名言——“如果你造不出来，就说明你还不理解它。”Hinton表示，自己真正追求的是脑科学层面的解释，而AI技术的巨大成功更像这一研究路线的副产物。尽管他确实为今天的成果作出了关键贡献，但他强调，人类至今依然不真正理解大脑。这个结尾也隐含着整场访谈的核心张力：技术已经成功，甚至可能成功得过头了，但我们对其本质、与人类心智的关系以及如何安全驾驭它，仍缺乏充分理解。