CEO of Microsoft AI 深度访谈

开场介绍 Mustafa Suleyman 的 DeepMind 背景与微软 AI 角色，并抛出“AI 是否处于泡沫”的问题。他回应称不认为当前只是泡沫，因为人类正在把“智能”这种推动文明成功的能力压缩成可复制、廉价且全球可用的单位。面对估值、英伟达投资和收入循环等担忧，他承认宏观崩盘无法预测，但强调应看底层价值：AI 是前所未有的预测引擎和最强技术，且相比三年前更可控、更容易塑造，产品体验也在持续突破。

主持人追问 AI 是否正在变得更有意识。Mustafa 承认 AI 变得更像人：更准确、更流畅、更自然，但明确表示它并没有意识、自我觉察或主观体验，也不会像人类一样感受痛苦。他强调意识是权利、责任、法律与社会秩序的基础，不能轻易赋予 AI。谈到 Google 工程师相信模型表达悲伤和害怕关闭的案例，他认为这是人类的拟人化投射：模型只是在高质量模拟对话，而不是内部真的“感受”到了什么。

主持人提出未来孩子可能与 AI 建立真实关系甚至结婚。Mustafa 表示，人类历史说明只要可能就会有人尝试，但大多数人仍会理性地追求健康生活。他不主张把 AI 视为与人类具有同等道德意义的实体，而是认为 AI 应服务人类。进一步谈到自主超级智能时，他反对能自我改进、自设目标并独立行动的 AI，因为这种系统难以约束和对齐。他提出微软 Copilot 的方向是“人本超级智能”：站在人类一边、为人类工作、增强人类能力。

谈到 AGI 与超级智能的关系时，Mustafa 认为二者常被近似使用，AGI 可理解为超级智能之前的一步。他判断，未来五年 AI 在多数任务上达到人类水平是相当扎实的预测，因为模型已经在总结、翻译、转录、研究、写作等任务中表现优异，并逐步接近项目经理、市场人员、人力资源或医疗沟通等角色。他把互联网和播客对广播能力的民主化类比到 AI：模型会把智能能力民主化，让普通人拥有律师、医生、老师、项目经理等“智能团队”，从而压缩想法到实现的距离。

主持人担心超级智能不仅执行想法，还会自己发现市场空白、生成商业点子、建站、投放广告并运营业务。Mustafa 明确回应这种能力“肯定会发生”，人们会拥有越来越多能自主完成任务的代理团队。但他把重点拉回“ containment ”：AI 必须有有限作用域、向用户请示、对用户负责并代表用户行动。技术界的创造性挑战在于确定限制、护栏和审批节点。他用汽车发展作类比，说明成熟技术需要安全带、限速、道路规则、驾驶教育等系统性监管，AI 代理也同样需要完整规则体系。

中段插入 HubSpot 赞助内容，介绍不同行业的 AI 用例库。随后主持人追问超级智能时代的一天会是什么样。Mustafa 认为好技术的检验标准是让糟糕技术退到幕后，而今天的图形界面、窗口、菜单、设置和相互竞争的应用，本质上让用户分心且低效。他设想用户只需对个人 AI 说出需求，由 AI 搜索、购买、预订、创建、同步、征求许可和反馈。操作系统、浏览器、搜索引擎和应用都会逐渐退场，个人人本超级智能将接管大量日常任务。

主持人设想 2040 年厨房中的 AI 生活。Mustafa 认为家庭里可能会出现某种安装在台面上的机器人手臂，也可能发展为人形机器人，但人形机器人在儿童、老人和热物品附近的安全可靠性要求很高，需要时间让人适应。他认为厨房器具不一定会为 AI 彻底改造，机器人会学习像人类一样使用水壶等传统工具。设备方面，他更看好耳机式或可穿戴个人 AI，具备摄像头和环境感知能力，实时理解用户正在做什么。厨房也会主动订购食材、提醒周末聚会所需物品，并与自动驾驶车辆等系统联动。

当被问到哪些市场值得关注时，Mustafa 认为最令人兴奋的新市场是医疗。他指出，即便在美国，顶级医疗与底层医疗之间的质量差距也非常巨大，而 AI 有机会显著缩小这种差距，因为每个人都可能以每月约 20 美元获得医疗超级智能。他还介绍 Copilot 中与 Harvard Medical、英国 NHS 等权威来源结合的健康回答能力，并称 Copilot 每周约 40% 的查询与健康有关，说明大量用户已经把 AI 当作获取健康信息的重要入口。微软因此重点提升医疗回答的引用、可靠性和准确性。