Why Hardware-Software Co-Design 深度访谈

访谈开场介绍 Dylan Patel 和 SemiAnalysis 的行业地位。主持人指出，五年前半导体在西方并不受关注，但 Dylan 提前投入并建立了一个覆盖技术细节、供应链与宏观格局的研究品牌。Dylan 则描述 SemiAnalysis 内部的独特文化：团队既有贯穿供应链的技术专家和工程师，也有来自对冲基金的人，因而经常围绕技术优劣、成本和商业可行性发生直接争论。这种工程视角与金融视角的碰撞，构成了公司分析方法的核心背景。

Dylan 回顾自己的早期经历：他成长在经营汽车旅馆和加油站的家庭，从小参与家族生意，并把根据顾客特征预判香烟需求戏称为自己训练的第一个“神经网络”。真正把他带入硬件世界的是 Xbox 360 的“死亡红环”故障，他为了在表兄来访前修好机器，拆机并尝试多种办法，最终通过处理温度传感器解决问题。此后他长期活跃于论坛和 Reddit，关注 Android、Apple、Google、Intel、Nvidia、AMD 等技术社区，并在比较 GPU 时同时考虑架构、能效、芯片面积和利润率。

这一段补充了 Dylan 的性格与学习方式。主持人问他是否还有其他奇怪爱好，他提到自己曾大量玩《星际争霸2》，并一度进入北美天梯宗师级别。主持人将其概括为在多个领域都能靠痴迷达到很高水平。Dylan 也谈到自己的学校成绩大体不错，但并不是所有课程都投入极致努力，对自己不感兴趣的课成绩一般。他的能力更多来自长期在互联网上阅读、发帖、辩论和追踪技术演进，而不是传统课堂路径。

Dylan 解释创办 SemiAnalysis 的背景。他毕业后从事过量化相关工作，但因奖金与署名问题对原公司失去信任；同时，祖母患痴呆并意外去世，叠加个人生活挫折和疫情封锁，使他在 2020 年陷入低谷。搬到兄弟家后，他更加频繁地在网上发帖、交易股票并关注半导体短缺。匿名账号被人公开身份后，他短暂停止发帖，随后决定用真实身份建立 SemiAnalysis 博客。24 岁生日当天发布两篇文章后，他获得大量关注，并逐步转化为咨询业务。之后他一边在美国国家公园间旅行，一边读半导体与 AI 书籍、持续写作。

Dylan 描述自己从 2021 年末到 2024 年仍处于四处旅行状态，每年参加超过 40 场全球会议，覆盖半导体供应链的各个角落。他认为会议的价值不仅在于论文和正式报告，更在于与行业专家建立联系，理解公开资料中没有说明的现实供应关系、成本结构和瓶颈。他特别提到 SPIE 等光刻、光罩相关会议极其深入，第一次参加时几乎听不懂，之后通过反复阅读和积累才逐渐理解。他还举例说，一个日本化学会议让他了解到某种关键化学品工厂火灾曾导致存储价格大涨，说明半导体供应链长期存在高度集中的脆弱环节。

访谈转向 AI 推理市场。主持人提出“推理是否会成为地球上最大的市场”，Dylan 回答说，token 的使用以及由 token 创造的价值将是最重要的市场之一。他把 token economics、AI 采用率和推理需求视为当下最关键的变化，并认为无论是开放模型还是闭源模型，AI 推理都会成为全球最大的市场之一，规模将远超石油等传统行业，甚至可能占 GDP 的多个百分点。随后主持人引出 SemiAnalysis 的 InferenceX，称其已成为行业标准，并询问其创立原因及外界对推理性能基准的误解。