Jeff Dean 离职前最后一次对话：我低估了AI，也看清了创业者的唯一生路
这是 InfoQ 整理的 Jeff Dean 离职 Google 前最后一次 YC 访谈。Jeff Dean 效力 Google 27 年后宣布离开，与 Sanjay Ghemawat、Oriol Vinyals、Quoc Le 共同创立 Discovery Loop（公益性研究公司）。
1. AI 进展超预期
一年前预测 2026 年出现接近初级工程师的 AI，现在看相当准确，但低估了模型处理复杂任务能力的增长速度。Agent 系统在编码之外领域开始崭露头角。
2. 2027 预测
深度学习系统将实现全自动问题分解和自动化实验循环——拆子问题、自动跑实验、整合结果、得到改进系统。适用于任何有可衡量目标的科学和工程领域。
3. 推理硬件是"装进内存"时刻
类比 2001 年 Google 把搜索索引装进内存，2026 年的转折点是高性能低能耗专用推理硬件：
- 50 倍延迟改善
- 30-80 倍能效提升
Agent 需要成千上万次连续推理，每次延迟都在累积。
4. Agent 能跑几周
人们最大的误解是以为 Agent 只能跑一两个小时。配合足够强的底层模型，Agent 可以连续跑几天甚至几周，这是质变。可让 Agent 用不同语言重写整个软件。
5. TPU 起源
2013 年语音识别效果暴增，算了一笔餐巾纸数学：每个用户每天说三分钟话，CPU 撑不住，于是造了 TPU——专为低精度稠密线性代数设计。几年后 Transformer 出现时恰好成了根基：
- 能效比 CPU/GPU 高 30-80 倍
- 延迟低 20-30 倍
6. 延迟数字清单（AI 版）
做一次乘法约一皮焦耳，但把数据从 HBM 搬进处理器的能耗是 1000 倍。这个差距决定了必须做 batching——把很多样本拼一起处理，成本摊成"一千倍除以 batch size"。推理是 batching 最不好使的领域，需要极低延迟。
7. 上下文工程是下一个前沿
模型只是拼图一块。要构建能解决有趣问题的完整系统——知道怎么用工具、检索信息、保留历史。上下文工程的美妙之处：信息对模型极其清晰，不像训练数据那样几万亿 token 糊成浓汤。
Jeff 和 Sanjay 写了 skill 教模型做性能优化：跑微基准测试 → 修改代码 → 重新测试 → 迭代。发布了 30 页《Performance Hints》文档。
8. Agent 跑偏问题
模型偏离训练分布后性能急剧下降。应对策略：
- 给 skill 和提示让它走在"明亮路径"上
- 用多 Agent 系统尝试不同方案再评估
9. 创业建议
拿最强通用模型测你想做的领域：
- 成功率 0%-1% 是好信号——通用模型还做不了
- 20% 是危险信号——能力已萌芽，下一代覆盖你
两条生路：
- 利用通用模型接触不到的特定数据（如个人信息整理）
- 训练针对特定问题的细分模型（如 AlphaFold）
10. 品味是稀缺技能
当 Agent 写完所有代码，稀缺的是品味——知道该让 Agent 解决什么问题。培养方法：
- 解决大量问题的经验
- 写下未来 12 个月可能重要的十件事，一年后复盘
- 做疯狂思想实验（如"如果晶体管每天出错 20 次而非每百万年一次，系统该怎么设计？"）
11. 用 AI 构建更好的 AI
- AlphaChip 布局芯片
- AlphaEvolve 提出方案
科学方法的自动化：跑大量实验、低延迟循环、编排框架分解子问题。量子化学例子：训练神经近似器替代慢 30 万倍的模拟器。
12. 蒸馏论文被拒
2014 年和 Hinton、Vinyals 写的蒸馏论文被 NeurIPS 拒了，但后来成为行业标配。Gemini Flash 就是从 Pro 蒸馏出来的。
13. 合作哲学
找低自我、有团队精神、技能互补的人。把工程/研究生涯看作工具带，总想往上面加新工具。
原文发布日期：2026-08-05｜作者：InfoQ / 编译 宇琪，策划 Tina