Episode Details

Back to Episodes

#595. Lambda CTO:GPU 神话破灭后,AI 时代最稀缺的到底是什么

Published 1 week, 6 days ago
Description

📝 本期播客简介

本期我们克隆了:The MAD Podcast with Matt Turck: The GPU Myth: State of AI Compute 2026 | Stephen Balaban

原内容更新时间:2026-06-18

本期来自 Matt Turck 主持的 The MAD Podcast,这是一档长期聚焦 AI、数据基础设施与科技创业的深度访谈节目。主持人 Matt Turck 是 FirstMark 投资人,本期嘉宾 Stephen Balaban 是 Lambda 联合创始人兼 CTO。Lambda 是 AI 算力热潮中最受关注的 neocloud 之一,从早年做人脸识别、DeepDream 图像应用、GPU 工作站,到今天运营接近十亿美元年化收入规模的 GPU 云业务,几乎完整穿越了深度学习商业化的多个周期。

这期节目核心讨论一个曾经被广泛误判的问题:GPU 计算会不会像普通云资源一样迅速商品化?Stephen 的答案非常明确:不会。因为 AI 云不是“租几块 GPU”这么简单,而是土地、电力、数据中心、液冷、网络、存储、虚拟化、软件编排、长期承购协议和私人信贷共同构成的超复杂垂直整合业务。节目里大量拆解了为什么 H100 的租赁价格并未像外界指数显示的那样简单下跌,为什么 2023 年部署的 GPU 今天反而可能租得更贵,以及为什么“会计折旧周期”并不等于“经济可用寿命”。

更重要的是,这期对话把 AI 算力从抽象概念拉回到物理世界:能源如何变成 tokens?一个吉瓦级 AI 工厂到底意味着什么?为什么 AI 数据中心的瓶颈正在变成土地和电力?NVIDIA 真正的护城河是芯片本身,还是 CUDA、cuDNN、NCCL 与开发者生态?此外,Stephen 还提出了“AI 不会写软件,而会变成软件”“神经操作系统”“自组装软件”“一个人一个 GPU”等极具想象力的判断,非常适合关注 AI 基础设施、云计算、创业融资、半导体与未来软件形态的听众。

👨‍⚕️ 本期嘉宾

Stephen Balaban,Lambda 联合创始人兼 CTO。Lambda 是面向 AI 训练与推理的 GPU 云服务和 neocloud 公司,长期为 AI 研究者、实验室和企业提供高性能计算资源。Stephen 从 2012 年深度学习早期就开始创业,最初做人脸识别 API,后来做过摄像头棒球帽 Lambda Hat、DeepDream 图像产品 DreamScope,再因高昂 AWS 账单转向自建 GPU 集群,逐步发展出 GPU 工作站、服务器和云业务。相比单纯的云厂商高管,他的特殊价值在于同时理解深度学习工作负载、硬件供应链、数据中心物理层、GPU 网络、云软件编排、资本开支与融资结构,因此这期节目不只是技术访谈,也是一堂 AI 算力产业的底层商业课。

⏱️ 时间戳

开场与本期问题

00:00 跨国串门计划开场:用中文克隆全球优质播客

00:38 本期克隆节目介绍:The MAD Podcast 与 AI 算力硬核对话

01:29 Stephen 开场判断:GPU 不会被扔掉,AI 算力仍严重建设不足

02:05 Matt Turck 正式介绍 Lambda 与 neocloud 主题

02:22 本期议题总览:GPU 不是商品、数据中心融资、H100 租赁与吉瓦级 AI 工厂

02:38 Lambda 的疯狂起源:从人脸识别到摄像头棒球帽,再到十亿美元云业务

GPU 云为什么没有商品化

02:54 当年唱衰 neocloud 的人错在哪里

03:16 核心判断:云计算不是商品化服务

04:02 GPU 租赁价格下降了吗?长期费率与按需费率的差异

04:13 Bloomberg H100 租赁价格指数可能误读了市场结构

05:05 neocloud 的竞争优势来自技术还是融资

05:19 Lambda 的软件编排层:把超大 GPU 集群切分给客户

05:38 从网页启动 16 到 4000 块 GPU:one-click cluster 的差异化

05:54 数据中心建设、上线速度与金融结构同样是创新层

06:30 neocloud 会赢家通吃,还是容纳多个大玩家

06:52 技术、资本形成与经济护城河会塑造寡头市场

AI 算力需求、Scaling Laws 与瓶颈

07:10 未来到底是过度建设还是建设不足

07:21 Stephen 判断:总体仍然严重建设不足

07:39 “把钱投进去,另一端产出软件”的系统正在成形

07:53 Opus 4/5 之后,AI 需求继续扩大的原因

08:06 Scaling Laws 还没看到尽头

08:39 模型能力提升会不断扩大可服务市场

09:08 计算效率提升十倍,会不会打击算力需求

09:16 效率提高只会让每个人处理十倍 tokens

10:08 Lambda 当前建设的主要瓶颈在哪里

10:14 瓶颈通常先是局部问题,再变成全局问题

10:28 行业级瓶颈:土地、电力与数据中心设备

10:52 反数据中心运动有多真实

10:58 社区参与、大型资本项目与公共沟通

11:42 关于数据中心耗水的错误信息

12:24 行业需要更清楚解释现代 AI 数据中心的真实影响

从能源到 tokens:AI 计算的物理链路

13:28 打开引擎盖:如何理解 FLOPS、GPU 小时、tokens 和 MFU

13:39 用物理视角拆解计算单位

13:57 从光子、天然气分子到焦耳和瓦特

14:34 PUE:数据中心自身冷却效率

14:43 服务器、网络、存储如何产生 FLOPS

14:55 从 FLOPS 到 tokens,再到真正的智能

15:19 同一款芯片,为什么不同公司能榨出不同价值

15:30 GPU 小时成本中最大部分是折旧

15:42 利用率如何放大或压低每小时折旧成本

16:00 云产品体验决定 GPU 利用率

Listen Now

Love PodBriefly?

If you like Podbriefly.com, please consider donating to support the ongoing development.

Support Us