Episode Details

📝 本期播客简介

本期我们克隆了：Google DeepMind《When millions of AI agents meet》

原内容更新时间：2026-06-23

本期来自 Google DeepMind 播客，由数学家、科普作者 Hannah Fry 主持，对谈 Google DeepMind 高级主任研究科学家 Nenad Tomašev。节目讨论的是当下 AI 领域最热、也最容易被低估风险的方向：AI agents。它们不再只是回答问题的大语言模型，而是能够观察环境、调用工具、执行多步骤计划，甚至代表用户做决定的行动系统。

这期对话的重点不只是“智能体能帮我订餐、写代码、发邮件”这些个人效率场景，而是进一步追问：当数百万个智能体同时存在于互联网中，它们彼此交易、协商、委托、竞争，会不会形成一种新的“智能体经济”？这种经济可能如何分配资源、如何建立信任、如何避免串通、闪崩、提示注入和自动化偏见？

Nenad 的判断非常克制但信息量很高：智能体会加速科学发现和复杂任务执行，但越是要进入真实世界，越需要人类保持清醒、权限控制、纵深防御、声誉机制和经济激励设计。节目最后提出一个关键视角：未来的 AGI 也许不是一个巨大单体模型，而更像由通用层和无数专用型智能体组成的分布式智能社会。

👨‍⚕️ 本期嘉宾

Nenad Tomašev，Google DeepMind 高级主任研究科学家，长期研究人工智能、医疗 AI、多智能体系统与 AI 安全。他曾参与医学影像、放射学等高风险领域的机器学习研究，熟悉 AI 系统在真实世界部署时面临的可靠性、复核、责任与安全问题。正因为他既理解前沿模型能力，也熟悉高风险场景中的工程与治理约束，这期对话不是简单展望“AI 替人干活”的乐观叙事，而是从系统、经济、网络安全和社会整合多个层面，拆解智能体真正大规模落地前必须解决的问题。

⏱️ 时间戳

开场与节目背景

00:00 跨国串门计划开场：用 AI 声纹克隆翻译全球优质播客

00:38 本期克隆节目介绍：Google DeepMind《When millions of AI agents meet》

00:50 主持人与嘉宾：Hannah Fry 对谈 Nenad Tomašev

01:04 开场金句：智能体、清醒监督、信任与未来通用层

01:42 Google DeepMind 播客正式开始：从 AI 助手到 AI 智能体

02:22 核心问题：当数百万个智能体彼此交易、谈判、委托会怎样

什么是 AI 智能体

02:51 从基础开始：大语言模型和智能体到底有什么区别

03:03 智能体不是新概念：早于大语言模型的 AI 研究传统

03:26 智能体的核心定义：观察世界状态，并在环境中采取行动

03:48 语言模型只是续写回答，智能体会通过外层 harness 执行动作

04:14 自主性来自哪里：把一连串决策与多步骤行动串起来

04:56 敏感操作仍需要批准：人类输入不能轻易消失

05:12 使用体验：你仍在对话，但角色更像决策者和审批者

05:47 婚礼筹备例子：从推荐名单到真正发邮件、订供应商

06:04 工具访问权限：给 Gmail、钱包、网页后，智能体才真正能办事

06:34 “理想情况下”：智能体完成任务的前提是没有出错

智能体现在擅长什么

06:42 当前阶段：智能体最擅长的方向之一是编程

07:07 软件开发被加速：人类注意力回到想法和设计

07:37 为什么还要人在环路中：不是不能做，而是不可能百分百准确

08:12 错误可能很隐蔽：自动化偏见让人逐渐放松警惕

08:48 人不只是“在场”，还必须真正投入、保持清醒

09:04 长期冲击：AI 正在进入科学、数学等过去难以想象的领域

09:59 变化速度令人不安：这次适应窗口可能比工业革命更短

10:26 为什么要构建智能体：推动科学进步、改善健康和人类福利

10:59 自主性的争议：是否应该把更多行动权交给系统

智能体与科学自动化

11:40 Nenad 的核心梦想：用智能体加速科学研究

11:45 科学不只是好点子：还包括实验、观察、分析与闭环反馈

12:10 自主研究实验室：让智能体安排实验运行

12:24 真实世界接口必须有安全保护：材料、生物、电池都可能出事故

12:45 科学闭环比软件更难：物理实验才是反馈来源

13:16 当智能体能自主测试问题，人类角色在哪里

13:34 短期答案：当前系统还不是 AGI，人类仍有关键作用

13:48 这一代系统的能力边界：组合式延展人类已有技能

14:08 还没有深层科学变革：尚未出现人类完全想不到的发现

为什么现在才落地

14:23 智能体被谈论多年，为什么最近才真正走向普通人

14:38 早期窄智能体：数据中心优化、交易算法等已存在但不可交流

15:17 新变化：基于语言模型的智能体可以被对话、引导和影响

15:34 阻碍大规模部署的关键：不只是底层模型，而是协调与编排

16:08 用户将变成“团队管理者”：管理一队智能体的工作流

16:29 智能体会犯非人类式错误，也还不够了解你

16:50 幻觉与灾难性后果：为什么信任智能体是一大步

17:10 信任可以给予，但必须被赢得：声誉追踪与持续验证

委托、验证与复杂任务

17:48 智能体之间的委托：一个任务如何拆给专用智能体

17:58 复杂任务瓶颈：没有单个智能体能完成所有部分

18:36 智能体间协议：委托、失败管理与提前预防

18:54 判断可委托对象：可靠性、能力认证与恶意交互防护

19:17 大型活动类比：协调越复杂，出错点越多