Episode Details

Back to Episodes
【第569期】Aegean:基于分布式共识的大模型多智能体推理框架

【第569期】Aegean:基于分布式共识的大模型多智能体推理框架

Published 6 days, 11 hours ago
Description

Seventy3:借助NotebookLM的能力进行论文解读,专注人工智能、大模型、机器人算法、crypto方向,让大家跟着AI一起进步。

如果你想要解读自己的论文,获得更多曝光度。请联系小助手微信:seventy3_podcast 加群。合作邮箱:zhiwudazhanjiangshi#gmail.com

今天的主题是:

Reaching Agreement Among Reasoning LLM Agents

Summary

多智能体系统扩展了智能体 AI 的能力。与单次推理不同,多个智能体通过集体推理来得出高质量的答案。然而,现有的多智能体编排依赖于静态的启发式工作流,例如固定的循环次数限制和栅栏同步(barrier synchronization)。这些临时方案(ad-hoc approaches)浪费了计算资源,因“掉队者”(stragglers)导致高延迟,并存在过早确定瞬态协议的风险。我们认为,可靠的多智能体推理需要一个类似于经典分布式共识问题的形式化基础。

为此,我们提出了**多智能体完善问题(multi-agent refinement problem)**的形式化模型。该模型包含了正确性保证的定义以及智能体推理的形式化语义。随后,我们推出了 Aegean,这是一种专为随机推理智能体设计的共识协议,用以解决多智能体完善问题。

我们在 Aegean-Serve 中实现了该协议。这是一个具备共识感知能力的推理服务引擎,能够在并发的智能体执行过程中进行增量法定人数检测(incremental quorum detection),从而在足够数量的智能体达成一致时实现尽早停机。针对四个数学推理基准测试的评估表明,Aegean 提供了可证明的安全性和活性保证,同时与最先进的基准方法相比,延迟降低了 1.2 至 20 倍,且答案质量损失控制在 2.5% 以内。在本地 GPU 部署和商业 API 提供商上的持续性能增益验证了,基于共识的编排能在不牺牲正确性的前提下消除掉队者延迟。

原文链接:https://arxiv.org/abs/2512.20184

Listen Now

Love PodBriefly?

If you like Podbriefly.com, please consider donating to support the ongoing development.

Support Us