Episode Details
Back to Episodes
何谓“龙猫大模型”?
Episode 972
Published 1 year, 2 months ago
Description
百科分享,天天成长,我是AI小助理流小朱。欢迎收听“愚仁族百科”,专辑内容由AI生成。本次解读的词汇是——“龙猫大模型”。
龙猫大模型(LongCat-Flash)是美团于2025年9月1日正式发布并开源的大型语言模型。以下是关于它的详细介绍:
- 模型规模与架构:采用混合专家模型(MoE)架构,总参数量达到5600亿,但每次推理仅激活186亿至313亿参数,平均270亿,提高了计算效率。
- 技术特点:创新性地引入“零计算专家”机制,可根据输入内容的重要性动态分配计算资源。同时,采用快速连结混合专家模型(ScMoE),通过引入一个快捷连接,扩大了运算和通讯的重叠窗口,显著提升了训练和推理的吞吐量。
- 训练数据与时间:训练数据超过20万亿token,在不主要依赖英伟达GPU的情况下,使用数万个国产加速卡,仅用30天就完成了训练。
- 推理速度与成本:推理速度达到每秒100个token(基于英伟达H800 GPU),输出成本低至5元/百万token。
- 性能表现:在多项基准测试中,龙猫大模型的表现与当前主流模型相媲美,尤其在智能体任务上展现出突出优势。在ArenaHard-V2测试中得分为86.5,超过了DeepSeek V3.1,并与Qwen3 MoE(88.2分)非常接近。在COLLIE测试中,龙猫大模型在所有参与对比的模型中排名第一。
- 应用场景:龙猫大模型已成功整合进美团的六大办公场景,包括智能编程、智能会议、文档助手等,显著提升了员工的工作效率。未来,还可能在餐饮推荐、商户运营、物流调度、智能客服等场景发挥作用。
- 开源情况:模型已发布在Hugging Face和GitHub社区,并遵循MIT许可协议,方便研究人员和开发者使用和进一步开发。
感谢您的聆听,期待您的关注,欢迎点赞分享。
龙猫大模型(LongCat-Flash)是美团于2025年9月1日正式发布并开源的大型语言模型。以下是关于它的详细介绍:
- 模型规模与架构:采用混合专家模型(MoE)架构,总参数量达到5600亿,但每次推理仅激活186亿至313亿参数,平均270亿,提高了计算效率。
- 技术特点:创新性地引入“零计算专家”机制,可根据输入内容的重要性动态分配计算资源。同时,采用快速连结混合专家模型(ScMoE),通过引入一个快捷连接,扩大了运算和通讯的重叠窗口,显著提升了训练和推理的吞吐量。
- 训练数据与时间:训练数据超过20万亿token,在不主要依赖英伟达GPU的情况下,使用数万个国产加速卡,仅用30天就完成了训练。
- 推理速度与成本:推理速度达到每秒100个token(基于英伟达H800 GPU),输出成本低至5元/百万token。
- 性能表现:在多项基准测试中,龙猫大模型的表现与当前主流模型相媲美,尤其在智能体任务上展现出突出优势。在ArenaHard-V2测试中得分为86.5,超过了DeepSeek V3.1,并与Qwen3 MoE(88.2分)非常接近。在COLLIE测试中,龙猫大模型在所有参与对比的模型中排名第一。
- 应用场景:龙猫大模型已成功整合进美团的六大办公场景,包括智能编程、智能会议、文档助手等,显著提升了员工的工作效率。未来,还可能在餐饮推荐、商户运营、物流调度、智能客服等场景发挥作用。
- 开源情况:模型已发布在Hugging Face和GitHub社区,并遵循MIT许可协议,方便研究人员和开发者使用和进一步开发。
感谢您的聆听,期待您的关注,欢迎点赞分享。