← 返回 2026 年 11 月 6 日 信息流

AI 前沿 · 每日整理

百度开源 280B MoE 基础模型 ERNIE 5.5 Flash Base:大底座能下载了

百度 11 月 5 日发布 ERNIE 5.5 Flash Base,总参数 280B 的稀疏 MoE 基础模型,每 token 激活 14B,预训练用了 33.5T token,推理上下文达 1M。权重以 FP8 与 BF16 形式在 Hugging Face 与 ModelScope 开源。百度自测称 30 项基准中 24 项最优,MMLU-Pro 78.4 分,领先 DeepSeek-V4-Flash-Base 的 69.2 分。

ERNIE 5.5 Flash Base 发布配图

原文摘录

Baidu has released ERNIE 5.5 Flash Base, the raw pre-training checkpoint of its new sparse Mixture-of-Experts language model. ERNIE 5.5 Flash Base is a 280B-parameter text model from Baidu that activates 14B parameters per token.(大意:百度发布了 ERNIE 5.5 Flash Base,这是其新型稀疏混合专家语言模型的原始预训练权重:总参数 280B,每 token 激活 14B。)

值得肯定

权重确实可下载,FP8 与 BF16 两种形式,官方推荐用 vLLM 或 SGLang 部署;规格给得全:280B 总参数、每 token 激活 14B、33.5T token 预训练、1M 推理上下文,MMLU-Pro 78.4 分。

需要注意

这次公开的只是预训练权重,尚未做中训或后训,拿来直接对话效果有限,主要价值在二次训练与研究;许可证限制较多:仅年收入 5000 万美元以下免费,且排除欧盟、英国与韩国;分数均为百度自报,尚未有独立复现。

来源

回到最新更新