百度开源文心 5.5 Flash Base 基座模型
先了解这件事
百度正式开源总参数 280B、激活 14B 的稀疏 MoE 语言模型 ERNIE 5.5 Flash Base，并开放预训练终点权重。该模型在 33.5T tokens 上从零完成预训练，训练上下文为 128K，微调与推理支持 1M tokens 上下文，并在知识、推理、数学、代码、多语言和长上下文等多个基准测试中取得同尺寸模型 SOTA 表现。 量子位报道称，该模型在架构上进行了注意力机制与专家路由等多项创新优化。The Decoder 报道称，该模型的权重已在 Hugging Face 上以 FP8 和 BF16 格式开源。
AI 根据报道生成 · 4 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- The Decoder百度发布 2800 亿参数开源基础模型 ERNIE 5.5 Flash Base
百度发布了 2800 亿参数的开源基础模型 ERNIE 5.5 Flash Base，采用混合专家架构，每个输入激活 140 亿参数。该模型在 33.5 万亿个 token 上进行预训练，训练上下文达 12 万 token，微调和推理时支持高达 100 万 token 的上下文，权重已在 Hugging Face 上以 FP8 和 BF16 格式开源。
- IT之家百度文心开源发布 ERNIE 5.5 Flash Base 高效基座模型，总参数 280B
百度文心大模型发布 ERNIE-5.5-Flash-Base 高效基座模型并开放预训练终点权重。该模型为稀疏 MoE 语言模型，总参数 280B，每 token 激活 14B，在 33.5T tokens 上从零完成预训练，训练上下文为 128K，微调与推理支持 1M tokens 上下文。
- 量子位百度开源文心 5.5 Flash Base 模型，多项基准测试刷新同尺寸 SOTA
百度正式开源最新基座模型文心 5.5 Flash Base（ERNIE 5.5 Flash Base），采用 MoE 架构，总参数量 2800 亿，激活 140 亿参数，预训练使用 33.5 万亿 Token。该模型在知识、推理、数学、代码、多语言和长上下文等多个基准测试中取得同尺寸模型 SOTA 表现，并在架构上进行了注意力机制与专家路由等多项创新优化。
本事件热度走势
- 可比范围当前
- 23
- 可比范围峰值
- 2511月6日 02:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。