百度发布 2800 亿参数开源基础模型 ERNIE 5.5 Flash Base

百度发布了 2800 亿参数的开源基础模型 ERNIE 5.5 Flash Base，采用混合专家架构，每个输入激活 140 亿参数。该模型在 33.5 万亿个 token 上进行预训练，训练上下文达 12 万 token，微调和推理时支持高达 100 万 token 的上下文，权重已在 Hugging Face 上以 FP8 和 BF16 格式开源。