The Decoder· Matthias Bastian·· 4 小时前AI 评分59
百度发布 2800 亿参数开源基座模型 ERNIE 5.5 Flash Base
Baidu releases ERNIE 5.5 Flash Base with 280 billion parameters as an open-source foundation model
AI 导读
百度发布开源基座模型 ERNIE-5.5-Flash-Base，刻意不做微调或后训练，由开发者自行决定用途，后训练版本后续推出。模型采用 MoE 架构，总参数 280B、每输入激活 14B，预训练数据 33.5 万亿 token，训练上下文最长 128,000 token，设计上在微调和推理阶段支持最长 100 万 token 上下文。
正文 · AI 翻译
百度的 AI 开发仍在推进，但大部分工作要靠你自己完成。这家中国公司发布了 ERNIE-5.5-Flash-Base，一个刻意不带微调或后训练的开源基础模型。开发者需要自行决定如何使用这个模型。后训练版本据说随后会推出。
ERNIE 5.5 采用混合专家架构，总参数量为 2800 亿，每次输入激活其中的 140 亿。模型在 33.5 万亿 token 上进行预训练，训练上下文长度最高达 128,000 token，同时其设计支持在微调和推理时使用最高一百万 token 的上下文。
据百度称，在推理、代码和长上下文任务的基准测试中，该模型可与规模相近的开源基础模型如 DeepSeek V4 Flash 或 MiMo V2.5 一较高下。权重已以 FP8 和 BF16 格式发布在 Hugging Face 上。
没有炒作的 AI 新闻 – 人工精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。
来源： The Decoder · the-decoder.com