百度开源文心5.5 Flash Base基座模型
热点事件持续更新
百度开源文心5.5 Flash Base基座模型
2 篇报道2 个报道来源27 分钟前更新
先了解这件事
AI 综述
11月5日，百度开源基座模型文心5.5 Flash Base（ERNIE 5.5 Flash Base），开放的是预训练终点权重，未经中训练与后训练，可作为领域适配、指令微调和强化学习研究的起点。 该模型采用MoE架构，总参数2800亿，每个Token激活140亿参数，预训练使用33.5万亿Token，预训练上下文最高128K；微调与推理阶段支持最长100万Token上下文。 据IT之家报道，经过后训练的ERNIE 5.5 Flash将随后推出。
AI 根据报道生成 · 20 分钟前更新
最新进展11月5日 16:21
百度文心开源 ERNIE 5.5 Flash Base，总参数 280B报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- IT之家百度文心开源 ERNIE 5.5 Flash Base，总参数 280B
百度文心大模型发布 ERNIE-5.5-Flash-Base，开放 ERNIE 5.5 Flash 预训练终点权重。该模型为稀疏 MoE 语言模型，总参数 280B、每 token 激活 14B，在 33.5T tokens 上从零完成预训练，最长训练上下文 128K，微调与推理支持 1M tokens 上下文。
- 量子位百度开源文心5.5 Flash Base基座模型
11月5日，百度正式开源基座模型文心5.5 Flash Base（ERNIE 5.5 Flash Base）。模型采用MoE架构，总参数2800亿、每Token激活140亿，预训练使用33.5万亿Token，预训练上下文最高128K，微调与推理阶段支持最长100万Token上下文。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。