跳到正文
热点事件持续更新

百度开源ERNIE 5.5 Flash Base基座模型

5 篇报道4 个报道来源3 小时前更新

先了解这件事

AI 综述

百度文心发布并开源基座模型 ERNIE 5.5 Flash Base,开放 ERNIE 5.5 Flash 预训练终点的权重,在 Hugging Face 和 ModelScope 提供 FP8 与 BF16 两种权重下载。据百度官方账号介绍,该模型为稀疏 MoE 基座语言模型,总参数 280B、每 token 激活 14B,预训练使用 33.5T tokens;权重直接取自预训练、未做微调或后训练,交由开发者自行处理,后续将推出后训练版本。百度称该模型在同规模基座模型的多个基准上取得 SOTA,报道未给出独立验证。 上下文长度上,百度称微调和推理设计上支持最长 1M-token,The Decoder 则称训练上下文最长 128,000 token。MarkTechPost 称其许可在年收入低于 5000 万美元时免费,但排除欧盟、英国和韩国。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. MarkTechPost
    百度发布 ERNIE 5.5 Flash Base:280B 总参、14B 激活的 MoE 基座模型

    百度发布 ERNIE 5.5 Flash Base,这是 280B 总参数、每 token 激活 14B 的稀疏 MoE 基座模型,权重止于预训练阶段,已在 Hugging Face 和 ModelScope 提供 FP8 与 BF16 权重。

  2. The Decoder:AI News
    百度开源 ERNIE 5.5 Flash Base 基座模型,280B 参数 MoE 架构

    百度发布开源基座模型 ERNIE-5.5-Flash-Base,刻意不带微调或后训练,交由开发者自行处理,后续将推出后训练版本。模型采用 MoE 架构,总参数 280B、每输入激活 14B,预训练数据 33.5 万亿 token,训练上下文最长 128,000 token,微调和推理设计上支持到 100 万 token。

11月5日
  1. 百度 Baidu
    百度发布 ERNIE 5.5 Flash Base 并上架 Hugging Face

    百度发布 ERNIE 5.5 Flash Base 模型,提供官方博客介绍页 https://ernie.baidu.com/release/ernie-5-5-flash-base/ 和 Hugging Face 下载入口 https://huggingface.co/baidu/ERNIE-5.5-Flash-Base。

  2. 百度 Baidu
    百度开源 ERNIE 5.5 Flash Base 基座模型:280B 总参数、14B 激活

    百度发布 ERNIE 5.5 Flash Base 稀疏 MoE 基座语言模型并开放权重。模型总参数 280B、每 token 激活 14B,预训练 33.5T tokens,微调和推理上下文最长 1M-token,提供 FP8 与 BF16 权重。官方称其在同规模基座模型中于多个基准取得 SOTA,权重直接来自预训练、未做中后期训练,方便研究者在同一 checkpoint 上比较不同方法的效果。

  3. IT之家·人工智能
    百度文心开源 ERNIE-5.5-Flash-Base 基座模型,总参数 280B 每 token 激活 14B

    百度文心发布开源基座模型 ERNIE-5.5-Flash-Base,开放 ERNIE 5.5 Flash 预训练终点权重。

本事件热度走势

可比范围当前
126
可比范围峰值
13311月5日 22:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。