DataLearner 标志

ERNIE-4.5-21B-A3B-Base

基础大模型ERNIEERNIE 4.5
发布时间: 2025-06-30更新于: 2025-06-30浏览量: 890
上下文长度
128K
最大输出 32K
是否开源
开源
Apache 2.0
参数 210亿,激活 30亿
查看开源信息

ERNIE-4.5-21B-A3B-Base 是百度于 2025 年 6 月 30 日开源的文心 4.5 系列轻量 MoE 基础模型,总参数 210 亿、激活 30 亿,128K 上下文,Apache 2.0 许可,适合作为微调基座。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

ERNIE-4.5-21B-A3B-Base

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
128K tokens
最大输出长度
32K tokens
模型类型
基础大模型
输入/输出模态
文本 → 文本
发布时间
2025-06-30
模型文件大小
44.16 GB
MoE架构
是
总参数 / 激活参数
210亿 / 30亿
知识截止
暂无数据
ERNIE-4.5-21B-A3B-Base

开源和体验地址

代码开源状态
预训练权重开源
Apache 2.0 - 免费商用授权
GitHub 源码
暂无
在线体验
ERNIE-4.5-21B-A3B-Base

官方介绍与博客

官方论文
暂无
DataLearnerAI博客
暂无
ERNIE-4.5-21B-A3B-Base

API接口信息

接口速度
3/5
暂无公开的 API 定价信息。
ERNIE-4.5-21B-A3B-Base

发布机构

ERNIE-4.5-21B-A3B-Base

模型解读

ERNIE-4.5-21B-A3B-Base 是百度于 2025 年 6 月 30 日开源的文心大模型 4.5 系列中的轻量级 MoE 基础模型。同批开源的共有 10 个模型,均采用 Apache 2.0 许可。

特点

  • 参数:MoE 架构,总参数 210 亿,每个 token 激活 30 亿,推理成本接近 3B 级稠密模型。
  • 上下文:128K。
  • 版本:这是只经过预训练的 Base 版本,另有经过后训练的对话版 ERNIE-4.5-21B-A3B。
  • 许可:Apache 2.0,可商用。

适合需要在自有数据上微调、又希望控制推理成本的场景。百度同时开源了基于飞桨(PaddlePaddle)的训练与推理工具链。

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码