DataLearner 标志

Qwen2.5-0.5B

基础大模型QwenQwen2.5
发布时间: 2024-09-18更新于: 2024-09-21浏览量: 925
上下文长度
32K
是否开源
开源
Apache 2.0
参数 5亿
查看开源信息

Qwen2.5-0.5B 是阿里巴巴 2024 年 9 月开源的 Qwen2.5 系列中最小的基础模型,仅 5 亿参数,32K 上下文,Apache 2.0 许可,可在手机和嵌入式设备上运行,也常用作投机解码的草稿模型。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

Qwen2.5-0.5B

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
32K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2024-09-18
模型文件大小
1GB
MoE架构
否
总参数 / 激活参数
5亿 / 不适用
知识截止
暂无数据
Qwen2.5-0.5B

开源和体验地址

代码开源状态
预训练权重开源
Apache 2.0 - 免费商用授权
Qwen2.5-0.5B

官方介绍与博客

DataLearnerAI博客
暂无
Qwen2.5-0.5B

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。
Qwen2.5-0.5B

发布机构

Qwen2.5-0.5B

模型解读

Qwen2.5-0.5B 是阿里巴巴于 2024 年 9 月发布的 Qwen2.5 系列中参数最少的基础模型。Qwen2.5 系列共 7 个尺寸(0.5B 到 72B),预训练数据约 18 万亿 token。

特点

  • 参数:5 亿,稠密。
  • 上下文:32K。
  • 许可:Apache 2.0,可商用。

适用场景

显存占用极低,适合手机和嵌入式设备上的简单任务,也常被用作大模型投机解码的草稿模型,或作为教学、微调实验的起点。

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码