QW
发布时间: 2024-09-18更新于: 2024-09-21浏览量: 925
上下文长度
32K
Qwen2.5-0.5B 是阿里巴巴 2024 年 9 月开源的 Qwen2.5 系列中最小的基础模型,仅 5 亿参数,32K 上下文,Apache 2.0 许可,可在手机和嵌入式设备上运行,也常用作投机解码的草稿模型。
数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法
Qwen2.5-0.5B
模型基本信息
推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
32K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2024-09-18
模型文件大小
1GB
MoE架构
否
总参数 / 激活参数
5亿 / 不适用
知识截止
暂无数据
Qwen2.5-0.5B
开源和体验地址
Qwen2.5-0.5B
官方介绍与博客
DataLearnerAI博客
暂无
Qwen2.5-0.5B
API接口信息
接口速度
暂无数据
暂无公开的 API 定价信息。
Qwen2.5-0.5B
发布机构
阿里巴巴
查看发布机构详情 Qwen2.5-0.5B
模型解读
Qwen2.5-0.5B 是阿里巴巴于 2024 年 9 月发布的 Qwen2.5 系列中参数最少的基础模型。Qwen2.5 系列共 7 个尺寸(0.5B 到 72B),预训练数据约 18 万亿 token。
特点
- 参数:5 亿,稠密。
- 上下文:32K。
- 许可:Apache 2.0,可商用。
适用场景
显存占用极低,适合手机和嵌入式设备上的简单任务,也常被用作大模型投机解码的草稿模型,或作为教学、微调实验的起点。
DataLearner 官方微信
欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送
