DataLearner 标志
LL

Llama-3.2-3B

基础大模型Llama-3.2

Llama-3.2-3B

发布时间: 2024-09-18更新于: 2024-12-08浏览量: 922
模型参数
32亿
上下文长度
128K
多语言支持
暂无数据
推理能力
暂无数据

Llama-3.2-3B 是由 Facebook AI研究实验室 发布的 AI 模型,发布时间为 2024-09-18,定位为 基础大模型,参数规模约为 32亿,上下文长度为 128K,模型文件大小约 6.43GB,采用 LLAMA 3.1 COMMUNITY LICENSE AGREEMENT 许可,在 Creative Writing 上取得 593.20 分。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

Llama-3.2-3B

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
128K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2024-09-18
模型文件大小
6.43GB
MoE架构
总参数 / 激活参数
32亿 / 不适用
知识截止
暂无数据
Llama-3.2-3B

开源和体验地址

Llama-3.2-3B

官方介绍与博客

DataLearnerAI博客
暂无
Llama-3.2-3B

API接口信息

接口速度
暂无数据
💡默认单位:$/100万 tokens。若计费单位不同,则以供应商公开的原始标注为准。
标准模式
类型适用条件输入输出
文本-$0.020/ 1M$0.020/ 1M

表中「—」表示该模态在此方向不计费,或供应商未公开对应价格。

Llama-3.2-3B

评测结果

Llama-3.2-3B 当前已收录的代表性评测结果包括 MBPP(47 / 70,得分 48.70)、GSM8K(53 / 70,得分 34)、MMLU(101 / 124,得分 54.75)。 本页还汇总了参数规模、上下文长度与 API 价格,便于结合评测结果与部署约束一起判断模型适配度。

思考模式

综合评估

共 3 项评测
评测名称 / 模式
得分
排名/总数
MMLU
常规模式
54.75
101 / 124
BBH
常规模式
46.80
19 / 21
MMLU Pro
常规模式
25
132 / 133

数学推理

共 2 项评测
评测名称 / 模式
得分
排名/总数
GSM8K
常规模式
34
53 / 70
MATH
常规模式
8.50
42 / 42

编程与软件工程

共 2 项评测
评测名称 / 模式
得分
排名/总数
MBPP
常规模式
48.70
47 / 70
HumanEval
常规模式
28
85 / 101

科学与综合推理

共 1 项评测
评测名称 / 模式
得分
排名/总数
GPQA Diamond
常规模式
26.60
218 / 226

写作和创作

共 1 项评测
评测名称 / 模式
得分
排名/总数
Creative Writing
常规模式
593.20
98 / 99
Llama-3.2-3B

发布机构

Facebook AI研究实验室
Facebook AI研究实验室
查看发布机构详情
Llama-3.2-3B

模型解读

Meta开源的30亿参数规模的语言模型,3B的规模导致该模型开源在移动端运行。这个模型也是Llama3.2系列中的纯文本语言模型。

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码