LL
LLaMA Pro - 8B
基础大模型LLaMA Pro - 8B
发布时间: 2024-01-04更新于: 2024-01-06 22:08:33.412266
模型参数
83亿
上下文长度
4K
中文支持
不支持
推理能力
LLaMA Pro - 8B 是由 Tencent ARC 发布的 AI 模型，发布时间为 2024-01-04，定位为 基础大模型，参数规模约为 83亿，上下文长度为 4K，模型文件大小约 16.72GB，采用 Llama 2 Community License Agreement 许可。
数据优先来自官方发布（GitHub、Hugging Face、论文），其次为评测基准官方结果，最后为第三方评测机构数据。 了解数据收集方法
LLaMA Pro - 8B
模型基本信息
推理过程
不支持
思考模式
不支持思考模式
上下文长度
4K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2024-01-04
模型文件大小
16.72GB
MoE架构
否
总参数 / 激活参数
83亿 / 不涉及
知识截止
暂无数据
LLaMA Pro - 8B
开源和体验地址
代码开源状态
预训练权重开源
Hugging Face
在线体验
暂无在线体验地址
LLaMA Pro - 8B
官方介绍与博客
DataLearnerAI博客
暂无介绍博客
LLaMA Pro - 8B
API接口信息
接口速度
暂无数据
暂无公开的 API 定价信息。
LLaMA Pro - 8B
评测结果
当前尚无可展示的评测数据。
和其他模型对比
暂时没有为该模型整理的相关对比页面。
想自定义其他组合？打开对比工具
LLaMA Pro - 8B
发布机构
Tencent ARC
查看发布机构详情 LLaMA Pro - 8B
模型解读
LLaMA Pro - 8B是腾讯ARC实验室提出的一种大模型微调的方法。相比较传统的有监督微调方法，这个方法可以更好地解决微调的知识遗忘问题。
相比较原始的Llama2-7B，LLaMA Pro - 8B增加了13亿的参数，但是效果好很多：
DataLearner 官方微信
欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送
