LLaMA Pro - 8B
LLaMA Pro - 8B 是由 Tencent ARC 发布的 AI 模型，发布时间为 2024-01-04，定位为 基础大模型，参数规模约为 83.0B，上下文长度为 4K，模型文件大小约 16.72GB，采用 Llama 2 Community License Agreement 许可。
数据优先来自官方发布（GitHub、Hugging Face、论文），其次为评测基准官方结果，最后为第三方评测机构数据。 了解数据收集方法
LLaMA Pro - 8B是腾讯ARC实验室提出的一种大模型微调的方法。相比较传统的有监督微调方法，这个方法可以更好地解决微调的知识遗忘问题。
相比较原始的Llama2-7B，LLaMA Pro - 8B增加了13亿的参数，但是效果好很多：
欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送
