StableLM2-12B
StableLM2-12B
模型参数
120.0亿
上下文长度
4K
中文支持
不支持
推理能力
模型基本信息
推理过程
不支持
上下文长度
4K tokens
最大输出长度
暂无数据
模型类型
暂无数据
发布时间
2024-04-08
模型文件大小
24GB
MoE架构
否
总参数 / 激活参数
120.0 亿 / 不涉及
知识截止
暂无数据
推理模式
暂无模式数据
开源和体验地址
官方介绍与博客
DataLearnerAI博客
暂无介绍博客
API接口信息
接口速度
暂无数据
暂无公开的 API 定价信息。
评测得分
当前尚无可展示的评测数据。
发布机构
Stability AI
查看发布机构详情 模型解读
Stability AI最新推出了Stable LM 2系列中的120亿参数多语言语言模型。这是一款同时包含基础版本和针对指令进行微调版本的模型。该模型在英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语7种语言上进行了训练,总计使用了2万亿tokens的语料。
主要特点:
- 中等规模但高效:120亿参数的规模使其能够在普通硬件上高效运行(4090的24G显存勉强够用),而性能却可媲美一些大得多的模型。
- 多语种支持:覆盖7种主流语言,可用于多种跨语言应用场景。
- 指令遵从能力:指令微调版本在工具使用和函数调用等任务上表现出色,非常适合构建检索增强系统等应用。
不过需要注意的是,这个模型需要加入StabilityAI的membership会员才能商用,否则只能研究用。会员一个月20美元即可,也就是说虽然收费,但是也不算贵。
StableLM2-12B的测试结果
基准测试显示,StableLM 2 12B在常见NLP任务上的表现位居同级别模型前列,在保持较小尺寸的同时性能很是优异。其基座版本的模型比140亿参数的Qwen1.5-14B评测结果略低,但是指令优化版本的评测结果则高于Qwen1.5-14B。
下图是指令优化版本和其它模型在MT-Bench上的对比:

其指令优化版本与其它模型在其它评测对比:

更详细的评测可以参考DataLearnerAI的大模型评测排行: https://www.datalearner.com/ai-models/llm-evaluation
DataLearner 官方微信
欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送
