ST

StableLM2-12B

StableLM2-12B

发布时间: 2024-04-08613
模型参数
120.0亿
上下文长度
4K
中文支持
不支持
推理能力

模型基本信息

推理过程
不支持
上下文长度
4K tokens
最大输出长度
暂无数据
模型类型
暂无数据
发布时间
2024-04-08
模型文件大小
24GB
MoE架构
总参数 / 激活参数
120.0 亿 / 不涉及
知识截止
暂无数据
推理模式
暂无模式数据

开源和体验地址

代码开源状态
预训练权重开源
Stability AI Membership- 收费商用授权
GitHub 源码
暂无GitHub开源地址
在线体验
暂无在线体验地址

官方介绍与博客

DataLearnerAI博客
暂无介绍博客

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。

评测得分

当前尚无可展示的评测数据。

发布机构

模型解读

Stability AI最新推出了Stable LM 2系列中的120亿参数多语言语言模型。这是一款同时包含基础版本和针对指令进行微调版本的模型。该模型在英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语7种语言上进行了训练,总计使用了2万亿tokens的语料。


主要特点:

  1. 中等规模但高效:120亿参数的规模使其能够在普通硬件上高效运行(4090的24G显存勉强够用),而性能却可媲美一些大得多的模型。
  2. 多语种支持:覆盖7种主流语言,可用于多种跨语言应用场景。
  3. 指令遵从能力:指令微调版本在工具使用和函数调用等任务上表现出色,非常适合构建检索增强系统等应用。


不过需要注意的是,这个模型需要加入StabilityAI的membership会员才能商用,否则只能研究用。会员一个月20美元即可,也就是说虽然收费,但是也不算贵。


StableLM2-12B的测试结果

基准测试显示,StableLM 2 12B在常见NLP任务上的表现位居同级别模型前列,在保持较小尺寸的同时性能很是优异。其基座版本的模型比140亿参数的Qwen1.5-14B评测结果略低,但是指令优化版本的评测结果则高于Qwen1.5-14B。


下图是指令优化版本和其它模型在MT-Bench上的对比:



其指令优化版本与其它模型在其它评测对比:




更详细的评测可以参考DataLearnerAI的大模型评测排行: https://www.datalearner.com/ai-models/llm-evaluation 

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码