St

StableCode-Instruct-Alpha-3B

编程大模型

StableCode-Instruct-Alpha-3B

发布时间: 2023-08-08

381
模型参数(Parameters)
30.0
最高上下文长度(Context Length)
4K
是否支持中文
不支持
推理能力(Reasoning)

模型基本信息

是否支持推理过程

不支持

最高上下文输入长度

4K tokens

最长输出结果
暂无数据
模型类型

编程大模型

发布时间

2023-08-08

模型预文件大小

6.08GB

开源和体验地址

代码开源状态
预训练权重开源
GitHub 源码
Hugging Face
在线体验
暂无在线体验地址

官方介绍与博客

官方论文
DataLearnerAI博客
暂无介绍博客

API接口信息

接口速度(满分5分)
暂无数据
接口价格
暂无公开的 API 定价信息。

StableCode-Instruct-Alpha-3B模型在各大评测榜单的评分

当前尚无可展示的评测数据。

发布机构

StableCode-Instruct-Alpha-3B模型解读

StableCode-Instruct-Alpha-3B 是一个具有30亿参数的仅解码器的指令调优代码模型,它在多种编程语言上进行了预训练,这些编程语言在stackoverflow开发者调查中名列前茅。


模型细节

  • 开发者:Stability AI
  • 模型类型:基于transformer解码器架构的自回归语言模型
  • 语言:代码
  • 库:GPT-NeoX
  • 许可证:模型检查点在StableCode Research License下授权
  • 联系方式:有关模型的问题和评论,请发送电子邮件至 lm@stability.ai

模型架构

  • 参数:2,796,431,360
  • 隐藏大小:2560
  • 层数:32
  • 头部:32
  • 序列长度:4096

训练
StableCode-Instruct-Alpha-3B 是在StableCode-Completion-Alpha-3B上进行指令微调的版本,使用代码指令数据集。

其他信息

  • 上个月的下载次数:9
  • 模型大小:3.31B 参数
  • 张量类型:BF16

这个模型可以按需加载到推理API上。

关注DataLearnerAI公众号

关注DataLearnerAI微信公众号,接受最新大模型资讯

DataLearnerAI WeChat