ST

StableCode-Completion-Alpha-3B-4K

编程大模型StableCode

StableCode-Completion-Alpha-3B-4K

发布时间: 2023-08-08更新于: 2023-08-09 07:16:00.840476
模型参数
30亿
上下文长度
4K
中文支持
不支持
推理能力

StableCode-Completion-Alpha-3B-4K 是由 Stability AI 发布的 AI 模型,发布时间为 2023-08-08,定位为 编程大模型,参数规模约为 30亿,上下文长度为 4K,模型文件大小约 6.08GB,采用 Apache 2.0 许可。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

StableCode-Completion-Alpha-3B-4K

模型基本信息

推理过程
不支持
思考模式
不支持思考模式
上下文长度
4K tokens
最大输出长度
暂无数据
模型类型
编程大模型
输入/输出模态
暂无数据
发布时间
2023-08-08
模型文件大小
6.08GB
MoE架构
总参数 / 激活参数
30亿 / 不涉及
知识截止
暂无数据
StableCode-Completion-Alpha-3B-4K

开源和体验地址

代码开源状态
预训练权重开源
Apache 2.0- 免费商用授权
在线体验
暂无在线体验地址
StableCode-Completion-Alpha-3B-4K

官方介绍与博客

DataLearnerAI博客
暂无介绍博客
StableCode-Completion-Alpha-3B-4K

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。
StableCode-Completion-Alpha-3B-4K

评测结果

当前尚无可展示的评测数据。

和其他模型对比

暂时没有为该模型整理的相关对比页面。

想自定义其他组合?打开对比工具

StableCode-Completion-Alpha-3B-4K

发布机构

StableCode-Completion-Alpha-3B-4K

模型解读

StableCode-Completion-Alpha-3B-4K 是一个具有30亿参数的仅解码器的代码补全模型,它在多种编程语言上进行了预训练,这些编程语言在stackoverflow开发者调查中名列前茅。


模型细节

  • 开发者:Stability AI
  • 模型类型:基于transformer解码器架构的自回归语言模型
  • 语言:代码
  • 库:GPT-NeoX
  • 许可证:预训练结果在Apache 2.0许可证下授权

模型架构

  • 参数:2,796,431,360
  • 隐藏大小:2560
  • 层数:32
  • 头部:32
  • 序列长度:4096

训练
StableCode-Completion-Alpha-3B-4k在bigcode/starcoder-data上预训练,上下文长度为4096,总共有3000亿tokens。


使用和限制
StableCode-Completion-Alpha-3B-4K可以独立生成新的代码补全,但建议您与BigCode和HuggingFace开发的工具一起使用StableCode-Completion-Alpha-3B-4K,以识别并(如有必要)归因于与训练代码匹配的任何输出。

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码