DataLearner 标志

CodeGemma-7B

编程大模型CodeGemmaCodeGemma
发布时间: 2024-04-09更新于: 2026-10-11浏览量: 720
上下文长度
8K
是否开源
开源
Gemma Terms of Use
参数 70亿
查看开源信息

CodeGemma 7B is the pre-trained code model in Google's CodeGemma family, released in April 2024 and further trained from Gemma on about 500 billion tokens of mostly code. It specialises in code completion and fill-in-the-middle, under the Gemma Terms of Use.

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

CodeGemma-7B

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
8K tokens
最大输出长度
暂无数据
模型类型
编程大模型
输入/输出模态
暂无数据
发布时间
2024-04-09
模型文件大小
17.09GB
MoE架构
否
总参数 / 激活参数
70亿 / 不适用
知识截止
暂无数据
CodeGemma-7B

开源和体验地址

代码开源状态
预训练权重开源
Gemma Terms of Use - 免费商用授权
在线体验
暂无
CodeGemma-7B

官方介绍与博客

CodeGemma-7B

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。
CodeGemma-7B

发布机构

CodeGemma-7B

模型解读

CodeGemma是Google开源的一系列编程大模型,分为三个版本,CodeGemma-7B、CodeGemma-7B-IT和CodeGemma-2B,第一个模型也成为Gemma-7B-PT,这里的PT代表的是PyTorch,IT代表Instruct,做过指令微调。

CodeGemma-7B是基于Gemma-7B模型继续在代码数据集上训练得到的(新的数据包含5000亿tokens,有代码数据集、开源数学数据集以及合成数据),其代码能力得到了大幅增强!其相关信息如下:

  • 参数量: 70亿
  • HumanEval 单行填充: 76.09%
  • HumanEval 多行填充: 58.44%
  • Python编程基准HumanEval: 44.5%
  • Python编程基准MBPP: 56.2%
  • GSM8K数学推理: 44.2%
  • MATH数学推理: 19.9%

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码