LI

LightGPT Instruct 6B

LightGPT-instruct-6B

发布时间: 2023-05-24437
模型参数
60.0亿
上下文长度
2K
中文支持
不支持
推理能力

模型基本信息

推理过程
不支持
上下文长度
2K tokens
最大输出长度
暂无数据
模型类型
基础大模型
发布时间
2023-05-24
模型文件大小
12.2GB
MoE架构
总参数 / 激活参数
60.0 亿 / 不涉及
知识截止
暂无数据
推理模式
暂无模式数据

开源和体验地址

代码开源状态
预训练权重开源
Apache 2.0- 免费商用授权
GitHub 源码
暂无GitHub开源地址
在线体验
暂无在线体验地址

官方介绍与博客

官方论文
暂无官方论文
DataLearnerAI博客
暂无介绍博客

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。

评测得分

当前尚无可展示的评测数据。

发布机构

模型解读

LightGPT是亚马逊发布的基于GPT-J-6B微调的指令优化的大语言模型。支持的语言为英文,完全开源。


相比较原始的GPT-J模型,LightGPT Instruct 6B的性能更好,其对比结果如下:

LAMBADA PPLLAMBADA AccWinograndeHellaswagPIQA
GPT-J3.9969.7%65.3%66.1%76.5%
LightGPT-instruct4.3365.0%64.6%63.9%75.5%


基础模型

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码