LightGPT Instruct 6B
LightGPT-instruct-6B
模型参数
60.0亿
上下文长度
2K
中文支持
不支持
推理能力
模型基本信息
推理过程
不支持
上下文长度
2K tokens
最大输出长度
暂无数据
模型类型
基础大模型
发布时间
2023-05-24
模型文件大小
12.2GB
MoE架构
否
总参数 / 激活参数
60.0 亿 / 不涉及
知识截止
暂无数据
推理模式
暂无模式数据
开源和体验地址
官方介绍与博客
官方论文
暂无官方论文
DataLearnerAI博客
暂无介绍博客
API接口信息
接口速度
暂无数据
暂无公开的 API 定价信息。
评测得分
当前尚无可展示的评测数据。
发布机构
亚马逊
查看发布机构详情 模型解读
LightGPT是亚马逊发布的基于GPT-J-6B微调的指令优化的大语言模型。支持的语言为英文,完全开源。
相比较原始的GPT-J模型,LightGPT Instruct 6B的性能更好,其对比结果如下:
| LAMBADA PPL | LAMBADA Acc | Winogrande | Hellaswag | PIQA | |
|---|---|---|---|---|---|
| GPT-J | 3.99 | 69.7% | 65.3% | 66.1% | 76.5% |
| LightGPT-instruct | 4.33 | 65.0% | 64.6% | 63.9% | 75.5% |
基础模型
GPT-J
查看详情DataLearner 官方微信
欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送
