LightGPT Instruct 6B - LightGPT-instruct-6B
模型详细情况和参数
LightGPT Instruct 6B
- 模型全称
- LightGPT-instruct-6B
- 模型简称
- LightGPT Instruct 6B
- 模型类型
- 基础大模型
- 发布日期
- 2023-05-24
- 预训练文件大小
- 12.2GB
- 是否支持中文（中文优化）
- 否
- 最高支持的上下文长度
- 2K
- 模型参数数量（亿）
- 60.0
- 模型代码开源协议
- Apache 2.0
- 预训练结果开源商用情况
- Apache 2.0 - 免费商用授权
- 模型GitHub链接
- 暂无
- 模型HuggingFace链接
- https://huggingface.co/amazon/LightGPT
- 在线演示地址
- 暂无
- 官方博客论文
- 暂无
- 基础模型
-
GPT-J
查看详情 - 发布机构
LightGPT-instruct-6B 简介
LightGPT是亚马逊发布的基于GPT-J-6B微调的指令优化的大语言模型。支持的语言为英文，完全开源。
相比较原始的GPT-J模型，LightGPT Instruct 6B的性能更好，其对比结果如下：
| LAMBADA PPL | LAMBADA Acc | Winogrande | Hellaswag | PIQA | |
|---|---|---|---|---|---|
| GPT-J | 3.99 | 69.7% | 65.3% | 66.1% | 76.5% |
| LightGPT-instruct | 4.33 | 65.0% | 64.6% | 63.9% | 75.5% |
欢迎大家关注DataLearner官方微信，接受最新的AI模型和技术推送
LightGPT Instruct 6B所属的领域
LightGPT Instruct 6B相关的任务
