Gu

Guanaco

基础大模型

Guanaco

发布时间: 2023-05-23

413
模型参数(Parameters)
650.0
最高上下文长度(Context Length)
2K
是否支持中文
不支持
推理能力(Reasoning)

模型基本信息

是否支持推理过程

不支持

最高上下文输入长度

2K tokens

最长输出结果
暂无数据
模型类型

基础大模型

发布时间

2023-05-23

模型预文件大小
暂无数据

开源和体验地址

代码开源状态
预训练权重开源
MIT License - 免费商用授权
GitHub 源码
Hugging Face
在线体验
暂无在线体验地址

官方介绍与博客

官方论文
DataLearnerAI博客
暂无介绍博客

API接口信息

接口速度(满分5分)
暂无数据
接口价格
暂无公开的 API 定价信息。

Guanaco模型在各大评测榜单的评分

当前尚无可展示的评测数据。

发布机构

华盛顿大学自然语言处理小组
华盛顿大学自然语言处理小组
查看发布机构详情

Guanaco模型解读

Guanaco是华盛顿大学NLP小组发布的QLoRA方法的预训练结果模型,基于LLaMA微调。包含4个版本:


Guanaco模型名称Guanaco模型参数量
Guanaco 65B650亿
Guanaco 33B330亿
Guanaco 13B130亿
Guanaco 7B70亿


QLoRA是一种非常高效的大模型预训练技术,可以支持在单张专业级显卡微调650亿参数规模的大模型,具有很好的效果。关于QLoRA技术的简介: https://www.datalearner.com/blog/1051685029967582 


注意,Guanaco模型基于LLaMA模型微调得到,受限于LLaMA不允许商用的限制,Guanaco也不能商用!

Foundation Model

关注DataLearnerAI公众号

关注DataLearnerAI微信公众号,接受最新大模型资讯

DataLearnerAI WeChat