LongChat-7B-16K
基础大模型LongChat-7B-16K
模型参数（Parameters）
70.0
最高上下文长度（Context Length）
16K
是否支持中文
不支持
推理能力（Reasoning）
模型基本信息
是否支持推理过程
不支持
最高上下文输入长度
16K tokens
最长输出结果
暂无数据
模型类型
基础大模型
发布时间
2023-06-29
模型预文件大小
13.5GB
开源和体验地址
代码开源状态
预训练权重开源
开源不可商用
- 不可以商用
GitHub 源码
Hugging Face
在线体验
暂无在线体验地址
官方介绍与博客
API接口信息
接口速度（满分5分）
暂无数据
接口价格
暂无公开的 API 定价信息。
LongChat-7B-16K模型在各大评测榜单的评分
当前尚无可展示的评测数据。
发布机构
LM-SYS
查看发布机构详情
LongChat-7B-16K模型解读
LongChat-7B-16K是由LM-SYS开源的一个支持超长上下文输入的聊天大语言模型。也是目前开源领域对超长上下文支持最好的模型之一。
LongChat-7B-16K是基于MetaAI开眼的LLaMA-7B进行微调得到的。使用ShareGPT中提供的用户与GPT的对话数据微调得到。原始的LLaMA模型只支持2048长度的输入。而LongChat-7B则通过将原始输入长度进行重新编码后得到支持16K长度的上下文输入。具体方法参考： https://www.datalearner.com/blog/1051688257255268
Foundation Model
LLaMA
View Details关注DataLearnerAI公众号
关注DataLearnerAI微信公众号，接受最新大模型资讯
