LongChat-7B-16K
LongChat-7B-16K 是由 LM-SYS 发布的 AI 模型，发布时间为 2023-06-29，定位为 基础大模型，参数规模约为 70.0B，上下文长度为 16K，模型文件大小约 13.5GB，采用 开源不可商用 许可。
数据优先来自官方发布（GitHub、Hugging Face、论文），其次为评测基准官方结果，最后为第三方评测机构数据。 了解数据收集方法
LongChat-7B-16K是由LM-SYS开源的一个支持超长上下文输入的聊天大语言模型。也是目前开源领域对超长上下文支持最好的模型之一。
LongChat-7B-16K是基于MetaAI开眼的LLaMA-7B进行微调得到的。使用ShareGPT中提供的用户与GPT的对话数据微调得到。原始的LLaMA模型只支持2048长度的输入。而LongChat-7B则通过将原始输入长度进行重新编码后得到支持16K长度的上下文输入。具体方法参考： https://www.datalearner.com/blog/1051688257255268
欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送
