GPT4All LoRA
GPT4All LoRA 是由 Nomic AI 发布的 AI 模型，发布时间为 2023-03-29，定位为 基础大模型，参数规模约为 70.0B，上下文长度为 2K，模型文件大小约 8.41MB。
数据优先来自官方发布（GitHub、Hugging Face、论文），其次为评测基准官方结果，最后为第三方评测机构数据。 了解数据收集方法
GPT4All LoRA是NomicAI开源的就MetaAI发布的LLaMA微调的大语言模型。GPT4All最开始训练了好几个模型，GPT4All LoRA是运行了4次Epochs之后得到的。
Nomic花了大约四天的时间、800美元的GPU成本（从Lambda Labs和Paperspace租用），包括几次失败的训练，以及500美元的OpenAI API费用，成功生成了这些模型。而本次发布的模型名为gpt4all-lora，可以在Lambda Labs DGX A100 8x 80GB上大约八个小时内完成训练，总成本为100美元。
欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送
