GPT4All LoRA

GPT4All LoRA是NomicAI开源的就MetaAI发布的LLaMA微调的大语言模型。GPT4All最开始训练了好几个模型，GPT4All LoRA是运行了4次Epochs之后得到的。

Nomic花了大约四天的时间、800美元的GPU成本（从Lambda Labs和Paperspace租用），包括几次失败的训练，以及500美元的OpenAI API费用，成功生成了这些模型。而本次发布的模型名为gpt4all-lora，可以在Lambda Labs DGX A100 8x 80GB上大约八个小时内完成训练，总成本为100美元。