华盛顿大学提出QLoRA及开源预训练模型Guanaco：将650亿参数规模的大模型微调的显存需求从780G降低到48G！单张显卡可用！
2,536 阅读
前段时间，康奈尔大学开源了LLMTune框架（https://www.datalearner.com/blog/1051684078977779 ），这是一个可以在48G显存的显卡上微调650亿参数的LLaMA模型的框架，不过它们采用的方法是将650亿参数的LLaMA模型进行4bit量化之后进行微调的。今天华盛顿大学的NLP小组则提出了QLoRA方法，依然是支持在48G显存的显卡上微调650亿参数的LLaMA模型，而根据论文的描述，基于QLoRA方法微调的模型结果性能基本没有损失！
基于QLoRA方法微调的Guanaco 65B模型据称效果超越目前所有的开源模型，并且比ChatGPT更加强大（基于人类评测结果和GPT-4的评测结果），打败了Google Bard，并接近GPT-4。Guanaco包含4个版本，从70亿参数到650亿参数，都将开源！由于Guanaco是基于MetaAI的LLaMA微调，因此，尽管它是开源的，但是它不可以商用！
这篇论文和这项工作里面包含了非常多的与大模型相关的数据和结论，建议大家原文仔细阅读。里面包含了不同模型的显存占用、目前一些大模型评测基准的偏差等。本文将主要描述其QLoRA的核心思想和重要结论。
QLoRA方法提出的背景
随着大型语言模型（LLMs）在各种任务中展现出令人瞩目的表现，如何有效地微调这些模型以优化其性能已经成为了研究的重点。
尽管大模型的能力很强，但是对于特定领域的数据集来说，微调依然是不可避免的工作。主要原因有2个：
