2023年4月中旬值得关注的几个AI模型：Dollly2、MiniGPT-4、LLaVA、DINOv2

AI模型的发展速度令人惊讶，几乎每天都会有新的模型发布。而2023年4月中旬也有很多新的模型发布，我们挑出几个重点给大家介绍一下。

Dolly-v2

Dolly是EleutherAI开源的一系列大语言模型，EleutherAI认为大语言模型应该被所有人共享，并为大多数人提供服务，因此他们开启了大语言模型开源计划。Dolly系列就是他们开源的成果。Dolly 1.0在2023年3月24日发布，而过了还不到一个月时间，Dolly 2.0就发布了。

Dolly 2.0是一个基于Pythia微调的语言模型，Pythia是EleutherAI开源的语言模型，共8个版本，最大的参数120亿（Pythia模型卡信息：https://www.datalearner.com/ai-models/pretrained-models/Pythia ）。而Dolly 2.0就是在120亿参数版本上微调得到的。

需要注意的是，Dolly 2.0专门在一个新的高质量人类生成的指令跟踪数据集上进行微调（即databricks-dolly-15k，它包含了15,000个高质量的人类生成的提示/响应对，专门用于调整大型语言模型的指令。），这些数据集是由Databricks员工众包生成的。因此，它在理解人类意图上表现很好。

Dolly 1.0是基于斯坦福Alpaca进行微调的，训练成本为30美元。但是因为Alpaca禁止商业使用，所有Dolly2.0改成了Pythia基础上进行微调，而pythia允许商业使用。

我们认为Dolly 2.0最大的贡献是允许商业使用！它的代码到模型到数据集均开源！