Toolformer：MetaAI发布的基于语言模型来确定使用哪种搜索引擎解决问题

大型语言模型在各种自然语言处理任务上取得了令人印象深刻的效果，并显示了一些新兴的能力。然而，所有这些模型都有几个固有的局限性，最多只能通过进一步扩展来部分解决。这些局限性包括无法获得最近事件的最新信息和相关的幻觉事实的倾向，难以理解低资源语言，缺乏进行精确计算的数学技能和不知道时间的进展。

克服当今语言模型的这些限制的一个简单方法是让它们有能力使用外部工具，如搜索引擎、计算器或日历。然而，现有的方法要么依赖于大量的人类注释，要么将工具的使用限制在特定的任务设置中，阻碍了在LM中更广泛地采用工具使用。因此，我们提出了Toolformer，一个能够以新颖的方式学习使用工具的模型，它满足了以下要求：

• 工具的使用应该以自我监督的方式学习，而不需要大量的人类注释。这一点很重要，不仅是因为与这种注释相关的成本，而且还因为人类认为有用的东西可能与模型认为有用的东西不同。
• LM不应该失去任何的通用性，应该能够自己决定何时以及如何使用哪种工具。与现有的方法相比，这使得对工具的使用更加全面，不受特定任务的束缚。

我们实现这些目标的方法是基于最近的想法，即使用大型LM与incontext学习（Brown等人，2020）来从头生成整个数据集（Schick和Schütze，2021b；Honovich等人，2022；王等人，2022）。鉴于只有少数几个人写的关于如何使用API的例子，我们让一个LM用潜在的API调用来注释一个巨大的语言建模数据集。然后，我们使用自我监督的损失来确定这些API调用中哪些确实有助于模型预测未来的标记。最后，我们在它认为有用的API调用上对LM本身进行微调。如图1所示，通过这种简单的方法，LM可以学会控制各种工具，并为自己选择何时使用哪种工具以及如何使用。

由于我们的方法与所使用的数据集无关，我们可以将其应用于首先用于预训练模型的完全相同的数据集。这确保了该模型不会失去任何通用性和语言建模能力。我们在各种不同的下游任务上进行了实验，证明在学习使用工具后，基于预训练的GPT-J模型（Wang和Komatsuzaki，2021）的Toolformer取得了更强的零点结果，明显超过了更大的GPT-3模型（Brown等人，2020）和其他几个基线在各种任务上的表现。