微软发布大语言模型与传统编程语言的集成编程框架——Python版本的Semantic Kernel今日发布

随着ChatGPT的火爆，Prompt-tuning已经成为当前大语言模型（Large Lanugage Model，LLM）时代最流行的生产技术，使得很多人一夜之间似乎有了编程的能力，甚至可以让没有编程经验的人一天之内开发出一个完整的chrome插件。\n\n但是目前的LLM有很多限制，有很多问题并不能很好的解决，例如文本输入长度有限、无法记住很早之前的信息等。而这些问题目前也都缺少合适的解决方案。它们所依赖的技术：如任务规划、提示模板、向量化内存等需要的是编程的智慧。Semantic Kernel就是微软在这个背景下推出的一个结合LLM与传统编程技术的编程框架。\n\n本文将介绍这个最新的LLM领域的编程框架！

什么是Semantic Kernel?

Semantic Kernel (SK) 是一个轻量级的SDK，允许将传统编程语言（如C#和Python）与最新的大型语言模型（LLM）AI提示相结合，具有提示模板、链接和规划功能。\n\n简单来说，这个框架提供了一种解决方案，可以在编程中更加有效地利用大语言模型来解决复杂的问题。如下图所示，这是SK利用大模型解决问题的一种流程抽象：

n

在微软看来，利用LLM解决问题主要是学会向LLM提问，因此，解决问题的流程也是从提问开始。但是，一个问题能否被LLM很好的回答也是依赖很多方面的，例如提问的技巧，问题是否可以被分解成多个确定的步骤等。而这些目前仅仅依赖prompt-tuning依然是一个很复杂的人工操作。但是解决用户的目标可以变成如下几个步骤的抽象：