微软发布大语言模型与传统编程语言的集成编程框架——Python版本的Semantic Kernel今日发布
随着ChatGPT的火爆,Prompt-tuning已经成为当前大语言模型(Large Lanugage Model,LLM)时代最流行的生产技术,使得很多人一夜之间似乎有了编程的能力,甚至可以让没有编程经验的人一天之内开发出一个完整的chrome插件。\n\n但是目前的LLM有很多限制,有很多问题并不能很好的解决,例如文本输入长度有限、无法记住很早之前的信息等。而这些问题目前也都缺少合适的解决方案。它们所依赖的技术:如任务规划、提示模板、向量化内存等需要的是编程的智慧。Semantic Kernel就是微软在这个背景下推出的一个结合LLM与传统编程技术的编程框架。\n\n本文将介绍这个最新的LLM领域的编程框架!

什么是Semantic Kernel?
Semantic Kernel (SK) 是一个轻量级的SDK,允许将传统编程语言(如C#和Python)与最新的大型语言模型(LLM)AI提示相结合,具有提示模板、链接和规划功能。\n\n简单来说,这个框架提供了一种解决方案,可以在编程中更加有效地利用大语言模型来解决复杂的问题。如下图所示,这是SK利用大模型解决问题的一种流程抽象:

在微软看来,利用LLM解决问题主要是学会向LLM提问,因此,解决问题的流程也是从提问开始。但是,一个问题能否被LLM很好的回答也是依赖很多方面的,例如提问的技巧,问题是否可以被分解成多个确定的步骤等。而这些目前仅仅依赖prompt-tuning依然是一个很复杂的人工操作。但是解决用户的目标可以变成如下几个步骤的抽象:
