大语言模型的开发者运维LLMOps来临,比MLOps概念还要新:吴恩达联合Google云研发人员推出免费的LLMOps课程
开发者运维(DevOps)是一种软件开发方法论,强调开发者除了开发工作以外也要参与到软件的部署和运维管理中,通过自动化和持续改进来提高质量和效率。随着机器学习的流行,MLOps开始出现。MLOps的主要目标是创建一个更有效、可重复和可靠的机器学习工作流程。现在,随着大语言模型的流行,LLMOps概念也随之提出。即如何高效地开发大模型应用,包括自动化管理升级如prompt、模型评估等。为此,吴恩达联合Google的研发人员推出了最新的大模型短课LLMOps,帮助大家学习大语言模型开发过程中的自动化测试、自动化Prompt管理等一系列实践,提高大模型应用开发的效率和质量。

LLMOps概念简介
LLMOps是一个非常新的概念,它属于开发者运维的一种。但是更加强调大语言模型的开发运维。在实际的大语言模型开发中,我们通常需要经历几个步骤,包括数据预处理、prompt处理、大模型选型、大模型评估、大模型应用上线、大模型更换等。而这些开发工作中,我们并不希望每次做一个case或者更新一个模型就要手工重新开始走一遍,而希望尽可能的自动化完成整个过程。
LLMOps与设计一个LLM应用的差异
这里需要理解的是设计一个大模型应用与做LLMOps之间是有差别的,前者的目标是为了完成基于大模型的应用设计,而后者则强调使用什么样的开发方法和流程确保更加高效高质量地完成前者的实现将结果。



