大模型对显卡资源的消耗是很大的。但是，具体每个模型消耗多少显存，需要多少资源大模型才能比较好的运行是很多人关心的问题。此前，DataLearner曾经从理论上给出了大模型显存需求的估算逻辑，详细说明了大模型在预训练阶段、微调阶段和推理阶段所需的显存资源估计，而HuggingFace的官方库Accelerate直接推出了一个在线大模型显存消耗资源估算工具Model Memory Calculator，直接可以估算在HuggingFace上托管的模型的显存需求。
今日推荐
重磅！第二代ChatGLM发布！清华大学THUDM发布ChatGLM2-6B：更快更准，更低成本更长输入！
Author Topic Model[ATM理解及公式推导]
GPT4All：一个可以直接在本地运行各大商业友好的开源大模型解决方案
斯坦福（Stanford）最新公开了全球第一个Transformers相关的课程！
OpenAI开放自定义用户指令，让ChatGPT永久记住这些自定义系统prompt：你的ChatGPT按照你的偏好变成一个专属助理了~
Transformer蓝图：Transformer 神经网络架构的综合指南——万字长文、20多个图片介绍大语言模型主流架构Transformer的发展历史、现状和未来结果