大模型的发展速度很快，对于需要学习部署使用大模型的人来说，显卡是一个必不可少的资源。使用公有云租用显卡对于初学者和技术验证来说成本很划算。DataLearnerAI在此推荐一个国内的合法的按分钟计费的4090显卡公有云服务提供商仙宫云，可以按分钟租用24GB显存的4090显卡公有云实例，非常具有吸引力~
今日推荐
需要多少GPU显存才能运行预训练大语言模型？大语言模型参数规模与显存大小的关系估算方法~
如何估计大模型推理或者训练所需要的显存大小？HuggingFace官方工具Model Memory Calculator，一键计算大模型显存需求~
如何基于PyTorch来优化大模型训练的内存（显存）使用：8种方法总结
超越Cross-Entropy Loss（交叉熵损失）的新损失函数——PolyLoss简介
“GPT”的模型太多无法选择？让大模型帮你选择大模型！浙江大学发布HuggingGPT！
SlimPajama：CerebrasAI开源最新可商用的高质量大语言模型训练数据集，含6270亿个tokens！
重磅！Meta发布LLaMA2，最高700亿参数，在2万亿tokens上训练，各项得分远超第一代LLaMA~完全免费可商用！
提炼BERT——将BERT转成小模型（Distilling BERT — How to achieve BERT performance using Logistic Regression）
2023年4月25日的AI技术新进展快报：Chatbot Arena、Track Anything、600+AI工具、RedPajama 7B进展、科大讯飞大模型内测等