大模型的发展速度很快，对于需要学习部署使用大模型的人来说，显卡是一个必不可少的资源。使用公有云租用显卡对于初学者和技术验证来说成本很划算。DataLearnerAI在此推荐一个国内的合法的按分钟计费的4090显卡公有云服务提供商仙宫云，可以按分钟租用24GB显存的4090显卡公有云实例，非常具有吸引力~
今日推荐
12倍推理速度提升！Meta AI开源全新的AI推理引擎AITemplate
Artificial Analysis报告显示中国AI产业技术突破，已经与美国形成全球双极主导
大语言模型的开发者运维LLMOps来临，比MLOps概念还要新：吴恩达联合Google云研发人员推出免费的LLMOps课程
超越Cross-Entropy Loss（交叉熵损失）的新损失函数——PolyLoss简介
OpenAI的GPT模型API接口新增的top_logprobs和logprobs参数是什么？有什么用处？为什么说这个参数可以帮助我们减轻大模型幻觉问题
阿里巴巴的第二代通义千问可能即将发布：Qwen2相关信息已经提交HuggingFace官方的transformers库
CerebrasAI开源可以在iPhone上运行的30亿参数大模型：BTLM-3B-8K，免费可商用，支持最高8K上下文输入，仅需3GB显存