大模型的发展速度很快，对于需要学习部署使用大模型的人来说，显卡是一个必不可少的资源。使用公有云租用显卡对于初学者和技术验证来说成本很划算。DataLearnerAI在此推荐一个国内的合法的按分钟计费的4090显卡公有云服务提供商仙宫云，可以按分钟租用24GB显存的4090显卡公有云实例，非常具有吸引力~
今日推荐
聊天大模型的输出速度应该是多少？单张显卡最多可以支持多少个人同时聊天？来自贾扬清最新的讨论
重磅！阿里巴巴开源自家首个MoE技术大模型：Qwen1.5-MoE-A2.7B，性能约等于70亿参数规模的大模型Mistral-7B
Claude Artifacts的复制？OpenAI发布ChatGPT协作新组件：Canvas，让你与ChatGPT共同处理写作与编程问题！
ChatGPT内置隐藏debug功能：支持下载原始对话、可视化对话分支等
为什么大语言模型的训练和推理要求比较高的精度，如FP32、FP16？浮点运算的精度概念详解
TensorRT-LLM：英伟达推出的专为提升大模型推理速度优化的全新框架
开源大语言模型再次大幅进步：微软团队开源的第二代WizardLM2系列在MT-Bench得分上超过一众闭源模型，得分仅次于GPT-4最新版