大模型的发展速度很快,对于需要学习部署使用大模型的人来说,显卡是一个必不可少的资源。使用公有云租用显卡对于初学者和技术验证来说成本很划算。DataLearnerAI在此推荐一个国内的合法的按分钟计费的4090显卡公有云服务提供商仙宫云,可以按分钟租用24GB显存的4090显卡公有云实例,非常具有吸引力~
12倍推理速度提升!Meta AI开源全新的AI推理引擎AITemplate
MistralAI发布了Mixtral 8×7B MoE模型的论文,更详细的参数和对比结果~
Linux环境下使用NLPIR(ICTCLAS)中文分词详解
谷歌官方高性能大规模高维数据处理库TensorStore发布!
Anthropic发布新一代Claude 3.5模型:全新的Haiku 3.5和升级版Sonnet 3.5
康奈尔大学发布可以在一张消费级显卡上微调650亿参数规模大模型的框架:LLMTune
腾讯发布全新推理大模型Hunyuan-T1:mamba与transformer结合的新架构,与业界模型对比评测结果不错,但是不开源