大模型的发展速度很快,对于需要学习部署使用大模型的人来说,显卡是一个必不可少的资源。使用公有云租用显卡对于初学者和技术验证来说成本很划算。DataLearnerAI在此推荐一个国内的合法的按分钟计费的4090显卡公有云服务提供商仙宫云,可以按分钟租用24GB显存的4090显卡公有云实例,非常具有吸引力~
腾讯开源Hunyuan-A13B大模型:MoE架构,混合推理(支持直接回复和带推理过程后回复),原WizardLM团队打造,评测结果超Qwen2.5-72B,接近Qwen3-A22B,但参数量只有一半
如何让大模型提取更有信息密度的文本摘要?SalesforceAI最新的密度链提示方法Chain of Density Prompting
让大模型支持更长的上下文的方法哪个更好?训练支持更长上下文的模型还是基于检索增强?
《Effective Java 第三版》笔记之二 当构造参数很多的时候考虑使用builder
6张示意图解释6种语言模型(Language Transformer)使用方式
如何对向量大模型(embedding models)进行微调?几行代码实现相关原理