7B 及以下小尺寸大模型

7B 级别的大模型可在 16-24GB 显存的消费级 GPU 上以全精度或量化方式运行，也是端侧推理（笔记本、手机）的主要候选。代表模型包括 Llama 系列 7B、Qwen 7B、Mistral 7B 等。下方汇总该尺寸下的开源模型、性能与硬件需求。