Google开源第三代Gemma-3系列模型：支持多模态、最多128K输入，其中Gemma 3-27B在大模型匿名竞技场得分超过了Qwen2.5-Max
1,648 views
加载中...
加载中...
Follow DataLearner WeChat for the latest AI updates
Gemma系列大模型是Google开源的一系列轻量级的大模型。就在刚才（2025年3月12日），Google开源了第三代Gemma系列大模型，共包含4个不同参数规模版本，第三代的Gemma 3系列是多模态大模型，即使是最小的10亿参数规模的Gemma 3-1B也支持多模态输入。
Gemma系列大模型与Google的Gemini系列模型技术同源，但是以免费商用授权的方式开源。最早于2024年2月份开源，当时只有20亿参数规模的Gemma 2B模型和70亿参数规模的Gemma 7B模型，且上下文长度也就8K。2024年5月，Google开源了Gemma2系列，版本的范围也增加到3个，分别是2B、9B和27B规模。
其中，Gemma 3 - 27B版本模型在14万亿数据集上训练，Gemma 3-12B在12万亿数据集上训练，剩下2个版本分别是4万亿数据和2万亿数据训练。
Gemma 3的词汇表达到了262K，可以说表征能力非常强大。
10个月后的今天，Google开源了第三代Gemma 3系列大模型，版本范围增加到了4个，分别是1B、4B、12B和27B，并且从纯粹的大语言模型升级到了多模态大模型，即支持图片和视频的输入。
此次，Gemma 3的升级很大，总结如下：
Gemma 3系列模型包含4个版本，每个版本均开源了预训练基座版本（pt后缀版本，表示pre-training）和指令微调后的版本（it后缀版本，表示instruction fine-tuned），也就是说共开源了8个版本的大模型。
而最大参数规模的Gemma 3-27B IT的fp16精度大小为54.8GB，int8量化后27GB，两张4090可用，INT4量化后需要14GB显存，单张4090完全没问题。
而这个版本的模型评测结果非常好，在大模型匿名竞技场（Chatbot Arena）上得分1338分（截止2025年3月8日），排名全球第9，仅次于o1-2024-12-17模型，超过了Qwen2.5-Max以及DeepSeek V3等。
而在常规的其它评测上表现也很不错，评测结果超越了Qwen2.5-72B，与DeepSeek V3等也非常接近。
按照Google官方的说法，本次Gemma 3系列提升很明显，其中Gemma 3-4B版本模型水平接近Gemma 2-27B，而Gemma 3-27B则接近Gemini 1.5-Pro！
一个小案例实测Gemma 3幻觉有点严重，不确定是不是过于遵从指令了😅 问Gemma 3 27B，llama 4什么时候发布的，它说截止2024年11月21日，Meta没有发布过llama4，此时很不错。但是回复说不对，2024年10月份发布了，检查一下，Gemma 3-27B回复说我是对的😅😅😅😅
并且还胡诌了一个Llama4的网址！
类似的问题DeepSeek V3表现好很多，不知道就是不知道。
Gemma 3系列的8个模型以Gemma开源协议开源。允许商用，免费授权。
而生态适配上也早都完成，Huggingface、Ollama、Vertex、llama.cpp都已经支持。
关于Gemma 3系列模型的更多信息和官网介绍，参考DataLearnerAI的Gemma3系列的模型信息卡：
Gemma3-27B：https://www.datalearner.com/ai-models/pretrained-models/gemma-3-27b-it Gemma3-12B：https://www.datalearner.com/ai-models/pretrained-models/gemma-3-12b-it Gemma3-4B：https://www.datalearner.com/ai-models/pretrained-models/gemma-3-4b-it Gemma3-1B：https://www.datalearner.com/ai-models/pretrained-models/gemma-3-1b