© 2026 武汉见山行科技有限公司 版权所有
注意:以下所有模型文件及,须在客户端中下载,如果没有客户端,前往下载 >>>
Gemma 是来自 Google 的一系列轻量级、最先进的开放模型,基于与创建 Gemini 模型相同的研究和技术构建。Gemma 3 模型是多模态的,可以处理文本和图像输入,并生成文本输出,对于预训练变体和指令调优变体都提供了开放权重。
| 名称 | 大小 | 本地存放目录 |
|---|---|---|
| gemma-3-12b-it-qat-UD-IQ1_S.gguf | 3.06 GB | text_encoders |
| gemma-3-12b-it-qat-UD-IQ1_M.gguf | 3.25 GB | text_encoders |
| gemma-3-12b-it-qat-UD-IQ2_XXS.gguf | 3.60 GB | text_encoders |
| gemma-3-12b-it-qat-UD-IQ2_M.gguf | 4.37 GB | text_encoders |
| gemma-3-12b-it-qat-Q2_K.gguf | 4.77 GB | text_encoders |
| gemma-3-12b-it-qat-Q2_K_L.gguf | 4.77 GB | text_encoders |
| gemma-3-12b-it-qat-UD-IQ3_XXS.gguf | 4.83 GB | text_encoders |
| gemma-3-12b-it-qat-UD-Q2_K_XL.gguf | 4.86 GB | text_encoders |
| gemma-3-12b-it-qat-Q3_K_S.gguf | 5.46 GB | text_encoders |
| gemma-3-12b-it-qat-Q3_K_M.gguf | 6.01 GB | text_encoders |
| gemma-3-12b-it-qat-UD-Q3_K_XL.gguf | 6.14 GB | text_encoders |
| gemma-3-12b-it-qat-IQ4_XS.gguf | 6.55 GB | text_encoders |
| gemma-3-12b-it-qat-IQ4_NL.gguf | 6.89 GB | text_encoders |
| gemma-3-12b-it-qat-Q4_0.gguf | 6.91 GB | text_encoders |
| gemma-3-12b-it-qat-Q4_K_S.gguf | 6.94 GB | text_encoders |
| gemma-3-12b-it-qat-Q4_K_M.gguf | 7.30 GB | text_encoders |
| gemma-3-12b-it-qat-UD-Q4_K_XL.gguf | 7.43 GB | text_encoders |
| gemma-3-12b-it-qat-Q4_1.gguf | 7.56 GB | text_encoders |
| gemma-3-12b-it-qat-Q5_K_S.gguf | 8.23 GB | text_encoders |
| gemma-3-12b-it-qat-Q5_K_M.gguf | 8.45 GB | text_encoders |
| gemma-3-12b-it-qat-UD-Q5_K_XL.gguf | 8.46 GB | text_encoders |
| gemma-3-12b-it-qat-Q6_K.gguf | 9.66 GB | text_encoders |
| gemma-3-12b-it-qat-UD-Q6_K_XL.gguf | 10.56 GB | text_encoders |
| gemma-3-12b-it-qat-Q8_0.gguf | 12.51 GB | text_encoders |
| gemma-3-12b-it-qat-UD-Q8_K_XL.gguf | 14.39 GB | text_encoders |
| gemma-3-12b-it-qat-BF16.gguf | 23.54 GB | text_encoders |