Ternary Bonsai 2 27B

模型定位与发布

Ternary Bonsai 2 27B（亦称 Bonsai 2 27B）由 PrismML 于 2026 年 9 月 17 日发布，基于 Qwen3.8-27B，面向本地和端侧推理。官方披露总参数约 27.36B，包含语言骨干、嵌入与输出层以及视觉塔，并非 MoE 模型。

三值表示与部署规格

模型保留混合注意力架构，约 75% 为线性注意力、25% 为全注意力，支持 262144 token 上下文（官方约称 262K）。语言权重采用 {-1, 0, +1} 三值表示、128 权重一组的 FP16 缩放与 Hadamard 旋转，官方计算的整体有效位宽约为 1.72 bit/weight。实际 GGUF PTQ1_0 语言权重为 5.95 GB，PQ2_0 为 7.21 GB；图像输入另需约 0.63 GB Q8_0 视觉投影包。MLX 封装包含语言权重和视觉塔，总计约 8.60 GB。这些是权重文件大小，不是完整运行内存需求。

推理、视觉与工具调用

支持文本生成、数学推理、编程、工具调用以及配合视觉组件的图像理解与 OCR。提供非思考模式和思考模式；默认 reasoning effort 为 xhigh，可用 medium 缩短回答，官方明确不支持 low 档。官方未明确披露语种数量、完整语种清单、最大输出长度或知识截止日期，故不填推测值。

官方评测与边界

官方以 EvalScope 和 vLLM 在 NVIDIA H100 上进行思考模式评测，14 项测试平均分为 84.78，FP16 基线为 86.32，二者比值约为 98.2%；该比值仅代表这组官方测试，不代表所有任务的能力保留率。单项包括 AIME 2025 95.00、AIME 2026 95.83、GSM8K 96.66、MATH-500 98.80、HumanEval+ 95.12、MBPP+ 83.07、LiveCodeBench 90.07、IFEval 91.31、BFCL v3 74.92、MMMU-Pro 75.49。具体基准版本和条件以模型卡为准，不能将带 + 的测试替换为基础版本。

下载与使用限制

模型以 Apache 2.0 许可发布。同一三值权重提供 GGUF 与 MLX 封装，不作为独立模型发布重复收录。GGUF 需要 PrismML 的 llama.cpp 分支，普通 llama.cpp 不支持这些三值格式；MLX 需要随模型提供的专用加载器以正确应用激活变换。未找到官方托管 API 定价，因此不将可下载权重误记为免费 API。

官方来源

• PrismML 发布公告，2026-09-17
• GGUF 模型卡、完整评测与部署说明
• MLX 模型卡
• 官方推理示例