三值版本每个权重的有效位宽为 1.71 bit,目标是在约 5.9 GB 下实现笔记本级质量;1 比特版本每个权重的有效位宽为 1.125 bit,约占 3.9 GB。两个版本都在语言网络中保持低比特表示,支持紧凑的 4-bit 视觉塔,提供 262K token 上下文,并支持 speculative decoding。
Bonsai 27B 适合私有本地助手、离线智能体工作流、云端与本地混合系统、设备端视觉用例以及对成本敏感的智能体循环。PrismML 报告称,其在数学、编码、工具调用、指令跟随、知识和视觉基准上都较好地保留了全精度基线性能,并在发布时提供 Apache 2.0 权重。

