Ternary Bonsai 2 系列模型发布：最小只要 0.43GB，手机本地就能跑 AI 智能体

AI 公司 PrismML 推出了 Ternary Bonsai 2 系列模型，一共 2B、4B、9B 三个尺寸，目标是让手机、电脑和可穿戴设备在本地跑起 AI 智能体，用来做推理、看图、调用工具等事情。

这批模型基于阿里的 Qwen 3.5 底座搭建，参数用了“三元”表示法，也就是只用 -1、0、+1 三个数值来编码。好处是体积很小：2B、4B、9B 三个版本的存储占用分别约为 0.43GB、0.95GB 和 2GB。

能力上主打本地实用：能听懂指令、处理日常任务、在手机上调用工具、避免反复输出。官方在 19 项基准里测了六类能力，其中 9B 版在标准指令和日常数学任务上，消耗的词元数量大约少了 40%。

速度是这批模型的重点。在 RTX 4090 和 M5 Pro 等硬件上，新模型最高能跑出全精度模型 5 倍的吞吐量和 3 倍能效；在 iPhone 18 Pro Max 上，9B 版最高每秒 34 个词元，2B 版最高每秒 120 个词元。

这批模型可以和现有的 Bonsai 2 27B 搭配，覆盖从轻量任务到复杂工作流的场景。开发者可以用 llama.cpp 在英伟达显卡上运行，也能用 MLX 部署到 Mac、iPhone 和 iPad，模型权重以 Apache 2.0 协议开放。