跳到文章正文
应用 编辑推荐

AMD 把智能体塞进 NPU:XDNA 2 首个支持 Unsloth Desktop,百款 Agent 可本地跑

过去一年,本地跑大模型的讨论几乎都围着显卡转:显存多大、带宽多少、能不能塞下量化后的权重。但真正…

过去一年,本地跑大模型的讨论几乎都围着显卡转:显存多大、带宽多少、能不能塞下量化后的权重。但真正让普通笔记本用户受益的,可能不是那块独显,而是主板上那颗一直被忽视的 NPU。

AMD 把智能体塞进 NPU:XDNA 2 首个支持 Unsloth Desktop,百款 Agent 可本地跑
AMD · 端侧 AI

一分钟速览

  • AMD 宣布锐龙 AI 处理器上的 XDNA 2 NPU 成为首款获得 Unsloth Desktop 本地界面支持的 NPU
  • 兼容应用向 Unsloth Desktop API 发送请求,由 Lemonade 与 FastFlowLM 在 NPU 上完成模型服务与推理
  • 包括 OpenClaw、Hermes 在内的百余款智能体可通过该路径在 NPU 上本地运行
  • AI 负载从 CPU、GPU 卸载,释放算力给其他任务,并有助于延长电池续航
  • 发布时间为当地时间 11 月 19 日,AMD 称这是 NPU 首次被主流本地推理界面正式接纳

这条链路是怎么跑通的

从技术路径看,这次适配并不是「NPU 直接跑大模型」这么简单,而是一条分工明确的链路:兼容的应用程序把模型请求发给 Unsloth Desktop API;Lemonade 和 FastFlowLM 负责在 AMD XDNA 2 NPU 上完成模型服务与推理;推理结果再返回给应用,供其工作流使用。

换句话说,Unsloth Desktop 扮演的是「统一入口」,Lemonade 和 FastFlowLM 扮演的是「NPU 上的推理引擎」。对开发者来说,这意味着不需要为 NPU 单独写一套代码,只要按 Unsloth Desktop 的接口调用,就能吃到 NPU 的算力。

为什么 NPU 值得被认真对待

NPU 的优势从来不是峰值性能,而是能效比。同样一次矩阵运算,NPU 的功耗可能只有 GPU 的几分之一。对笔记本来说,这个差别直接体现在两件事上:风扇转不转,电池撑多久。

把 AI 负载从 CPU 和 GPU 上卸载出去,还有一层隐性收益:GPU 空出来了。对游戏玩家和创作者来说,这意味着跑本地智能体的同时,游戏帧率和渲染速度不会被打断;对办公用户来说,后台的会议纪要、邮件摘要、文档检索可以一直开着,而不必担心机器变烫。

百款智能体意味着什么

官方提到,OpenClaw、Hermes 等超过一百款智能体可以通过 Unsloth Desktop 在锐龙 AI 处理器的 NPU 上本地运行。这个数字的意义不在于「多」,而在于「本地」。

智能体和聊天机器人不同,它需要反复调用工具、读写本地文件、维持长期记忆。如果每一步都要走云端,延迟和隐私都是问题。放到本地运行,响应更快,数据不出机器,也省下了 Token 成本。对那些需要 7×24 常驻的助手类应用来说,NPU 的低功耗特性尤其关键。

端侧 AI 的竞争,正在换赛道

过去两年,端侧 AI 的叙事主要由三家公司主导:苹果的 Neural Engine、高通的 Hexagon、以及各家手机厂的影像 NPU。它们的共同点是封闭——能力通过系统 API 暴露,开发者只能用被允许的那部分。

AMD 这次走的路线不太一样:开放接口,让第三方推理框架接进来。对一个以 PC 为主的平台来说,这更符合它的生态基因。开发者可以用自己熟悉的工具链,而不必被锁死在某一个 SDK 里。

当然,现实也没那么美好。NPU 的算力终究有限,能跑的多是小参数模型或量化版本;不同模型对算子支持的要求也不一样,兼容性仍然是一道坎。这次适配更像是一个开始,而不是终点。

趋势洞察

2026 年的端侧 AI,正在从「能不能跑」进入「跑得划不划算」的阶段。云端模型越来越强,价格却在上涨;本地模型能力有限,但边际成本几乎为零。两者的分工正在变得清晰:复杂任务上云,高频轻量任务留在本地。

NPU 被主流推理界面接纳,是这个分工成立的必要条件。当开发者不再需要为每一种硬件写一套适配,端侧 AI 的应用才会真正多起来。AMD 这一步不算大,但方向是对的。

本文地址:https://www.163264.com/22147