跳到正文
IT之家·人工智能·· 3 小时前AI 评分47

AMD XDNA 2 NPU 率先适配 Unsloth Desktop,支持超百款智能体本地运行

AMD XDNA2 NPU 率先获得 Unsloth Desktop 适配,支持超百款智能体

AI 导读

AMD 锐龙 AI 处理器上的 XDNA 2 NPU 成为首款获得 Unsloth Desktop 本地界面支持的神经网络处理器,OpenClaw、Hermes 等超百款智能体可通过该界面在 NPU 上本地运行。

正文

IT之家 11 月 20 日消息,AMD 当地时间 19 日宣布,其锐龙 AI 处理器上的 "XDNA 2" NPU 成为首款获得 Unsloth Desktop 本地界面支持的神经网络处理器。

具体来看,兼容的应用程序向 Unsloth Desktop API 发送模型请求,而 Lemonade 和 FastFlowLM 则在 AMD XDNA 2 NPU 上处理模型服务和推理。模型的响应返回给应用程序,供其工作流程使用。

这意味着 OpenClaw、Hermes 等超百款智能体可通过 Unsloth Desktop 在锐龙 AI 处理器的 NPU 上本地运行,从 CPU 和 GPU 上卸载相关 AI 工作负载,留出更多算力以供其它任务使用,也有助于延长带电池设备的续航。

来源:IT之家·人工智能 · ithome.com

所属事件

查看事件全部
Unsloth 与 AMD 合作,NPU 支持本地推理