声明:文档由AI根据原文生成。
![]()
2026年11月19日,AMD与Unsloth共同完成适配,让超过100款智能体AI应用及工作流,可在支持的AMD锐龙AI PC上调用本地NPU推理能力。AMD XDNA 2 NPU是首批获得Unsloth Desktop支持的神经网络处理器,其配套API可将兼容应用连接至运行在NPU上的适配模型。
AMD相关表述显示:依托Unsloth Desktop的支持,AMD正为开发者与用户拓展可部署运行智能体工作流的计算资源,让相关流程可在熟悉的应用中高效本地运行。
Unsloth覆盖模型开发与部署全流程,配套开源工具可加速微调、降低GPU内存占用,同时提供无需编写代码即可完成训练与推理的桌面应用。本次AMD NPU支持将其生态从CPU、GPU执行场景向外延伸,新增低功耗推理选项。
具体运行流程为:兼容应用向Unsloth Desktop API发送模型请求,由Lemonade和FastFlowLM在AMD XDNA 2 NPU上完成模型服务与推理,最终模型响应返回应用接入对应工作流,应用其余功能仍可按需调用PC的CPU与GPU资源。
Unsloth Desktop API提供兼容OpenAI的端点,本次适配覆盖的工具包括Hermes Agent、OpenClaw、Open WebUI、Cline、LangChain和GitHub Copilot等。
全天运行的AI助手与智能体需要在日常PC任务并行的状态下完成高效推理,本次合作为用户提供了GPU执行之外的替代选项,可让AMD XDNA 2 NPU承担持续低功耗推理任务,将CPU与GPU资源留给其他应用。
智能体可跨关联工具执行多步任务,本地NPU推理能力可让兼容智能体在处理多步任务时获得更省电的运行路径,减少用户手动调整资源分配的操作,让用户将更多时间放在结果核验环节。
用户可前往《AMD x Unsloth: Unlocking the World's First NPU for Unsloth Desktop》页面,了解AMD与Unsloth的合作详情,以及在搭载AMD XDNA 2 NPU的PC上安装Unsloth Desktop的操作步骤。