英特尔和微软开始讨论在 PC 本地运行软件巨人的 AI 聊天机器人 Copilot。现阶段 Copilot 依赖于云端处理请求,本地运行不仅能更快响应,而且有助于保护用户隐私。目前配备神经网络处理器(NPU)的 Windows PC 还比较少,现有的 Windows 系统也很少用到 NPU。苹果和 Google 设备配备的 NPU 主要用于处理图像和音频功能,如面部识别和物体识别、OCR、实时转录和翻译等。英特尔表示,未来 AI PC 所配备的 NPU 处理速度需要达到 40 TOPS(万亿次运算)。英特尔 Meteor Lake 笔记本芯片使用的 NPU 速度为 10 TOPS,AMD Ryzen 7040 和 8040 笔电芯片的 NPU 速度分别达到 10 TOPS 和 16 TOPS。高通 Snapdragon X 芯片的 NPU 能达到 45 TOPS,可能是目前唯一满足 AI PC 规格的芯片。
https://arstechnica.com/gadgets/2024/03/intel-microsoft-discuss-plans-to-run-copilot-locally-on-pcs-instead-of-in-the-cloud/