微軟將 DeepSeek 整合到 PC Copilot+ 平台

今年 1 月，微軟宣布計劃將針對 NPU 優化的 DeepSeek-R1 模型版本直接引入運行 Qualcomm Snapdragon X 處理器的 Copilot+ 電腦。到二月份，DeepSeek-R1-Distill-Qwen-1.5B 首次在 AIToolkit for VSCode 中發布。

今天，雷德蒙公司正式宣布透過 Azure AI Foundry 為 Copilot+ 運算平台提供其改良的 DeepSeek R1 7B 和 14B 型號。能夠直接在 Copilot+ 設備上運行 7B 和 14B 模型將使開發人員能夠建立以前不可能實現的更強大的 AI 應用程式。

由於這些模型在 NPU 上運行，用戶可以期待穩定的 AI 性能，而對電池壽命和電腦的熱性能幾乎沒有影響。此外，CPU 和 GPU 將被釋放來執行系統上其他更重要的任務。

微軟強調，他們使用內部自動量化工具 Aqua 將 DeepSeek 模型的所有變體量化為 int4。但模型的token處理速度比較慢。微軟報告稱，14B 模型每秒僅產生 8 個令牌，而 1.5B 模型每秒產生近 40 個令牌。微軟表示，它正在繼續優化以提高速度。隨著微軟不斷提升效能，這些型號對 Copilot+ 電腦的影響預計將大幅增加。

有興趣的開發者可以透過 VS Code 的 AI Toolkit 擴展在 Copilot+ 電腦上下載並運行 DeepSeek 模型的 1.5B、7B 和 14B 變體。 DeepSeek 模型以 ONNX QDQ 格式進行最佳化，可直接從 Azure AI Foundry 下載。這些型號也將出現在運行 Intel Core Ultra 200V 和 AMD Ryzen 處理器的未來 Copilot+ 電腦上。

很多人認為微軟與 DeepSeek 合作是在冒險。如果技術竊盜指控被證明屬實，那麼將 DeepSeek 整合到 Windows 生態系統可能會給微軟帶來麻煩。不過，不可否認的是，DeepSeek 在 AI 市場上邁出了一大步。微軟的舉措標誌著其將推動更強大的設備人工智慧功能，為人工智慧應用開闢新的前景。