Deepseek 發布免費語言模型 v3，可在常見硬體配置上運作良好

中國人工智慧新創公司 DeepSeek 剛正式發布其最新的大型語言模型 (LLM) DeepSeek-V3-0324。該款機型容量高達 641GB，在 AI Hugging Face平台上發布，並未透露太多信息，符合該公司迄今為止對新產品一貫採取的保密風格。

該模型的特別之處在於 MIT 許可證，允許免費用於商業目的。初步基準測試結果顯示，DeepSeek-V3-0324 能夠在主流硬體配置上運行，例如搭載 M3 Ultra 晶片的 Apple Mac Studio。人工智慧科學家 Awni Hannun 報告稱，使用這種配置可以實現每秒超過 20 個代幣的處理速度。這種在本地商用硬體上運行大型語言模型的能力與使用海量資料中心基礎設施支援高級 AI 模型的傳統方法形成了鮮明對比。

據DeepSeek透露，初步測試顯示，該版本與先前的版本相比有顯著的改進。該模型已經過內部利益相關者的嚴格測試，並表現出色，甚至超越了所有其他競爭模型，並在不需要深度思考的任務中擊敗了 Anthropic 的 Claude Sonnet 3.5。然而，與需要付費訂閱的 Sonnet 風格模型不同，DeepSeek-V3-0324 完全可以免費下載和使用。

從技術上講，DeepSeek-V3-0324 採用混合專家 (MoE) 架構。它因能夠在每個任務中選擇性地使用 6850 億個參數中的約 370 億個參數而脫穎而出，透過減少運算需求來提高效率，同時保持效能。該模型還應用了多頭潛在註意力（MLA）和多標記預測（MTP）技術，有助於提高情境記憶，並加快輸出速度。

使用者可以透過 Hugging Face、OpenRouter 的聊天介面和 API 以及 DeepSeek 的聊天平台（如果需要）存取 DeepSeek-V3-0324。推理服務提供者 Hyperbolic Labs 也提供對該模型的存取權限。

隨著DeepSeek-V3-0324的發布，該公司繼續在開發大型語言模型的競賽中確立自己的地位，同時為AI研發社群提供了強大且易於存取的選項。在商品硬體上運行的能力加上免費許可證必定會在不久的將來為該模型開闢許多實際應用機會。