DeepSeek 開源其 API 背後的推理引擎。華為與 Nvidia 平起平坐。

DeepSeek 決定開源其推理引擎，使其用於在生產環境中提供模型服務的技術可供更廣泛的受眾使用。這可以降低其他開發人員和公司部署大型語言模型的門檻，因為他們現在可以利用 DeepSeek 經過驗證的基礎設施，而無需從頭開始開發自己的。

此次發布的一個顯著特點是明確支援華為的 Ascend 硬體。通過將 Ascend 與 Nvidia 的 GPU 並列，DeepSeek 正在認可並可能擴大 AI 推理可行的硬體選項。這在 Nvidia 硬體訪問可能受限或對晶片供應商多元化有戰略利益的地區可能尤其相關。

開源這樣一個核心組件可以促進 AI 社區內更大的協作和創新。當底層推理技術透明且可訪問時，開發人員可以檢查、修改和改進它，可能導致更高效或專業化的部署。這也實際展示了主要的 AI 參與者如何處理其生產級推理需求。