Sarvam AI 推出適用於企業的高速決策模型 Prism

Sarvam Prism 建基於 Sarvam AI 的 105B 基礎模型，旨在自動化業務工作流程中快速、結構化的決策。該公司表示，它在 NVIDIA B200 GPU 上可在 44 毫秒內提供回應，適用於需要快速處理的實時應用程式。Sarvam AI 聲稱，這種速度，加上在三個基準測試中平均得分 71.8，使其成為其測試的 25 個在 100 毫秒內回應的決策模型中最快的一個。

對於企業而言，Sarvam AI 設計 Prism 旨在提供可靠的置信度估計，此功能旨在幫助企業自動化決策同時管理風險。在以至少 90% 置信度給出答案的測試中，該公司報告英語錯誤率為 2.2%，印度語言錯誤率為 4.4%。Sarvam AI 表示這些數字低於其在各種置信度閾值下的預測錯誤率。

此次發布的一個關鍵特點是根據 Apache 2.0 許可證發布 Prism 的權重。這允許企業根據自己的數據訓練模型並在自己的基礎設施上運行，從而提供對數據安全和自訂的控制。該模型也可透過 Sarvam 的 API 獲得，提供另一種部署方法。早期應用包括客戶支援路由、文件智能和安全檢查。