FLock.io 指出其基於 Qwen 的決策模型在特定任務上優於大型 LLM

FLock.io 推出 THIS / THAT Model，這說明了企業應用程式正轉向專業化 AI 模型。該模型不生成開放式文本，而是專注於具有預定義答案的任務，例如分類或是/否決策。這種方法旨在減少通常與大型通用語言模型相關的計算開銷和成本，尤其是在速度和效率至關重要的情況下。

該模型的設計強調本地部署，其 18.8 億個參數使其能夠在標準開發人員硬件和邊緣設備上運行。此功能支援設備上的數據處理，可以解決數據私隱問題並減少延遲。據報，本地推理延遲約為 31.4 毫秒，這與標準雲端 LLM 通常所需的數秒形成對比。

FLock.io 的開發過程利用在 Alibaba Cloud 上使用 Qwen Max 生成的合成訓練數據，突顯了在不增加模型大小的情況下優化模型的策略。這種方法借鑒了 GraphSynth 和 CircuitSynth 等研究，表明特定任務的性能改進可以來自於改進訓練數據，而不是擴展模型參數。與 Qwen 和 Alibaba Cloud 的合作展示了專業公司如何與主要雲端供應商整合以開發有針對性的 AI 解決方案。