FLock.io 称其基于 Qwen 的决策模型在特定任务上优于大型 LLM

FLock.io 推出 THIS / THAT Model，这说明了企业应用程序正转向专业化 AI 模型。该模型不生成开放式文本，而是专注于具有预定义答案的任务，例如分类或是/否决策。这种方法旨在减少通常与大型通用语言模型相关的计算开销和成本，尤其是在速度和效率至关重要的情境下。

该模型的設計强调本地部署，其 18.8 亿个参数使其能够在标准开发人员硬件和边缘设备上运行。此功能支持设备上的数据处理，可以解决数据隐私问题并减少延迟。据报，本地推理延迟约为 31.4 毫秒，这与标准云端 LLM 通常所需的数秒形成对比。

FLock.io 的开发过程利用在 Alibaba Cloud 上使用 Qwen Max 生成的合成训练数据，突显了在不增加模型大小的情况下优化模型的策略。这种方法借鉴了 GraphSynth 和 CircuitSynth 等研究，表明特定任务的性能改进可以来自于改进训练数据，而不是扩展模型参数。与 Qwen 和 Alibaba Cloud 的合作展示了专业公司如何与主要云服务提供商整合以开发有针对性的 AI 解决方案。