GMAsia
    🇭🇰香港·AI 新闻·2026年10月7日·来源: The Standard 英文虎報

    Jev 快 200 倍、便宜 400 倍,但有一个问题 | 零样本推理 | Allen Au

    由前 OpenAI 研究员 Diogo Almeida 创立的初创公司 TypeSafe AI,已为其 AI 决策引擎 Jev 获得约 4,000 万美元(3.12 亿港元)的种子资金。该公司声称 Jev 的运行速度比传统大型语言模型快 200 倍,成本便宜 400 倍,它直接返回选项、分数或概率,而不是逐个生成文本标记。

    Nexa 摘要

    Jev 的架构旨在解决 AI 使用中的一个特定低效率问题:大型语言模型为简单决策生成标记既昂贵又耗时。Jev 旨在提供即时结论,例如识别用户情绪或分类输入,而不是通过思维链处理“分步思考”,这对于高流量、低复杂度的任务可能很有价值。

    然而,这种专业化方法固有地限制了 Jev 与 Claude 或 GPT 等前沿模型相比的能力。文章认为,消耗标记的分步推理对于 AI 模型的细致判断和深度至关重要。通过绕过这个过程,Jev 牺牲了使更高级 AI 系统能够进行复杂决策的机制。

    此外,快速且廉价的 AI 调用市场已经有 OpenAI 和 Gemini 的 Flash 和 Mini 模型等产品。虽然 Jev 声称通过单次传递对选项进行评分而无需为输出流付费具有独特优势,但这种差异仅在涉及极高流量的微小决策且每一秒都至关重要的场景中才显著。这表明 Jev 可能会作为更强大推理模型的初步筛选器,而不是复杂判断任务的直接竞争者。

    分享这篇文章

    深入了解
    原文报道: The Standard 英文虎報我们不转载全文, 阅读原文 →

    相关文章

    6 则