DrizzVision 的 AI 应用测试雄心遭遇现实
总部位于班加罗尔的 DrizzVision 正在开发一款名为 Fathom 的 AI 代理,旨在通过视觉解释屏幕并响应自然语言来测试移动应用程序,目标是使自动化测试更能应对界面变化。然而,该公司的基准数据显示,其 AI 的测试通过率显著下降,从标准环境下的 72.3% 降至更复杂设置下的 28.7%。

传统的移动应用测试在用户界面重新设计或元素重命名时常常会失效,迫使开发人员花费时间修复测试脚本。DrizzVision 的 Fathom 旨在通过使用视觉 AI 模型来解决这个问题,让系统能够解释屏幕上的内容,即使元素发生变化或出现意外弹窗也能继续测试。这种方法旨在减少自动化测试的脆弱性,该公司报告称内部基准测试中的“测试不稳定性”有所下降。
然而,DrizzVision 自己的基准测试突显了在不同条件下实现一致 AI 性能的挑战。虽然 AI 代理在使用标准 Android 镜像的“较简单套件”中达到了 72.3% 的通过率,但在涉及已 Root 的 Android 镜像、更复杂任务和数据库检查的“较困难套件”中,其性能急剧下降至 28.7%。这种大幅下降突显了让 AI 可靠地导航真实世界应用程序的难度。
基准测试还揭示了所测试的 AI 模型之间存在相当大的差异。例如,GPT 5.6 Luna 的通过率从较简单套件中的 64% 下降到较困难套件中的仅 4%。相反,Gemini 3.5 Flash 在较简单套件中获得 54%,但在较困难套件中达到了 34%,超越了所有在那里测试的 GPT 配置。这种差异表明,底层 AI 模型的选择显著影响性能,尤其是在测试场景变得更具挑战性时。
分享这篇文章
相关文章
6 则
报告:中国人形机器人面临商业现实考验
We previously explored the commercial realities facing advanced AI applications, a challenge DrizzVision now encounters.

巴基斯坦数字繁荣使儿童面临日益严重的网络剥削

OPPO Reno 17 系列发布确认,Pad Air 6 和 Watch 5 将同步推出

Google Gemini 个人化 AI 虚拟形象:它们是什么以及如何创建

Towards Buddha Co., Ltd. 与 ICP DAS 在芝加哥 APTA 2026 展出 iTLC 智能交通控制解决方案

