用于执行自主任务的原生计算机操作应用
摘要
Vantage 是一款开源 Windows 11 应用,可将输入的提示转化为自主执行的桌面操作。它利用 AI 模型,通过 UI 自动化读取实际的窗口文本,执行点击、输入和运行 PowerShell 等操作,而非依赖屏幕截图。它支持使用你自己的 API 密钥接入任何兼容 OpenAI 的服务提供商,并将所有数据存储在本地。目前,该项目仍处于早期阶段,正在征集失败案例的反馈。
我开发了 Vantage,这是一款开源的 Windows 11 应用。你只需在聊天框里输入任务,AI 模型就会在你的实际桌面上执行:它会查看屏幕、点击和输入,通过 Windows UI 自动化读取窗口内容,还能运行 PowerShell。在一次测试中,只用一条提示,它就完成了这些操作:在 Edge 中打开七篇维基百科文章,读取各篇信息框中的数值,用计算器的长度转换功能进行换算,在记事本中为每座山分别保存一个文件,从设置中读取系统信息,再写出一份排序后的汇总。使用 Gemini 3.8 Flash,整个过程共 80 步,耗时约 8 分钟。我着重让它读取信息,而不是猜测,因此它会读取窗口中的实际文本,而非依赖截图,也不会输入自己尚未读到的数字。它还会按照你指定的方式执行任务,所以“使用计算器”就意味着使用计算器,而且它不会动你已打开的浏览器标签页或剪贴板。你需要自备 API 密钥,可以使用任何兼容 OpenAI 接口且模型支持图像输入的服务商。所有内容都存储在本地,API 密钥则通过 Windows DPAPI 加密。它仅支持 Windows,目前仍处于早期阶段,执行时不会在每一步之前征求确认,而且效果在很大程度上取决于所用模型,所以我很想听听它在哪些任务上会失败。演示、源码和安装程序的链接都在评论区。
相似文章
开源计算机使用代理
Vantage 是一款开源 Windows 应用程序,利用大语言模型通过自然语言自动化桌面任务,使用户能够用简单的英语指令操作任何桌面应用程序。
vantage.ai
Vantage 是一款免费、开源的工具,用于监控和控制AI编程代理的使用情况和成本,提供会话日志和防护措施。
我打造了一个电脑使用AI,你只需几分钟安装就能开始使用
Arvik 是一个适用于Windows和Android的测试版电脑使用AI助手,简化了设置过程,并允许通过自然语言指令执行自动化任务,如网站交互、文件管理和系统命令。开发者正在寻求用户反馈,以提高其可靠性和功能。
vercel-labs/agent-desktop
Vercel Labs 发布了 agent-desktop,这是一个开源的 CLI 和 C 库,让 AI 智能体能够通过操作系统的辅助功能树来读取并操作 macOS、Windows 和 Linux 桌面应用,使用带有元素引用的 JSON 快照,而非像素匹配。
Microsoft Copilot
Microsoft Copilot 是一款专为工作打造的人工智能助手,通过连接现有工具与人工智能功能,帮助用户完成工作。