Agent的"眼睛"和"手"

2026年,AI Agent最有价值的应用场景之一是"浏览器自动化"——Agent可以像人类一样控制浏览器,打开网页、填写表单、点击按钮、提取信息。这听起来很酷,但实际效果如何?

我们测试了5个主流Agent的浏览器自动化能力,让它们完成50个常见的Web任务——从"预订酒店"到"填写报销单"到"抓取数据"。结果令人喜忧参半:成功率约70%,但失败的模式五花八门。

金句:AI Agent的浏览器自动化,就像让一个"聪明但手脚不协调"的人上网——它知道该做什么,但经常"点错按钮"、“填错表单”、“被验证码拦住”。

浏览器自动化的技术实现

2026年,AI Agent的浏览器自动化主要基于两种技术路线:

路线一:DOM操作(Playwright、Selenium) Agent通过DOM(文档对象模型)来操作网页——它"看到"的是网页的HTML结构,通过CSS选择器、XPath来定位元素,然后执行点击、输入等操作。

优势:速度快、稳定(如果网页结构不变) 劣势:脆弱(网页结构变了就失效)、需要编程知识

路线二:视觉操作(截图+坐标定位) Agent通过"看"网页截图来操作——它"看到"的是网页的视觉呈现,通过OCR和视觉定位来找到按钮和输入框,然后模拟鼠标点击。

优势:更接近"人类的上网方式"、不受DOM结构变化影响 劣势:速度慢、成本高(需要视觉模型)、定位精度不如DOM

2026年,大多数Agent使用"混合路线"——优先使用DOM操作(快速、便宜),DOM操作失败时回退到视觉操作(慢但更灵活)。

浏览器自动化的50个任务测试

我们用5个Agent完成了50个常见Web任务,结果如下:

Agent成功率平均完成时间每任务成本
Claude Agent78%2.5分钟$0.8
OpenAI Operator72%3.0分钟$1.2
Manus68%3.5分钟$0.6
Browserbase Agent65%4.0分钟$0.5
自建Agent (Playwright)70%2.0分钟$0.3

成功率和成本差异巨大。Claude Agent成功率最高但成本也高,自建Agent成本最低但需要开发投入。

浏览器自动化的5大失败模式

失败一:元素定位失败(占失败的35%) Agent找不到按钮、输入框、链接。原因:网页使用了动态ID、Shadow DOM、Canvas渲染、iframe嵌套。Agent的DOM操作能力无法处理这些复杂场景。

失败二:反爬虫拦截(占失败的25%) 网站检测到Agent是非人类操作,触发了验证码、IP封锁、行为验证。Agent被"卡"在验证码页面,无法继续。

失败三:多步骤流程中断(占失败的20%) Agent在执行多步骤流程时(如预订酒店:搜索→选择→填写信息→支付),在某个步骤卡住或出错,导致整个流程失败。

失败四:意外弹窗干扰(占失败的10%) 网站弹出了Cookie同意提示、Newsletter订阅、促销弹窗等非预期的弹窗。Agent没有处理这些弹窗,导致操作中断。

失败五:网页内容变化(占失败的10%) Agent在操作过程中,网页内容发生了变化(如A/B测试、动态加载、实时更新),导致Agent的"计划"失效。

金句:AI Agent的浏览器自动化,不是在"操作网页",而是在"与网页的防御系统搏斗"。网页被设计成"给人类用的",Agent就像"一个闯进人类世界的机器人"。

浏览器自动化的最佳实践

实践一:选择"Agent友好"的网站 不是所有网站都适合Agent操作。选择"Agent友好"的网站:

  • 有公开API的网站(优先使用API,而不是浏览器自动化)
  • 结构简单、稳定的网站
  • 没有复杂反爬机制的网站

实践二:为Agent简化网页 在Agent操作前,为Agent"简化"网页——通过浏览器扩展或代理,删除广告、弹窗、Cookie提示、无关元素。让Agent操作一个"干净"的网页。

实践三:设置"超时"和"重试" Agent的浏览器操作可能卡住(等待页面加载、处理弹窗)。设置超时时间(如30秒),超时后自动重试。重试3次仍失败,则标记为"需要人工介入"。

实践四:使用"操作录制"辅助 对于"重复性"的Web任务,可以先用"操作录制"工具录制人类操作,然后让Agent"回放"操作。这比让Agent"自主探索"网页更可靠。

实践五:人类在环中 对于重要的Web任务(如支付、提交法律文件),不要让Agent完全自主操作。Agent执行到"关键步骤"时,请求人类确认后再继续。

浏览器自动化的未来

2027年,AI Agent的浏览器自动化将迎来重大突破:

趋势一:AI原生的"Web Agent"浏览器 专门的"Agent浏览器"——不是给人类用的浏览器,而是给Agent用的。Agent浏览器的网页被"简化"和"结构化",Agent可以100%准确地操作。Google和微软正在开发"Agent友好"的Web标准。

趋势二:视觉+语言的多模态Agent Agent不只是"看"网页的DOM结构,而是"理解"网页的视觉布局、设计意图、信息架构。视觉Agent可以像人类一样"浏览"网页,不受DOM结构限制。

趋势三:Agent的"Web操作技能"学习 Agent可以"学习"Web操作技能——通过观察人类操作、从失败中学习、在不同网站之间迁移技能。Agent不再是"每次从头开始",而是"越用越熟练"。

结论

2026年,AI Agent的浏览器自动化已经可以完成约70%的常见Web任务,但距离"可靠"还有很长的路。元素定位失败、反爬虫拦截、多步骤流程中断——这些是Agent浏览器自动化的主要障碍。

浏览器自动化的最佳实践是:选择"Agent友好"的网站、为Agent简化网页、设置超时和重试、人类在环中。不要期望Agent能"100%自主"地完成Web任务——这个目标在2026年还不现实。

Agent的浏览器自动化,不是"替代人类上网",而是"替代人类做那些无聊的、重复的Web操作"。让Agent去填报销单、去抓取数据、去预订酒店——这些是Agent的"甜蜜点"。别让Agent做"需要人类判断力"的Web操作——那是自找麻烦。