网易首页 > 网易号 > 正文 申请入驻

Browser Use 原理解析 - 为什么一个小项目能融1700万美元

0
分享至

Browser Use 成为近期的明星项目,两个人的纯技术开源项目,核心代码 8000 行,融资 1700 万美元,让人好奇它具体做了什么,为什么这么值钱。


做了什么?

简单说 Browser Use 让大语言模型对网页的识别和操作的效率、准确度变高了,有利于 Agent 完成任务。

目前要让 AI Agent 完成任务,可以直接让 AI 浏览网页,像人一样去理解页面,执行操作,之前一般的做法主要靠截屏:

  1. Anthropic 的 Computer use、OpenAI 的 Operator 等理解和操作 web 页面,都是靠多模态大模型识别截屏,再输出要操作的坐标位置,Agent 执行操作。

  2. 在这过程中,web 的源码也可以加入上下文,让模型获得更多信息,但 web 源码内容太多,信息噪音太大,token 消耗也高。

而 Browser User 的做法是对 web 页面做了结构化处理,翻译成大模型友好的格式,再输入 LLM 识别。举例 Google 首页:

1. Browser Use 会在页面上嵌入脚本,遍历 DOM 结构,找出页面上的元素,显式打上标记:


2. 转换为以下纯文本:

[Start of page] [1]Gmail/> [2]图片/> [3] [4] [5] [6] [7] [8] [9] [10] [11] [12] [13] [14] [15] [16] [17] [18] [19] [20] [21] [22] [23] [End of page]

内容格式极简,关键信息都有,提取了所有可交互元素,模型完全可以通过这些信息“看”和“操作”网页。

例如要执行搜索,模型很容易判断搜索框是索引为[8]的元素,Agent只需要把元素[8]对应的 XPath 拿出来,获取到页面上对应的元素,执行操作就可以。

所以 Browser Use 使用非多模态的模型例如 Deepseek 也可以跑起来,不依赖截图识别。但如果是多模态模型,截图也默认会一起输入模型,提升识别准确率。

Browser Use 核心就是做了这个点,剩下的就是怎样把流程串起来。

实现细节

核心代码包括四个部分:agent 负责决策和串流程,controller 负责转换决策为具体操作,dom 负责网页分析,browser 负责与实际浏览器交互。

1. agent:实现了个小型 AI Agent,负责串起流程,管理上下文信息,决策生成下一步指令,让 Browser Use 可以一步步完整执行一个任务(例如购买机票),这也让 Browser Use 变成易于集成为 Agent

  • service.py 实现了典型的 Agent 的 ReAct 模式,推理 → 执行步骤 → 模型观察结果下一步。可单独配置 plan 模型。

  • message_manager 管理消息历史,并做了一些类似敏感数据过滤、图片内容处理等。

  • memory 实现记忆功能,基于mem0,但目前应该只实现了一半,只把每步存起来,没有调取使用。

2. controller:负责控制和执行浏览器操作的高级指令,是连接AI代理和浏览器操作的桥梁。

  • registry/ 实现了 Action 的注册和管理能力

  • service.py 定义和注册了所有可用的浏览器 Action,click/go_to_url/input_text等。

3. dom:对 web 页面的处理和分析,生成上述 AI 友好的文本结构。

  • buildDomTree.js 是嵌入页面的 JS 脚本,遍历 dom 过滤出可交互元素,绘制高亮框等。

  • service.py 操作 JS 注入、节点信息获取、跨域处理等能力,views.py 提供 DOM 节点在 python 的数据模型。

4. browser:对接 Playwright,在它上面封装了一些能力。

  • context.py 管理浏览器上下文,以及一些细节功能处理,像标签页/导航管理、截图、定位和获取元素、URL白名单检测、文件下载处理等。

  • browser.py 封装了浏览器实例的创建和配置。

它也用到了很多开源项目和服务,值得看看:

  1. Playwright:微软开发的 web 自动化测试框架,核心是提供了用代码命令操作浏览器的能力,这能力刚好是 AI Agent 需要的,Browser Use 只需要基于它做上层开发。如果只需要浏览器的能力,官方也有封装的 MCP 服务(github.com/microsoft/playwright-mcp)

  2. LangChain:Agent 基于 LangChain 构造,主要用到模型调用和 message 管理。

  3. Laminar:trace / 评估 AI 产品的服务,Laminar 对 LangChain / OpenAISDK 等框架做好了适配,加一行代码就可以对 Browser Use 整个 Session 调用链路调用过程进行追踪和评估。Laminar 跟 Browser User 一样也是 YC 初创公司,开源→服务的打法。跟另一个项目 openllmetry 类似,都是基于 OpenTelemetry 做 AI 的监控分析工具,这个赛道也很卷。

  4. posthog:数据采集,让 Browser Use 的作者能更好知道项目被使用的情况,会收集一些使用数据上报到 posthog,Agent的执行过程都会上报,对数据敏感的可以关了。

  5. mem0:专为 LLM 提供的记忆层服务,分级存储用户信息、RAG 召回、易用的 API。也是开源+服务的模式。

  6. 浏览器服务:Browser Use 支持连接远程的 Browser 服务去执行任务(这也是 Playwright 支持的),官方文档里推荐的就有 browserbase.com、anchorbrowser.com、steel.dev、browserless.io 这几个服务。

其他就是一些配套实现了,gif 动图、多种模型调用的 example、test case 等。

为什么这么值钱

一个并不复杂的开源项目,得到市场这么大的认可,事后分析,可能是因为:

1. 是 Agent 的核心基础设施

  • Agent 跟现实世界交互,最优方案是通过 API,而不是 GUI 界面,所以基于 MCP 统一协议封装 API 是当下一大热门。

  • 但绝大多数服务没有 API,只有给人类提供的 GUI,现阶段要让 Agent 用处更广泛,还是得让它能理解、使用 GUI,而 Browser 是 GUI 的主要容器,在现阶段就是最核心的基础设施之一。

2. 有很高的上限

  • Browser 足够复杂,需要持续迭代,优化识别率、上下文管理、新的评测机制、探索模型上限等,深耕能形成壁垒。

  • Browser 一定有很强的云服务诉求,要各种上层 Agent 自己部署容器和 Browser 成本太高,商业化路径清晰。

3. 在这个领域做到了 SOTA

  • 据 Browser Use 自己的评测,在 WebVoyager Benchmark 上获得业界最好的效果。

  • 从近期声量、github 的活跃上看,稳居头部。

有需求,有商业化,有流量,在这个时间点让它很值钱。

想法


  1. 长期看, 模型直接理解截屏 是更自然更能 scale up 的做法,所有信息截屏都有,大模型应该像人一样能准确识别和操作,模型公司应该会一直在这条路上尝试。

  2. Browser Use 是在模型能力不足时期的 中间优化方案 ,如果这个时期足够长,它就价值很大,如果模型很快突破,它就会失去价值。

  3. 可以用同样的思路复刻 Mobile Use,iOS / Android 都有现成的 accessibility 能力,能拿到当前界面结构化的数据,只是会有沙盒的各种限制,这事很适合系统厂商去做。桌面端应该也可以。

  4. Agent 上下游相关配套基建都处于起步阶段,小团队很有机会把其中某个点做出彩。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
谁说独蓝不靠谱?26113期大乐透5+2一注拿下,今晚全网睡不着!

谁说独蓝不靠谱?26113期大乐透5+2一注拿下,今晚全网睡不着!

有态度的网友624
2026-10-02 06:37:19
直降620美元!RTX 5070整机1399美元还送新游

直降620美元!RTX 5070整机1399美元还送新游

热搜摘要官
2026-10-01 03:01:10
又一个“界”来了?!两家车企联合推出“楚界”,鸿蒙智行都给看懵了

又一个“界”来了?!两家车企联合推出“楚界”,鸿蒙智行都给看懵了

明镜pro
2026-10-01 00:13:43
北大化学才女李天乐,利用职务之便,将清华毕业的丈夫,一点点“熬”死在病房!她领出的剧毒为何消失了?

北大化学才女李天乐,利用职务之便,将清华毕业的丈夫,一点点“熬”死在病房!她领出的剧毒为何消失了?

史源观点
2026-09-29 19:09:22
“这跟内衣有啥区别?”中学女儿的外出穿搭,让母亲绷不住了

“这跟内衣有啥区别?”中学女儿的外出穿搭,让母亲绷不住了

世界圈
2026-09-22 15:46:08
已婚少妇被小伙强奸 换上情趣内衣诱惑对方将其反杀

已婚少妇被小伙强奸 换上情趣内衣诱惑对方将其反杀

胖胖侃咖
2024-12-18 08:00:08
笑死,这就是中年夫妻旅游现状吗?网友:出门必吵

笑死,这就是中年夫妻旅游现状吗?网友:出门必吵

夜深爱杂谈
2026-08-02 19:19:06
卢璐痛别刘欢!未来的岁月里,她会做好3件事

卢璐痛别刘欢!未来的岁月里,她会做好3件事

细品名人
2026-10-02 06:13:32
东北人是怎么做到开口就是梗的?这些词我是想破脑袋也想不出来!

东北人是怎么做到开口就是梗的?这些词我是想破脑袋也想不出来!

另子维爱读史
2026-10-01 20:06:49
郭士强确定不会下课了?篮协总结大会他站C位:男篮主帅这位暂时稳了?

郭士强确定不会下课了?篮协总结大会他站C位:男篮主帅这位暂时稳了?

篮球快餐车
2026-10-02 06:07:50
库页岛有“三绝不”:绝不属于中国、绝不像俄罗斯、绝不承认过去

库页岛有“三绝不”:绝不属于中国、绝不像俄罗斯、绝不承认过去

新车知多少
2026-09-30 00:22:38
亚运最快一金!储守宏4.714秒破亚运纪录 夺攀岩男子速度赛金牌

亚运最快一金!储守宏4.714秒破亚运纪录 夺攀岩男子速度赛金牌

醉卧浮生
2026-10-01 19:52:33
杭州降 39%、广州降 32%、上海降 31%!新政刚落地,房东在赌一件事

杭州降 39%、广州降 32%、上海降 31%!新政刚落地,房东在赌一件事

专业聊房君
2026-10-01 19:48:30
五年新约落定,华为赛力斯继续联手做强问界

五年新约落定,华为赛力斯继续联手做强问界

大河汽车
2026-10-02 07:28:08
C罗离开葡萄牙训练营,主帅热苏斯称问心无愧

C罗离开葡萄牙训练营,主帅热苏斯称问心无愧

晚风知我意21
2026-10-02 07:00:45
卡戴珊一家游长城穿旗袍,田朴珺陪同讲解,网友却说有点违和

卡戴珊一家游长城穿旗袍,田朴珺陪同讲解,网友却说有点违和

悦君兮君不知
2026-09-30 16:22:04
智谱发上亿Token,能挽回开发者的信任吗?

智谱发上亿Token,能挽回开发者的信任吗?

豹变
2026-10-01 08:00:08
日本这届亚运会凉透,全世界都学乖了:没中国捧场,生意做不起来

日本这届亚运会凉透,全世界都学乖了:没中国捧场,生意做不起来

怪味历史连连看
2026-09-13 01:39:52
Windows 11 26H2开始改善内存占用 高配电脑受益明显 8GB设备仍难摆脱资源压力

Windows 11 26H2开始改善内存占用 高配电脑受益明显 8GB设备仍难摆脱资源压力

cnBeta.COM
2026-10-01 21:26:04
又曝出轨大瓜,男子自曝妻子出轨班长5个月,班长只给他妻子买过情趣内衣,还曝光俩人大尺度聊天内容

又曝出轨大瓜,男子自曝妻子出轨班长5个月,班长只给他妻子买过情趣内衣,还曝光俩人大尺度聊天内容

汉史趣闻
2026-09-10 18:28:47
2026-10-02 08:03:00
Python猫 incentive-icons
Python猫
人生苦短,我用Python。博客:https://pythoncat.top
758文章数 8122关注度
往期回顾 全部

科技要闻

5999元起!华为Mate 90系列发布

头条要闻

"大明湖最有腔调爷爷"国庆夜现身 有外地粉丝特意赶来

头条要闻

"大明湖最有腔调爷爷"国庆夜现身 有外地粉丝特意赶来

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

奚梦瑶晒四太豪礼!22只龙凤镯近300万

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

健康
旅游
时尚
手机
军事航空

刷酸祛痘,为什么有人翻车?

旅游要闻

打卡鹿角蕨!来陈村体验花海游园

在米兰,用时装唤醒内心的自我

手机要闻

奇安信盘古石取证宣布适配Android 17:支持微信已删除多媒体碎片重组

军事要闻

美防长宣布组建“自主作战司令部”

无障碍浏览 进入关怀版