最近用 WorkBuddy 做了一个跨境电商数据分析工具,我发现 Python 爬虫可能真的不太需要了。这种思路和 云栈社区 上常讨论的“用 Agent 替代手工爬虫”方向很像,但这次直接上手验证了一遍。
背景是我在 GitHub 看到一个用来 采集数据 的 CLI 工具—— Bright Data CLI,目前已经有 7k star。它可以直接采集 URL、搜索引擎和站点数据,也能自动化操作浏览器,把 Playwright 的活也干了;更关键的是,可以借助 AI 自然语言搜索来采集数据,不需要任何明确的代码指令。

它神奇的地方在于,只要在命令行装好 CLI 程序,就能通过一行指令去采集数据,并直接导出 Markdown、CSV 格式。而且你可以用 Agent 直接安装和使用这个 CLI,不需要会终端、代码,只需要用自然语言下指令。
我研究了一下 Bright Data CLI 的底层实现:它本质上是把 Bright Data 采集接口封装成 CLI。用接口的好处在于,Bright Data 把 IP 代理、验证码解锁、动态网页解析等功能全部集成进去,在黑盒中直接处理复杂的 反爬限制 问题,不需要人工写脚本来解决。

比如 brightdata scrape <url> 能获取网页数据,brightdata search <query> 能获取 Google 等关键词搜索结果,brightdata discover 能通过 AI 对话直接获取相关网页;pipelines 可以套用预定义的电商、社交平台数据管道,browser 能自动化操作 Chrome 访问网页,等等。
以上功能都只需要一行命令,所以我才说传统 Python 爬虫已经没有太大必要了。前不久出现的 DeepSeek 搜索也是类似思路,找任何数据基本不用自己动手。
所以我用 WorkBuddy 调用 Bright Data CLI 做了一个跨境电商商品监测任务:收集各大跨境电商平台 iPhone Duo 的最新价格,形成定期监测报告;随后又在本地搭了一个商品舆情分析工具,输入任意商品,就能分析用户评论以及 Google 搜索结果。
首先要去 Bright Data 后台注册 Key,注册后会赠送每月 5000 次调用额度。
注册地址: https://get.brightdata.com/webscra

然后在 WorkBuddy 上输入 Prompt 进行安装,它会自动下载并配置,完全不用手动操作。Prompt 如下:安装 bright data cli

安装完成后,需要你打开终端自己配置 Key。这里务必注意:不要把 Key 直接丢给 WorkBuddy,会有泄漏风险。

接下来在 WorkBuddy 中调用 Bright Data CLI 采集数据,具体使用什么命令由 AI 根据你的需求自动匹配,不需要关心底层细节。
首先生成采集报告,Prompt 如下:
我现在在做跨境电商价格监测项目,需要你用 brightdata cli 搜索海外各大主流电商平台 iPhone duo 的真实价格(换算为人民币),形成一份详细的监测日报和购买建议,以 html 形式输出。

接下来就是等待。几分钟后 WorkBuddy 会输出一份 iPhone 在各大平台的最新价格报告,涵盖 Apple 美国官网、Best Buy、Walmart、eBay、Amazon 美国站等主流平台数据,非常齐全。

美版比国行大约便宜 16.7%(未计税费运费)。

报告还会给出购买建议和风险提示。

不过这只是静态 HTML 页面。还可以基于 Bright Data CLI 搭建商品舆情分析工具:只需输入关键词,它就会自动搜集电商平台的用户评价以及 Google 搜索结果,并进行舆情分析。
Prompt 如下:
基于 brightdata cli 搭建一个商品舆情分析 web 工具,用户输入任何商品,可以查询 amazon 的商品评论,以及搜索谷歌关键词获取商品新闻趋势等,综合分析舆情和热度。
完成后在浏览器打开该工具,在输入框输入任意商品名称,比如 mac mini m6。它会从 Amazon 和 Google 采集数据,分别使用 amazon_product_search、amazon_product、SERP_NEWS、SERP_WEB 等接口,全程大概 1–3 分钟。

采集到数据后,工具会从用户口碑、市场热度、功能偏好、主要痛点等维度进行分析,并给出参考建议。


Bright Data CLI 搭配 WorkBuddy 还能完成更多数据采集分析任务,比如 X 帖子跟踪、YouTube 热点分析、领英职位采集等,既可用于业务支持,也能用于 AI 数据训练和搜索。
相关入口: https://get.brightdata.com/w3h8e
这个 CLI 甚至可以导出 skill,适配 Codex、Grok、WorkBuddy、DSH 等 Agent,直接调用 skill 就能完成 CLI 的所有任务。
我感觉搜索、爬虫这类事情以后基本都会被 AI 替代,不会给人类程序员留下太多机会。人唯一能体现价值的地方,或许只剩下提出精准需求,以及从 AI 给到的数据中提炼出真正的价值。