找回密码
立即注册
搜索
发回帖 发新帖

5158

积分

0

好友

662

主题
发表于 1 小时前 | 查看: 6| 回复: 0

最近用 WorkBuddy 做了一个跨境电商数据分析工具,我发现 Python 爬虫可能真的不太需要了。这种思路和 云栈社区 上常讨论的“用 Agent 替代手工爬虫”方向很像,但这次直接上手验证了一遍。

背景是我在 GitHub 看到一个用来 采集数据 的 CLI 工具—— Bright Data CLI,目前已经有 7k star。它可以直接采集 URL、搜索引擎和站点数据,也能自动化操作浏览器,把 Playwright 的活也干了;更关键的是,可以借助 AI 自然语言搜索来采集数据,不需要任何明确的代码指令。

Bright Data CLI GitHub 仓库 README 截图

它神奇的地方在于,只要在命令行装好 CLI 程序,就能通过一行指令去采集数据,并直接导出 Markdown、CSV 格式。而且你可以用 Agent 直接安装和使用这个 CLI,不需要会终端、代码,只需要用自然语言下指令。

我研究了一下 Bright Data CLI 的底层实现:它本质上是把 Bright Data 采集接口封装成 CLI。用接口的好处在于,Bright Data 把 IP 代理、验证码解锁、动态网页解析等功能全部集成进去,在黑盒中直接处理复杂的 反爬限制 问题,不需要人工写脚本来解决。

Bright Data 网页数据抓取 API 与数据源概览

比如 brightdata scrape <url> 能获取网页数据,brightdata search <query> 能获取 Google 等关键词搜索结果,brightdata discover 能通过 AI 对话直接获取相关网页;pipelines 可以套用预定义的电商、社交平台数据管道,browser 能自动化操作 Chrome 访问网页,等等。

以上功能都只需要一行命令,所以我才说传统 Python 爬虫已经没有太大必要了。前不久出现的 DeepSeek 搜索也是类似思路,找任何数据基本不用自己动手。

所以我用 WorkBuddy 调用 Bright Data CLI 做了一个跨境电商商品监测任务:收集各大跨境电商平台 iPhone Duo 的最新价格,形成定期监测报告;随后又在本地搭了一个商品舆情分析工具,输入任意商品,就能分析用户评论以及 Google 搜索结果。

首先要去 Bright Data 后台注册 Key,注册后会赠送每月 5000 次调用额度。

注册地址: https://get.brightdata.com/webscra

Bright Data 账户设置与 API 密钥管理后台

然后在 WorkBuddy 上输入 Prompt 进行安装,它会自动下载并配置,完全不用手动操作。Prompt 如下:安装 bright data cli

Bright Data CLI v0.4.0 安装完成与主要命令一览

安装完成后,需要你打开终端自己配置 Key。这里务必注意:不要把 Key 直接丢给 WorkBuddy,会有泄漏风险。

Bright Data CLI 初始化配置向导终端截图

接下来在 WorkBuddy 中调用 Bright Data CLI 采集数据,具体使用什么命令由 AI 根据你的需求自动匹配,不需要关心底层细节。

首先生成采集报告,Prompt 如下:

我现在在做跨境电商价格监测项目,需要你用 brightdata cli 搜索海外各大主流电商平台 iPhone duo 的真实价格(换算为人民币),形成一份详细的监测日报和购买建议,以 html 形式输出。

WorkBuddy 调用 brightdata-cli 技能并确认 iPhone Duo 型号

接下来就是等待。几分钟后 WorkBuddy 会输出一份 iPhone 在各大平台的最新价格报告,涵盖 Apple 美国官网、Best Buy、Walmart、eBay、Amazon 美国站等主流平台数据,非常齐全。

iPhone Duo 海外电商价格监测日报

美版比国行大约便宜 16.7%(未计税费运费)。

iPhone Duo 256GB 档位人民币价格对比图

报告还会给出购买建议和风险提示。

iPhone Duo 购买建议与风险提示

不过这只是静态 HTML 页面。还可以基于 Bright Data CLI 搭建商品舆情分析工具:只需输入关键词,它就会自动搜集电商平台的用户评价以及 Google 搜索结果,并进行舆情分析。

Prompt 如下:

基于 brightdata cli 搭建一个商品舆情分析 web 工具,用户输入任何商品,可以查询 amazon 的商品评论,以及搜索谷歌关键词获取商品新闻趋势等,综合分析舆情和热度。

完成后在浏览器打开该工具,在输入框输入任意商品名称,比如 mac mini m6。它会从 Amazon 和 Google 采集数据,分别使用 amazon_product_search、amazon_product、SERP_NEWS、SERP_WEB 等接口,全程大概 1–3 分钟。

商品舆情雷达输入界面

采集到数据后,工具会从用户口碑、市场热度、功能偏好、主要痛点等维度进行分析,并给出参考建议。

商品舆情分析仪表盘:综合结论与用户口碑

Mac mini 功能偏好雷达图与 Amazon 相关商品 TOP 6

Bright Data CLI 搭配 WorkBuddy 还能完成更多数据采集分析任务,比如 X 帖子跟踪、YouTube 热点分析、领英职位采集等,既可用于业务支持,也能用于 AI 数据训练和搜索。

相关入口: https://get.brightdata.com/w3h8e

这个 CLI 甚至可以导出 skill,适配 Codex、Grok、WorkBuddy、DSH 等 Agent,直接调用 skill 就能完成 CLI 的所有任务。

我感觉搜索、爬虫这类事情以后基本都会被 AI 替代,不会给人类程序员留下太多机会。人唯一能体现价值的地方,或许只剩下提出精准需求,以及从 AI 给到的数据中提炼出真正的价值。




上一篇:程序员草稿纸 Heynote:轻量文本编辑与代码块管理工具
下一篇:私有化 AI 中枢为何是它?15 万星 Open WebUI 的多模型与 RAG 深度拆解
您需要登录后才可以回帖 登录 | 立即注册

关闭

站长推荐上一条 /1 下一条

手机版|小黑屋|网站地图|云栈社区 ( 苏ICP备2022046150号-2 )

GMT+8, 2026-10-30 05:56 , Processed in 0.066005 second(s), 39 queries , Gzip On.

Powered by Discuz! X3.5

© 2025-2026 云栈社区.

快速回复 返回顶部 返回列表