
谷歌发现全自主 AI 攻击框架
谷歌威胁情报小组(GTIG)发布报告称,首次发现攻击者使用无需人工干预的 AI 框架,直接将安全补丁转化为漏洞利用程序。
这个名为 exploit_agent 的框架出现在一台暴露于公网的攻击前置服务器上,已接入多个前沿大模型和本地部署的大语言模型。GTIG 指出,该框架会持续比对热门 Web 应用每次发布补丁前后的代码差异,一旦识别出潜在漏洞,就自动编写并执行漏洞利用程序。
同一台服务器上还存有从受害者处窃取的数据,以及可用于暴力破解、安装 WebShell 乃至清除其他攻击团伙遗留 WebShell 的多类脚本。受害者侧遥测数据显示,框架运营者主要瞄准法国媒体、娱乐和教育领域的网站。框架配置文件中还有一条俄语注释,提醒部署者将密钥“填在这里,不要填在聊天窗口里”。
在两个月前发布的上一季度跟踪报告中,GTIG 表示尚未在野外观测到针对目标部署的全自主攻击链路。而题为《Agentic 威胁活动跨过重要门槛》的最新报告显示,过去一个季度情况已发生变化。
GTIG 认为,与挖掘 0Day 漏洞相比,攻击者利用 LLM 针对 N-day 漏洞生成利用代码效率更高,原因在于已修复漏洞的源码参考范围相对有限。
漏洞利用程序生成周期缩短
从漏洞披露到可用利用程序生成的时间差正在缩短。PaperCut 旗下打印管理服务器的两个漏洞就是案例:今年 8 月底,攻击者将这两个漏洞组合利用,作为 0Day 发起攻击。漏洞披露后不到一天,安全研究人员与 Huntress Labs 就使用大语言模型生成了可用的漏洞利用程序。
漏洞披露四天后,GreyNoise Intelligence 监测到一起攻击活动。据推测,攻击者提前借助 LLM 生成了对应的漏洞利用程序,进而入侵了数百家机构。GreyNoise 发现,攻击者在其中一家机构获得初始访问权限后,仅用几分钟就拿到了域管理员权限。
威胁行为者也开始使用开源自主渗透测试框架,自动执行实战入侵中原本分散的步骤。在一起针对美国航空航天领域的入侵事件中,研究人员观测到攻击者使用了 multi-agent 框架 CAIRN。
另有威胁行为者在 8 月底至 10 月初期间,运行基于 PentAGI 搭建的定制化平台,对亚洲地区大量机构开展漏洞扫描。从当前情况看,无限制的自主执行会留下大量清晰的取证痕迹,这类框架反而更容易被防御方检测到。
AI 被滥用于影响行动和恶意入侵
GTIG 表示,如今影响行动中对模型的使用,已不止于撰写帖子。有商业承包商借助 Gemini API 搭建了一套交钥匙平台,利用云手机农场运营超过 10 万个社交媒体账号。
另有一个平台专门针对欧洲和中东地区的政治舆论开展操作。为了让生成的照片看起来像智能手机实拍,其提示词特意要求模拟相机成像缺陷。
在政府背景威胁行为者的活动中,被编号为 UNC6836 的疑似朝鲜组织曾使用虚假招聘账号接触北美和欧洲的加密货币机构。研究人员发现,这些账号使用的头像图片带有谷歌 SynthID 水印。
该组织之后还篡改了内部代码仓库中的 .claude/settings.json 文件,使用户每次启动 Anthropic 的 Claude Code 时,都会自动下载其投放的 SOMBERMEME 后门。
谷歌表示,已封禁排查到的所有涉及滥用 Gemini 的账号和相关资产。Google DeepMind 也根据这些发现,强化了旗下分类器的检测能力。
参考来源
Google says an AI framework turned security patches into exploits with no human in the loop
美国冻结朝鲜黑客盗取的币安资产
|