找回密码
立即注册
搜索
热搜: Java Python Linux Go
发回帖 发新帖

5354

积分

0

好友

746

主题
发表于 前天 03:23 | 查看: 27| 回复: 0

AI模型进行代码理解与安全分析示意图
图片由AI生成

最近,人工智能领域的两大巨头Anthropic和OpenAI不约而同地将目光投向了同一个方向:试图改变传统安全漏洞发现与分析能力的生产方式。 这一动向,正在引发网络安全行业的深层忧虑与连锁反应。

今年4月,Anthropic发布了新一代模型Claude Mythos的预览版,并同步启动了“Project Glasswing(玻璃翼计划)”。令人玩味的是,Mythos甚至尚未公开发布,就已经在市场上引起了显著的恐慌情绪。安全领域的逻辑很直接:有人发现漏洞,就有人可能利用漏洞。受此消息影响,CrowdStrike、Palo Alto Networks、Zscaler等多家传统安全厂商的股价在随后的交易日出现了明显下跌。

几乎在同一时间,OpenAI也做出了回应。4月15日,OpenAI推出了GPT-5.4-Cyber,一个面向网络安全防御者的“特权模型”,并宣布扩大其“网络安全可信访问”(TAC)计划。OpenAI此举,似乎是想扮演“道高一丈”的角色,以满足市场对于更强大防御工具的期待。

表面上看,这是两家大模型公司在安全赛道上的竞赛。但多位行业资深人士指出,其背后折射出的,是AI大模型对网络安全核心能力发起的根本性挑战。一位从业多年的网络安全工程师坦言,看到消息后的第一反应是强烈的危机感:“关键不在于模型本身有多强,而在于未来‘找漏洞’这件事的生产方式可能要彻底改变了。”

AI安全公司BraneMatrix创始人李光辉对此评论道:“传统的网络安全问题正在被算法化重构,而算法本身的安全,将上升为AI原生安全,成为新时代的核心竞争力。”

那么,为什么几款大模型的发布,能带来如此巨大的外溢效应?如果漏洞挖掘能力真的可以被模型规模化复制,网络安全行业的能力门槛、竞争格局乃至生存逻辑,又将如何被重写?

变革:从经验积累到能力封装

传统网络安全的核心,长期以来高度依赖人的经验、判断和长期的攻防对抗积累。一位资深工程师这样描述过去的行业逻辑:“攻击手段升级,防御手段跟上。没人能一开始就拥有完整的安全能力,一切都靠实战积累。”

在这个行业中,漏洞从被发现、被利用到被修复,存在一个时间差。各类安全厂商,无论大小,本质上都在做同一件事:将复杂、专业的攻防知识和技术能力产品化,然后交付给企业客户。

然而,随着Anthropic和OpenAI等大模型厂商的介入,一条截然不同的路径正在浮现。安全能力不再完全依赖于人和经验的缓慢积累,而是开始被直接“封装”进模型中,变成一种可以被便捷调用的标准化能力。

无论是Mythos还是GPT-5.4-Cyber,都代表了这种新范式。我们需要警惕的,正是这类新型安全能力的分配逻辑及其潜在影响。

OpenAI的GPT-5.4-Cyber,其核心亮点是针对防御性安全用例进行了专门微调,显著降低了对合法安全操作(如漏洞测试、代码分析)的拒绝率。以往,安全研究员让通用模型帮助分析可疑代码,模型可能会因无法区分攻击与防御意图而直接拒绝。GPT-5.4-Cyber则试图解决这一问题,为安全研究者“降低门槛”。

而Anthropic的Mythos则更为激进。它并非专为网络安全训练,但其强大的通用代码理解和推理能力已经“溢出”到了安全领域。据官方披露,Mythos已经能够在主流操作系统和浏览器中自主发现数千个零日漏洞,其中不少属于高危级别。在某些能力评测中,它甚至已经超过了大多数人类安全工程师,且整个过程自动化程度极高。

相比能力本身的提升,更值得关注的是其带来的范式转变:当大模型的代码理解和安全分析能力足够强大时,一旦限制被放开或获得特定授权,它就能被用来高效地挖掘漏洞,甚至直接转化为攻击能力。此时,人不再是这种高阶安全能力的唯一来源。

冲击:价值结构的重塑

面对来势汹汹的大模型,网络安全行业会被立即替代吗?多位从业者的判断趋于一致——短期内,全面替代不会发生。

“大家容易把问题想简单了,”李光辉分析道,“安全能力不是单一技术能力,而是一整套体系。”传统网络安全横跨网络防护、身份认证、威胁情报、风险控制等多个细分领域,许多环节并非仅靠模型推理就能覆盖。

例如,传统安全大厂在威胁情报数据上的长期积累——包括黑灰产攻击涉及的IP、文件哈希值等非公开的IOC(失陷指标)情报库——这仍然是Mythos这类模型短期内难以替代的壁垒。此外,安全的“最后一公里”依然高度依赖人的现场判断。

一位资深渗透测试工程师举例说,一次完整的渗透测试需要面对复杂的系统环境,并不断绕过验证码、动态策略等非标准化防护。“很多时候,决定成败的不是工具,而是临场的策略和判断。”

然而,尽管短期内难以产生实质性替代,但冲击已经不可避免。变化正在真实地发生:大模型开始迅速接管漏洞分析、代码审计、攻击路径推演等原本高度依赖人工且成本高昂的环节。这意味着,安全行业的价值结构正在被重塑:基础性、重复性的能力被压缩,而高阶的策略判断和体系构建能力价值被放大。

“一旦发生这样的转变,整个行业的运行逻辑都会被重构,”一位安全研究员指出,“随着AI编码与理解能力的提升,安全能力本身会被极大放大,传统依赖人力经验的体系会逐渐被削弱。这种变化不是简单的替代,而是产业重心的转移。”

风险:模糊的边界与封闭的联盟

在推出强大能力的同时,大模型厂商也试图为其戴上“紧箍咒”。Anthropic官方强调,Mythos是一个“仅用于防御”的模型,目前只在一个由52家科技公司(包括亚马逊、苹果、谷歌、微软等)组成的封闭联盟中开放。理由是其安全护栏尚未成熟,全面开放等同于同时向攻击者和防御者提供强大工具。

OpenAI的GPT-5.4-Cyber则采用了分级信任机制,看似比Mythos的“名单制”更开放一些。但这种做法依然引发了行业的普遍担忧。因为在真实的安全实践中,“防御”本身从来不是一个纯粹的概念。像渗透测试、红队演练、漏洞验证这些看似“攻击”的行为,恰恰是构建有效防御的基石。

有安全研究表明,即使给最先进的模型加上层层限制,攻击者仍可能通过非常规方式(如使用特定语言或 prompt 技巧)诱导模型突破限制,进入一种几乎不受约束的输出状态。只要有人能找到方法绕过这些限制,这些模型就能被用于攻击,而不仅仅是防御。

换言之,防御在某种程度上就是“为了防守而进行的攻击模拟”。当模型的代码理解和安全分析能力足够强时,攻与防之间的边界会迅速变得模糊,厂商很难精准、永久地控制这条边界。

除了安全考量,外界对此也有其他解读。著名风险投资人Marc Andreessen就曾质疑,Anthropic限制Mythos的发布,究竟是出于安全顾虑,还是因为缺乏足够的计算资源来支撑大规模公开使用。

李光辉对封闭联盟的做法表达了不同看法:“这种所谓的‘防御性质’,本质上是将模型能力优先开放给美国的核心科技及云服务厂商。安全性应该通过公开、透明的对抗来验证和增强,而不是由少数主体单方面定义和背书。如果安全评估的标准、测试环境和结果都不透明,那么这种‘安全性’本身就缺乏公信力。”

一个更深层的关注点是,无论是Mythos还是GPT-5.4-Cyber,目前都是优先服务于美国科技生态的安全工具。如果一项关键的安全能力只面向特定国家或少数机构开放,而非在全球行业内扩散,它就可能逐渐演变为一种“技术壁垒”或“技术主导权”。

这与网络安全行业过去几十年形成的“道德黑客”(Ethical Hacking)文化和负责任的协同披露机制存在一定偏离。传统上,行业鼓励通过发现和披露漏洞来整体提升系统安全水平。未来,这种漏洞发现、评估和验证的话语权,是否会收拢到少数主体手中?这对于全球网络安全生态又将意味着什么?

这些变化,最终都指向一个现实问题:行业中的每一个参与者,无论是传统安全厂商,还是企业的安全团队,都需要重新思考并定位自己在新时代的角色与价值。对于传统安全厂商而言,未来的出路,确实需要尽早想清楚了。




上一篇:图解Linux内存寻址:四级页表、TLB缓存与NUMA架构解析
下一篇:Meta-Harness:如何自动优化大语言模型的外围代码以提升性能?
您需要登录后才可以回帖 登录 | 立即注册

手机版|小黑屋|网站地图|云栈社区 ( 苏ICP备2022046150号-2 )

GMT+8, 2026-4-20 16:54 , Processed in 0.785104 second(s), 39 queries , Gzip On.

Powered by Discuz! X3.5

© 2025-2026 云栈社区.

快速回复 返回顶部 返回列表