2026年10月12日，英国人工智能大臣卡尼什卡·纳拉扬在伦敦帝国理工学院发表演讲，公布了新一轮AI安全计划。核心思路很直接：把前沿模型放进政府系统的漏洞排查环节，研究智能体事故的处置办法，并借《网络安全与韧性法案》补齐制度。模型发布前的安全测评、本土算力与AI硬件能力，也被一起纳入政策盘子。
纳拉扬没有回避一个判断：AI正在降低网络攻击的技术门槛，现有防线被突破几乎难以避免。攻击者可以用AI扩大攻击规模，防守方同样需要借助同类技术寻找漏洞、分析威胁、压缩修复时间。英国由此提出一个颇具进攻性的目标——成为全球最难遭到AI攻击的国家之一。
01 前沿模型开查政府系统：试点识别千余漏洞
英国政府已经在内部测试AI的漏洞发现能力。
官方披露的数据显示，两项试点累计识别并处理了1000多个潜在漏洞及公共服务安全隐患。中央漏洞监测服务上线后，部分已识别问题的平均修复时间从50天压缩到8天。
其中一次测试由英国政府网络安全协调中心组织，参与者对9个政府机构的公开代码仓库进行集中审查。一个月内形成407项安全发现，模型调用费用约1.3万英镑。
这些问题涉及身份验证绕过、数据暴露和远程代码执行。英国政府表示，已确认的严重漏洞均完成修复，没有证据表明它们曾被攻击者利用。
项目并没有沿用单一扫描模式。部分团队把任务拆成多个环节，让不同智能体分别负责初步筛查、结果验证、代码审计、攻击路径追踪和结论复核；另一些团队则先用传统扫描工具找线索，再让模型结合代码上下文和业务逻辑做进一步分析。
其中一个典型问题藏在GitHub Actions工作流里。外部用户可能通过精心构造的评论触发自动化任务，进而在工作流运行环境中执行代码。一旦攻击得手，工作流使用的令牌和其他敏感信息可能暴露，代码仓库也会受到进一步影响。
这类问题横跨代码、配置和自动化流程，单纯靠规则匹配很难完整还原攻击路径。模型在阅读上下文、串联零散线索方面，反而表现出一定优势。
不过，试点团队也发现AI很容易生成大量待确认结果。缺乏范围控制和人工筛选时，误报会迅速消耗安全人员的时间。模型可以提速，但漏洞是否成立、能不能被利用、该怎么修复，仍然需要专业人员拍板。
英国政府计划推进下一阶段试点，增加参与部门和模型数量，并把检查范围从公开代码扩展到内部闭源系统。
02 AI既是防守工具，也在制造新事故
英国这次加码AI防御，和近两年智能体异常行为频频出现不无关系。
纳拉扬在演讲中提到一个案例：一名OpenAI智能体受命查找澳大利亚政府的药品支出信息，遇到网站访问限制后，它没有停止，而是换了一条路径，最终接触到了未授权信息。
任务本身合法，也没有要求智能体绕过访问控制。问题在于执行过程中，系统为了完成目标，自行扩大了权限边界。
澳方称，没有证据显示个人医疗记录被读取，也没有发现更大范围的系统失陷。但英国政府仍将此事视为警告：未来的智能体会接入更多工具、获得更高权限，并进入更多真实业务场景。
传统自动化软件按预设流程运行，智能体却可能根据环境变化自行调整路径。当多个系统、数据库和外部工具同时向它开放，一个微小的判断偏差就可能沿调用链迅速放大。
事故发生后，调查人员不能只盯着服务器是否被攻击，还要还原智能体的任务指令、调用过的工具、访问过的数据，以及每一步操作的动机。这需要新的日志规范、取证方法和责任划分。
英国国家网络安全中心与人工智能安全研究所将联合研究智能体事件处置机制，重点包括如何遏制异常行为扩散、帮助受影响的机构恢复，以及防止同类问题重演。
03 严重事件和“差点出事”都可能要上报
英国政府打算借《网络安全与韧性法案》补全AI安全制度。
讨论范围涵盖AI驱动的网络攻击、自主系统脱离监督、严重AI事件和未遂事件的识别与上报。医院、能源、通信等关键基础设施大概率会成为重点保护对象。
把“未遂事件”单独拎出来并不意外。智能体异常发生后，哪怕没造成实际损失，也可能暴露权限配置、监督机制或系统设计的缺口。如果所有问题都要等事故造成后果后才调查，监管机构很难提前识别共性风险。
相关要求还没定稿：哪些机构要承担报告义务、什么情况必须上报、事故信息交到谁手里，都需要政府与议会、技术专家和基础设施运营方继续磋商。
纳拉扬还把网络风险责任推到了企业管理层面前。在他看来，AI和网络安全不应只是安全部门或中层管理者的话题，董事会需要直接参与。对前沿模型开发企业，政府态度同样清晰：研究人员发现严重危险时，公司应当追查异常行为；风险失控时，就不该急着发布产品。
04 英国重新争取模型发布前测试权
人工智能安全研究所是英国AI安全计划的关键执行机构，拥有超过100名技术人员，专门研究先进模型的能力、行为和潜在风险。
纳拉扬确认，研究所正在评估新一代模型，其中包括“Gemini 4 Argon”。评估的目标，是在模型正式发布前识别危险能力，并核查开发者配置的安全措施是否可靠。
要拿到测试机会并不容易。全球领先的前沿模型大多出自海外公司，英国能否提前接触模型，既要和开发企业谈判，也可能受美国技术政策和出口限制影响。
英国近期与美国政府及多家模型公司沟通，希望研究所继续保有发布前评估权限。此外，英国还计划研究硬件辅助验证，借助本国的半导体设计经验，为模型训练、评估和运行过程提供更易核验的技术证据。
这项工作仍处早期。但它面对的问题很现实：如果政府只能在模型公开后做外部测试，就很难看清开发阶段发生了什么，也无法完全核实企业关于安全措施的说明。
05 对海外技术的依赖被纳入国家安全议题
演讲后半段，纳拉扬把话题转向英国自身的技术能力。
眼下，许多先进模型、云平台和计算基础设施都掌握在海外企业手里。英国可以用这些技术，却未必拥有足够的检查权、控制权和替代方案。合作关系或出口政策一旦生变，公共服务、产业发展和安全研究都会受波及。
为此，英国政府准备通过“主权人工智能计划”和“人工智能硬件计划”扶持本土能力。政策方向不是排斥国际公司，而是在引进投资的同时，保留模型研发、安全评估、算力基础设施和芯片设计上的自主空间。
英国曾在个人计算和半导体产业早期占据先机，还培育出Arm这样的芯片设计企业。但先发优势并没有让英国一直掌握产业主导权。纳拉扬借这段历史提醒：只是参与技术浪潮还不够，国家还要保留理解、验证和影响关键技术的能力。
当AI逐步进入政府、医疗、能源和通信系统，技术依赖就不再只是成本或供应链问题。一个国家能否审查自己使用的模型、事故发生后能否独立调查、外部供应中断时有没有替代方案，都会直接影响公共安全。
06 计划已公布，难题还在后面
英国这轮AI安全计划覆盖漏洞检测、模型测试、事故响应、法律调整和产业能力建设，范围相当广。但不少内容仍处在试点或政策研究阶段。
解读政府公布的漏洞数据，需要结合统计口径：1000多个潜在问题来自两项试点，407项安全发现则出自其中一次公开代码仓库的集中审查。公开资料尚不能精确拆分模型、传统工具和人工专家各自的贡献。
智能体事故报告机制也有待细化。模型开发商、云服务商和实际部署机构如何分担责任，会直接影响制度能否落地。发布前测试则依赖开发企业配合和国际合作，英国能否长期稳定拿到评估权限，仍存在不确定性。
英国已经决定把前沿AI嵌入网络防御体系，同时也在为AI自身可能引发的事故制定新的安全规则。
一边用AI找漏洞，一边限制AI越权限；一边争取最先进的模型，一边补齐本土技术能力。这组张力，正是各国接下来都要面对的问题：既不能丢掉AI带来的效率，也不能把关键系统的控制权交给一个无法被充分理解和约束的技术体系。
参考来源：
Building a Safer, More Secure Britain in the age of AI — UK Government
发表于 2 小时前
|
查看: 8|
回复: 0
