白宫授权联邦机构使用Claude漏洞挖掘AI，绕开五角大楼禁令引关注

美国政府正计划授权主要联邦机构使用Anthropic公司Claude Mythos模型的修改版本。该AI模型能够快速识别网络安全漏洞并具备漏洞利用能力，这一举措引发了业界对AI能力边界的广泛关注。

据彭博社援引内部备忘录报道，白宫管理与预算办公室（OMB）联邦首席信息官Gregory Barbaccia于本周二向内阁部门官员表示，OMB正在建立相关防护措施，以允许联邦机构开始部署使用该模型。不过，该备忘录并未指定具体的部署机构或提供明确的时间表。

“我们正与模型供应商、行业合作伙伴及情报机构密切合作，确保在向各机构发布修改版模型前，建立适当的防护栏和安全措施。”Barbaccia在邮件中这样写道。

防护措施如何界定？

备忘录中提及的“修改版本”引发了关于实际部署形态的疑问。Anthropic于今年4月7日通过“Glasswing项目”发布了Claude Mythos预览版，该项目是针对特定科技和金融机构的受控访问计划。该公司称该模型在内部测试中发现了各大操作系统和浏览器的数千个0Day漏洞，并表示不计划全面开放该模型。

“要使联邦部署具有防御性，修改必须涵盖特定的保障维度，”Counterpoint Research研究副总裁Neil Shah分析道，“被扫描的软件代码库应在隔离的物理隔绝环境中保持主权，且数据不得用于重新训练基础模型。”他补充说，额外的保障措施可能还包括透明度要求以及人工审核环节，以实现更为可控的部署。

此举将如何影响企业决策？

这些保障问题直接关系到企业未来的采购决策。OMB的举措表明，联邦网络防御正转向能够比人工团队更快发现漏洞的前沿模型。Shah指出，五角大楼与白宫在此事上的分歧，恰好为私营领域的买家提供了重要的启示。

“两个政府实体间的分歧警示我们，控制可能被滥用的强大AI能力部署至关重要。”他呼吁业界建立一个涵盖发现、分类、安全、保障和行动的多层控制框架。

这种政策上的不对称性甚至已经超越了美国国界。据悉，欧洲机构基本被排除在该模型的早期访问计划之外，仅有英国AI安全研究所获准参与测试。如果OMB按照Barbaccia所述的条款推进授权，那么美国联邦政府在防御性AI能力方面将显著领先于欧洲，而此时五角大楼对同一供应商的禁令却仍在司法程序中。

绕开五角大楼禁令的“民用”方案

Shah表示，提供修改版方案是Anthropic在保持模型控制权的同时，规避五角大楼强硬立场的一种策略。“Anthropic的修改版由此绕过了五角大楼非黑即白的做法，帮助其他实体在商定防护栏下，将模型作为民用和企业主权的安全飞地来采用。”他补充说，这种安排为Anthropic未来在其他政府实体和企业的采用开创了先例。

实际上，联邦机构对Anthropic模型的访问权限在过去几周已多次波动。3月26日，加州联邦地区法院针对一项平行的民用禁令，向Anthropic授予了初步禁令，该裁决为相关承包商重新评估其AI供应链提供了缓冲期。目前，Anthropic同时面临着军事采购黑名单、民用系统保留令，以及通过OMB扩大访问的讨论。承包商在识别特定AI模型在其技术栈中的准确位置时面临操作困难，这一挑战正在重塑联邦AI部署中的供应链风险格局。

参考来源：
White House moves to give federal agencies access to Anthropic’s Claude Mythos
https://www.csoonline.com/article/4160303/white-house-moves-to-give-federal-agencies-access-to-anthropics-claude-mythos.html

AI在漏洞挖掘领域的应用潜力与潜在风险正成为安全界热议的焦点。关于前沿AI模型的安全部署与治理，你可以在 云栈社区 的技术论坛找到更多深度讨论与行业分析。