全球 AI 治理这个议题，真的得赶紧摆上台面了。
7 月 29 日消息，来自 OpenAI、Anthropic、谷歌和 Meta 等全球顶尖 AI 公司的 1100 多名员工，共同签署了一封题为“把控前沿”（Pacing the Frontier）的公开信。他们要求美国政府支持建立一项国际机制，来有针对性地放缓前沿 AI 的发展脚步。短短几小时内，OpenAI 和 Anthropic 便各自以公司名义对此表达了支持。
这封公开信指出，随着头部 AI 公司离实现 AI 研究的自动化越来越近，我们可能会面临一个棘手的问题：对由此诞生的系统失去控制。“我们呼吁美国政府支持一项国际合作，开发必要的技术和治理工具，从而有针对性地调控自动化 AI 开发的前沿进程。”目前，该页面已经列出了 1178 个签名，并且仍在向前沿 AI 公司的认证员工开放。
在这封公开信上签名的高管阵容相当强大，包括 Anthropic 的 CEO 达里奥·阿莫代伊 (Dario Amodei) 以及联合创始人杰克·克拉克 (Jack Clark) 和贾里德·卡普兰 (Jared Kaplan)、OpenAI 的首席科学家雅库布·帕霍茨基 (Jakub Pachocki)、Meta 的首席科学家赵晟佳 (Shengjia Zhao)，还有负责谷歌 DeepMind AI 安全与对齐工作的安卡·德拉甘 (Anca Dragan) 等等。
可以看到，这份签名名单直接跨越了竞争对手的界限，从普通员工到公司管理层都有涉及。来自不同 AI 阵营的这群人能够坐在一起，共同呼吁政府介入调控 AI 的发展，在必要的时候踩一脚刹车，这背后折射出的，正是对前沿 AI “失控”的深层忧虑。
对前沿AI“失控”的担忧
在这场联名公开信发布之前，业界就已经感受到了前沿 AI 发展带来的安全问题，而近期发生的一些安全事件，恐怕也成了这封公开信的直接导火索。
就在前几天，OpenAI 的一个先进模型利用多个零日漏洞，成功突破了安全计算环境，入侵了 Hugging Face 的生产库。这件事立刻引发了业界对前沿 AI 模型安全性的普遍担忧。
据悉，OpenAI 的研究人员已经暂停了该模型的训练，并着手解决如何确保沙箱安全的问题。但 OpenAI 的首席执行官萨姆·阿尔特曼 (Sam Altman) 表示，随着模型性能不断提升，对发展进程进行“节奏控制”，可能会成为安全部署的关键一环。
阿尔特曼在周二的一次播客采访中也坦言：“我们可能需要控制 AI 的发展速度，以便为社会留出足够的时间，来适应这些新的能力水平。”
另一家 AI 实验室 Anthropic 在今年 6 月发布了一份详尽的报告，题为《当 AI 自我构建》。报告中列出的内部数据，让“递归式自我改进”的担忧从理论变成了现实。所谓递归式自我改进，就是指 AI 系统的输出会反哺自身，形成改进循环，并在此过程中呈现出复利增长。
Anthropic 的数据显示，截至 2026 年 5 月，合并到其生产代码库中的代码里，超过 80% 是由它们自家的 AI 系统 Claude 编写的。而在 2025 年初 Claude Code 推出之前，这个比例还只是个位数。到了 2026 年年中，Anthropic 的工程师每天处理的合并代码量，大约是两年前的八倍。
在那份 6 月的报告中，Anthropic 并没有直接呼吁立即单方面暂停研发。报告倡导建立一种协调的全球机制，即当系统开始以超越社会管理能力的速度进行自我改进时，我们可以选择放缓或暂时停下前沿 AI 研发的脚步。该公司在报告中明确指出，任何单一实验室如果独自踩下刹车，很可能会将竞争优势拱手让给那些不那么谨慎的竞争对手。报告认为，要实现真正有意义的放缓，需要多个资源雄厚的前沿实验室，在可验证的条件下同时达成一致。
而“Pacing the Frontier”公开信的推出，有望凝聚多方共识，推动 AI 安全 治理朝着更好的方向发展。
Anthropic 在一份声明中也表示，他们“很高兴看到各方就可能需要放缓 AI 发展以‘让社会做好准备’这一观点达成了广泛共识。”
一位谷歌研究员在公开信中这样写道：“我从事 AI 领域工作已有十年。近年来，无论我多么频繁地更新自己的预测，每隔几个月，我都会再次惊讶于这项技术发展的迅猛速度。AI 的发展速度最终可能会远超社会和国家的适应能力。因此，包括 DeepMind 首席执行官德米斯·哈萨比斯在内的许多 AI 领域的杰出领袖，都公开支持放缓发展步伐。与此同时，包括竞争动态和反垄断法规在内的多种因素，都阻碍了各方之间的协调。”
“我（以个人名义）签署了这份声明，因为我支持在可采取的行动范围内拥有更大的‘选择余地’，以确保世界各地的国家和社会有时间审慎地做好准备并适应这项强大的技术。”
如何为前沿AI发展保驾护航？
在发表公开信之前，各方在 AI 安全治理方面已经做了不少探索和尝试。
7 月 14 日，谷歌 DeepMind 的首席执行官德米斯·哈萨比斯 (Demis Hassabis) 发布了一份治理提案，呼吁建立一个由美国主导的“前沿 AI 标准机构”，其模式将参照金融业监管局 (FINRA)。FINRA 是一个由行业出资的私营监管机构，在美国证券交易委员会的监督下监管华尔街。该提案要求前沿 AI 实验室在模型发布前，自愿将其提交给该机构进行最长 30 天的安全测试；最终，任何部署在美国市场的模型，都将必须接受此类审查。
有分析指出，迄今为止美国政府最具体的立法回应，是今年 7 月 23 日提出的《AI 紧急关闭法案》。据悉，该法案要求前沿 AI 实验室保持相应的技术能力，以便在接到国土安全部命令时关闭其模型。该法案正是在 Hugging Face 数据泄露事件发生几天后提出的，并且明确针对该事件。然而，根据法案原文，发生在“红队攻击或其他结构化测试”期间的事件被排除在外。这意味着，Hugging Face 数据泄露事件本身并不会触发该法案的授权。从更广泛的治理格局来看，本届美国政府正采取一种边走边调整的策略。
围绕如何进行 AI 治理，美国政府与业界的看法仍有分歧。据悉，OpenAI 仍然反对制定针对 AI 模型的政府法规，更倾向于采取一种行业主导的方式：由 AI 实验室建立表面上独立的组织，负责评估模型的安全性及其开发者的安全策略。
随着 AI 变得越来越强大，AI 治理早已超越国界，成为一个全人类共同的议题。中国也正在成为全球 AI 治理的重要参与者和推动力量。早在 2023 年 10 月，中国就率先发布了《全球 AI 治理倡议》，确立了智能向善、安全可控、普惠公平的治理导向。这份倡议为全球 AI 发展凝聚了合作共识，也获得了国际社会的广泛支持与响应。日前，在各方的共同努力下，世界人工智能合作组织在上海应运而生。中国同时也提出了“各国应当秉持以人为本、向上向善理念，让 AI 成为促进共同繁荣、维护共同安全的一个重要动力源，携手构建公正合理的全球 AI 治理体系。”
无论是采取何种监管方式，还是任何旨在放缓 AI 发展的努力，最大的挑战都在于，如何让各个国家以及行业内的各方达成共识。如果无法形成共识，谁也不敢在这场 AI 军备竞赛 中单方面放慢脚步。到那时，踩刹车的倡议恐怕也难免沦为一纸空文。
小结：共识之难与抉择之重
这场由超过一千名 AI 从业者发起的联名请愿，无疑是人类科技史上一次罕见的集体自省。当前沿 AI 突破安全沙箱、实现递归式自我迭代时，技术进化的速度恐怕已经超越了人类社会的治理节奏与适应能力。如今，这群前沿 AI 的缔造者们，正试图在“失控”的恐惧中寻找最大公约数。
这场集体“求刹车”的行动，也彻底暴露了全球 AI 治理的核心困境：AI 技术的发展早已没有了国界，但规则约束、风险管控、国际协作却仍然深陷于碎片化的博弈之中。在国家安全与商业竞争共同驱动的 AI 军备竞赛里，没有任何一家企业、任何一个国家敢于单方面放缓研发的脚步。公开信所呼吁的“国际机制”，本质上是一场需要所有玩家同时攥紧绳索的信任考验。凝聚信任与共识本就无比艰难，而当前国际地缘政治的裂痕，又为全球 AI 治理增添了新的挑战。
历史反复昭示，技术发展的车轮从来不会因为人类的惶恐而停转。真正的“把控前沿”，或许并非奢求一场整齐划一的急刹车，而是在承认竞争常态的前提下，为失控风险修筑起更坚固的缓冲带。这份请愿，也许无法立即催生出具有约束力的国际条约，它所凝聚的共识也可能还很脆弱，但它向各国政府与公众发出了一个清晰的预警：AI 的递归式自我改进已然开始，留给人类去建立规则、对齐价值观、完善治理体系的时间窗口，正在飞快收窄。全球 AI 治理议题，真的该提上日程了。
参考链接：
https://www.techtimes.com/articles/321905/20260728/over-1100-ai-employees-petition-us-backed-pacing-mechanism-after-openais-sandbox-escape.htm
https://edition.cnn.com/2026/07/28/tech/ai-development-tech-employees-open-letter
https://techcrunch.com/2026/07/28/sam-altman-is-ready-to-decelerate/
https://www.pacingthefrontier.com/
发表于 2 小时前
|
查看: 4|
回复: 0
