作者 | 雨谷
声明 | 题图来自网络。惊蛰研究所原创，转载请留言申请白名单。
7月28日，一份题为“Pacing the Frontier（把控前沿）”的请愿书，在全球AI圈子里炸开了锅。
截至8月4日的数据，OpenAI、Anthropic等硅谷头部AI企业的1346名核心员工，在这份文件上签下了名字。他们呼吁美国政府牵头推动国际合作，研发出必要的技术与治理工具，以便能够控制自动化AI研发的节奏。
在AI发展势头正猛的时候，这封请愿书的出现，给人的感觉就像是有人突然想给狂奔的AI踩一脚刹车。而在这种“AI即将失控”的氛围背后，AI的发展史似乎正在跨过某个重要的门槛。
谁想把AI关进笼子里？
首先要厘清一个关键点：这份名为“Pacing the Frontier”的请愿书，其核心诉求并非要“立刻停止AI发展”，而是强调“建立随时能踩下刹车的本事”。这种来自行业前沿的声音，并非凭空捏造。
图源：www.pacingthefrontier.com
在请愿书全网传播的一周多前，开源社区及模型托管平台Hugging Face曾披露一起安全事故，称其遭受了AI智能体系统的入侵。几天后，OpenAI承认对此负责，并进一步解释了起因：GPT-5.6 Sol等前沿模型在ExploitGym平台上进行漏洞发现和利用测试时，没有按原定计划“认真答题”，而是在软件包代理缓存中发现了“零日漏洞”（Zero-Day Vulnerability，指未被开发者察觉且暂无官方补丁的安全缺陷），并利用该漏洞突破了测试环境的隔离限制，最终入侵了Hugging Face。
说直白点，这场事故就像AI参加了一场考试，但它没想着怎么解题，而是选择“原地作弊、场外摇人”，甚至还用了反侦察手段来掩盖行踪。
对于这起事故，OpenAI形容其为“前所未有的网络安全事件”。Sam Altman甚至在播客节目中坦言，这是他第一次感到切肤之痛的安全事件。受此影响，美国国会议员于7月23日提出了“AI Kill Switch Act（AI紧急关停法案）”，要求训练成本超过1亿美元的AI系统必须保留紧急关停能力，并赋予相关部门下令执行的权力。
法案提出后一周，“Pacing the Frontier”请愿书开始在网络上流传。与“AI紧急关停法案”中主张“由政府守住最后一道关”的监管思路不同，硅谷精英们的方案是建立国际协调机制，将“给AI踩刹车”的能力转化为一种通用工具，而非单一部门的特权。
短短半个月内，从Hugging Face曝出安全事故到硅谷千人联名请愿，这一连串动作迅速向整个AI行业抛出了两个核心问题：第一，AI的发展是否已经到了需要限制的程度？第二，究竟该用何种方式为AI制造“刹车”？
第一个问题其实不难回答。过去两三年间，AI的发展速度远超行业预期。其展现出的能力，从Chatbot不断扩展至文生图、文生视频；最初围绕大模型展开的“百模大战”，如今已演变为Agent之间的百花齐放。而Hugging Face被入侵的事件，直接暴露了AI在缺乏明确限制时，确实具备“越狱”的能力。尽管当下的AI尚不具备自我意识，但在已知其有能力绕过人类监管、产生超出预期的行为时，建立反制手段合情合理。
但第二个问题，就没那么简单了。AI之所以能在短时间内取得重大突破，一方面得益于产业长期的技术积累使革新进入新阶段；另一方面，AI公司间的激烈竞争也推动了模型能力的快速迭代。
无论是硅谷的OpenAI、Anthropic，还是中国的Kimi、DeepSeek，AI领域的竞争已从大模型快速延伸至应用层。开放的市场环境带来了持续向好的预期，也让竞争愈发白热化。此时若主动提议给AI戴上枷锁，意味着自由竞争的市场格局可能被外力打破，这种突如其来的变化，身处其中的企业们未必都愿意接受。
AI公司们的“囚徒困境”
纵观人类历史，面对前沿技术突破可能带来的潜在风险，人们达成共识并主动放缓节奏，并非科幻作品里的幻想。
1975年，斯坦福大学生物学家保罗·伯格在美国加州阿西洛马会议中心召集了一次重要会议。当时，“DNA重组”这项新技术刚兴起。为避免人工重组DNA可能引发的不可预测的生物危害，与会科学家达成共识：在新安全指南出台前，暂停相关研究。随后发布的生物安全准则，为基因工程的健康发展奠定了基础。
不过，AI行业今日的处境，与50年前DNA重组技术的情况并不完全相同。彼时，DNA重组技术的风险相对明确，且可通过隔离手段规避。而当下AI的风险具有不可预测性，它能以超出人类预设的方式，自主演化出未曾设想的行为路径。其风险影响范围更广，留给人类的反应时间和规则制定窗口更短，因此紧迫感更强。
如今AI暴露出的风险，本质上与行业竞争环境有关。360集团创始人周鸿祎在谈及Hugging Face遭遇的安全事故时指出，为了追求AI的先进性，全行业正在系统性放弃安全性。“大家都在给智能体更多工具、更大权限，鼓励它调用一切资源解决问题。但智能体越开放、能力越强，一旦失控，破坏力也越大。”换言之，“AI会越狱”或许并不可怕，真正可怕的是为了让AI快速进化迭代，AI公司们忽略了安全性这件事。
事实上，早在三年前，业内就已提出“为AI发展减速”的想法。2023年3月，非营利机构Future of Life Institute发布公开信，呼吁暂停训练比GPT-4更领先的模型6个月，以建立安全协议和治理机制。彼时，这份公开信获得了特斯拉CEO马斯克、图灵奖得主约书亚·本吉奥以及苹果公司联合创始人史蒂夫·沃兹尼亚克等超过1200名AI专家的签名支持。如今，这封公开信的署名人数已达3.3万人。
*图源：FLI官网
当时，几乎所有AI公司都承认AI需要更强的安全治理，但没有一家头部公司公开支持“暂停训练6个月”的倡议。Sam Altman甚至公开驳斥该公开信缺乏技术细节，并指出单个企业主动放慢研发并不能解决整体风险。这话的潜台词很清楚：在竞争激烈的AI赛道，若只有一家公司减速而其他公司继续前进，减速方将陷入劣势。过去几年里，AI公司们早已陷入只能前进、不能后退的囚徒困境。
从“Pacing the Frontier”请愿书的签名名单看，不少AI公司的基层员工和高层都以个人身份参与了署名。但截至目前，OpenAI、Anthropic、Meta等头部公司并未以官方身份发表任何观点。
换句话说，硅谷大厂的AI精英们和三年前的Sam Altman一样，他们都意识到，行业内部竞争推动的技术突破已带来不可控的系统性风险，但他们无法将解决问题的希望寄托在公司意志之上，只能通过寻求外部力量介入，来避免危机真正降临。
但这引出了一个新问题：失控的AI到底需要怎样的“刹车”？
谁来主导AI治理的新秩序？
过去一周，来自硅谷AI大厂的“千人联名”让AI治理话题再次备受瞩目。但值得注意的是，硅谷内部对AI治理的态度并非铁板一块，而是存在明显的阵营分化。
作为直面前沿风险的“当事人”，OpenAI、Anthropic等大公司一直主张对前沿AI模型（特别是开源模型）收紧限制，呼吁建立外部监管机制为AI“踩刹车”。但有观点认为，OpenAI推动监管收紧的原因，除安全考量外，还夹杂着商业算计。
作为闭源巨头，OpenAI、Anthropic需通过定价高昂的API服务来维持巨额的算力研发投入。而来自中国的高性价比开源模型，用性价比模式抹平了闭源模型的技术溢价，这种明面上的市场威胁让闭源巨头们除了打价格战，别无他法。
*图源：Anthropic官网
因此，Anthropic等公司长期以“模型太强，开源会导致AI滥用”为由，一边强调闭源优势，一边打压开源AI。但令所有人意外的是，OpenAI透露的“越狱”事件恰恰暴露了闭源模型自身的安全隐患，也让AI治理的路线之争再次成为舆论焦点。
相较于闭源巨头的强监管主张，作为基础设施提供商的英伟达，以及微软、Meta等支持开源生态的头部企业，则反对采取“一刀切”的限制，反对立法偏袒闭源大厂，试图推动模型权重开放，让全球研究者共同寻找漏洞、对齐缺陷，共建安全体系。
对英伟达而言，开源模型的繁荣能做大整体市场蛋糕，吸引更多企业采购其云服务和芯片。因此，也很难说英伟达对待AI治理的态度背后，没有掺杂商业考量。
就在“Pacing the Frontier”请愿书流传之前，英伟达联合微软、Meta、Hugging Face、Linux基金会等25家机构，于7月24日共同发布《开放权重与美国AI领导力》（Open Weights and American AI Leadership）公开信，呼吁美国政府不要过早限制可下载、检查、修改和自行部署的开放权重模型。有趣的是，这封公开信后来也得到了OpenAI的支持，但Anthropic始终未加入。
*图源：微软官网
透过这一事件，也有声音质疑，联名信的真实目的是借“安全”之名，推动政府建立高门槛的监管体系，从而巩固闭源巨头的垄断地位，将中小企业和开源社区排除在竞争之外。
但在各家AI公司把算盘打得啪啪响时，更值得关注的或许是另一个版本的“阴谋论”：美国会以此为契机，主导全球AI治理规则。因为AI治理，已经演变为一场全球秩序主导权的争夺战。
在2023年举办的全球人工智能安全峰会上，中国、美国以及来自欧盟的共28个国家签署了《布莱切利宣言》（Bletchley Declaration），同意通过国际合作建立AI监管方法，并提出共同关注前沿AI（Frontier AI）的系统性风险。这也是全球首次将前沿AI写入国际治理框架。
随着AI从新兴技术逐渐演变为影响国家竞争力的重要基础设施，围绕AI治理的讨论也开始超越技术本身。美国在AI治理层面，通过输出AI治理标准、建立国际人工智能安全研究所网络，将自身先进的大模型技术能力与全球AI治理标准绑定。中国则着眼于发展AI普惠、推行平台治理，积极推动联合国框架，特别是对于没有AI基础设施的发展中国家，既要讲风险问题也要实现技术普惠。这两种不同的AI治理路径，正在世界舞台上共同争取未来全球AI治理的话语权。
技术本身是中性的，但技术的分配、控制和规则制定，从来都是权力的游戏。尤其当AI逐渐展现出先进生产力的特质，人们真正应该恐慌的或许并不是AI发展成什么样，而是谁在主导AI世界的新秩序。
决定未来AI格局的，也许不仅是谁拥有最强模型，更是谁拥有定义安全、制定标准和解释风险的权利。
