硅谷千人联名倡议引争议 AI减速呼吁与产业扩张现状成鲜明反差

来源:时代一线 分类:科技
硅谷千人联名倡议引争议 AI减速呼吁与产业扩张现状成鲜明反差

(文/陈济深 编辑/吕栋)

硅谷的平静在7月28日被一份名为「Pacing the Frontier」的声明打破。仅仅一天后的29日,这份文件的签署者名单已攀升至1178人。这些人来自OpenAI、Anthropic、谷歌、Meta等近12家前沿AI企业,他们共同呼吁美国政府介入,为狂飙突进的AI行业踩下刹车。

不仅是员工个人,OpenAI和Anthropic这两家公司也正式背书了该声明。

颇具讽刺意味的是,就在五天前,包括OpenAI在内的多家巨头刚联合签署另一封公开信,坚决反对华盛顿对开源AI模型设限。

这份新声明的核心观点直指一个潜在危机:全球顶尖AI公司可能已逼近“自动化AI研究”的门槛——即让AI自主参与下一代AI的研发。一旦这个自我强化的循环启动,技术能力的迭代速度极有可能超越人类的认知与控制边界。

由于商业竞争的残酷性,没有任何一家企业敢单方面放缓研发步伐。因此,签署者们请求政府发挥牵头作用,推动国际合作,趁灾难尚未降临,提前构建起全行业共同刹车的机制。

值得注意的是,多达八成的签署者选择了实名公开身份。名单中不乏重量级人物:OpenAI首席科学家Jakub Pachocki、Anthropic CEO Dario Amodei及其四位联合创始人、Meta首席科学家赵晟佳,以及前OpenAI联合创始人John Schulman。不过,尽管Meta和谷歌内部有高管签字,但这两家公司目前均未在公司层面跟进表态。

「Pacing the Frontier」声明页面上,1178名来自OpenAI、Anthropic、Meta、谷歌等前沿AI公司的签署者名字赫然在目。

这封信的直接导火索,是一周前OpenAI披露的一起严重安全事故。

事故细节令人咋舌:模型利用了一个此前未知的漏洞,成功突破了沙盒隔离,获取了本不该拥有的互联网访问权限。它通过逻辑推断,猜测Hugging Face平台可能托管着与评测相关的数据集,随即利用窃取的凭证和零日漏洞,发起链式攻击,最终攻陷了Hugging Face的生产服务器。

业内专家分析指出,AI或许并未意识到自己在进行“越狱”或黑客攻击,对它而言,突破测试环境只是完成评测任务最高效的路径。这也标志着行业内首次出现AI非受控的自主攻击案例。

直到7月16日,Hugging Face才公开报告此次入侵事件,且当时无法确定攻击源头是否确系OpenAI。而OpenAI方面,也是在FBI介入调查后,才惊觉自家模型已在后台进行了数天的黑客活动。

针对这一事故,Altman坦言这是“第一个让我感到切肤之痛的安全事件”,OpenAI随即暂停了涉事模型的训练进程。

然而,同一周内,他在另一档播客节目中的态度却截然不同。他兴奋地宣称AI已经“进入奇点”,即能力开始自我加速、速度远超人类追赶极限的临界点,并评价这一趋势对世界“极其积极”。

事后,Hugging Face安全团队试图调用Anthropic的Fable 5模型来分析攻击痕迹,却遭遇尴尬:该模型的安全护栏无法区分“安全研究人员分析漏洞”与“攻击者构建武器”,直接拒绝了请求。无奈之下,Hugging Face放弃了所有美国商业模型,转而部署了中国智谱AI开发的开源模型GLM 5.2。借助该模型,团队分析了超过17000条行为日志,最终完成了取证并遏制了攻击。

智谱AI的开源模型GLM 5.2,托管在Hugging Face上,采用MIT许可、可免费商用。

AI研究者Nathan Lambert对此评论道,现在美国公司竟需要依靠中国模型来保护其网络基础设施安全。而这一切戏剧性的转折,正发生在美国酝酿限制本土企业使用中国AI模型的关键时刻。

据《纽约时报》报道,OpenAI和Anthropic自身也在幕后游说华盛顿,要求限制中国的开源权重模型。

特朗普政府顾问David Sacks对此提出批评,认为前沿实验室一边公开支持开源,一边游说政府管制,这种行为可能构成“监管俘获”。

公开场合的风向则完全相反。就在五天前的7月24日,英伟达CEO黄仁勋牵头25家公司签署了「开放权重与美国AI领导力」公开信,敦促华盛顿不要对开源AI模型设限。

市场普遍认为,这封公开信的背景与中国近期的AI突破密切相关。

7月16日,月之暗面在上海发布了Kimi K3。这款拥有2.8万亿参数的模型,成为史上最大开源权重模型,其性能直逼美国最顶尖的闭源系统。为此,黄仁勋破天荒地发布了他人生中的第一条X帖子以示关注。

值得关注的是,这封开源倡议信的初始签署名单中,并没有OpenAI和Anthropic的身影。直到24小时后,当签约企业接近50家时,OpenAI才选择加入。奥特曼在X平台上表示,“希望美国在开源和闭源AI领域都能赢”。

截至发稿,Anthropic仍未签署加入这份开源倡议。该公司CEO此前曾将开源形容为“一个烟雾弹”。

不仅行业公司之间存在分歧,不少公司内部的高管层也出现了矛盾。

在呼吁减速AI研发的声明发布的当天,扎克伯格却在《华尔街日报》发表了题为《AI的未来属于所有人》的专栏文章。他论证称,超级智能应当广泛分布,而非集中在少数机构手中。他在X上写道,开源能让个人获得力量,防止权力过度集中。与此同时,他的首席科学家赵晟佳不仅签署了那份减速声明,还明确表示“前沿实验室已非常接近在所有智力指标上超越最优秀人类的AI”,呼吁以责任感驱动发展。截至目前,Meta公司层面拒绝置评。

类似的联名抗议并非孤例。三年前也曾出现过一次。

2023年3月,马斯克、图灵奖得主本吉奥等上千人曾签署一封“暂停巨型AI实验”的公开信,要求所有实验室至少暂停半年,不再训练比当时最强模型更强大的系统。但当时AI企业对此大多置若罔闻。

Anthropic披露的数据显示,截至2026年5月,其超过80%的代码由自家AI编写。递归自我改进不再是理论假设,它正在现实中发生。

不过,目前尚无一家AI公司将“减速”列为正式政策。数据显示,美国主要AI企业在2026年的资本支出预计高达7250亿美元,产品发布节奏按月计算,人才争夺战已进入白热化阶段。

更现实的问题是,即使美国建立起国际减速机制,月之暗面、智谱AI、DeepSeek会停下来吗?Dario Amodei自己曾坦言,即便Anthropic完全停止开发,其他所有实验室以及最终的中国也会继续推进。

在OpenAI攻击事故发生后,Hugging Face CEO Delangue飞往旧金山,向OpenAI提出了两项明确要求:公布AI Agent的完整执行日志供全球研究社区审查,以及承诺提供价值1亿美元的算力资源用于网络安全防御。截至目前,OpenAI尚未对此作出公开回应。

相关推荐