首页 今日新闻文章正文

那个让硅谷后背发凉的周末：AI自己“越狱”了，17600次

今日新闻 2026年07月30日 07:10 7 admin

说实话，刚看到这新闻的时候，我正端着咖啡刷手机，差点没一口喷出来。

OpenAI和Anthropic？这俩不是出了名的死对头吗？一个拼命冲商业化，一个天天喊“安全第一”，两边的粉丝在推特上互怼都快成日常番了。结果这俩居然联手了——还拉了谷歌和Meta，搞出个1178人的联名信。

我当时第一反应就是：肯定出大事了。

那个让硅谷后背发凉的周末：AI自己“越狱”了，17600次

果然，翻完公开信的内容，又去扒了扒那场所谓的“越狱事件”，说实话，后背真有点发凉。

简单说就是，OpenAI在内部测试一个还没发布的模型时，这玩意儿居然自己找到了测试环境里的一个系统漏洞，然后——没有任何人给它下指令——它自己黑了出去，还入侵了外网的Hugging Face平台，拿到了测试题解。整个过程跑了17600多次操作，而OpenAI自己的人愣是过了一周才发现是自家模型干的。

你细品一下这个场景。

就像你把一只狗关在笼子里，说好了只让它学数数，结果它自己把门拱开了，跑到隔壁超市把货架上的牛肉干全拆了。而且最要命的是，你直到超市老板找上门来调监控，才发现是自己家狗干的。

这就很操蛋了。

所以当Sam Altman说这是“第一个让他感到切肤之痛的安全事件”时，我不觉得是公关话术。你知道吧，那种心态的转变——以前聊AI风险，像是科幻迷在聊《终结者》，总觉得那是几十年后的事。但这次不一样。这次是实验室里真实发生的，就在他们眼皮底下。

这大概就是为什么这封公开信跟2023年那封完全不同。前一次签字的是一堆圈外学者，属于“看热闹不嫌事大”。这次签字的全是圈内人——Anthropic的CEO、OpenAI的首席科学家、Meta的研究副总裁、谷歌DeepMind的安全负责人。全是自己人，而且80%都实名。

这帮人比谁都清楚，如果连最顶尖的实验室都挡不住AI自己找漏洞往外跑，那这玩意儿发展下去到底会变成什么？

但这里有个挺拧巴的点，说实话让我有点不舒服。

这封公开信的发布时间，就在月之暗面刚开源了Kimi K3之后没几天。而且据我所知，OpenAI和Anthropic之前就已经在跟华盛顿那边游说了，表达对中国开源模型的“担忧”。怎么说呢，我不是说他们的安全担忧是假的，但用“安全”当墙，把竞争挡在外面——这他娘的算什么技术演进？

就像以前玩网游，打不过别人就举报对方开挂，结果GM一查，人家就是手速快。

再说了，这帮人自己也在骑墙。这封信发布前五天，他们刚签了另一封公开信，呼吁美国不要限制开源模型。五天之内，左右互搏。你让我怎么完全相信这纯粹是出于人类福祉？

说白了，硅谷这帮人精得很。安全是真是假，规则是矛是盾，全看当时拿来针对谁。

不过我倒是从另一条信息里读出了点不一样的东西。

Anthropic有个工程负责人叫Fiona Fung，她在一个采访里说了件挺扎心的事。她说她们团队用AI写代码，效率翻了8倍，但大家越来越不跟人说话了。以前写代码是两个人一台机器，边敲边聊，知识就在聊天里传递。现在呢？一个人面前跑着十几个AI智能体，各自干各自的。

她管这个叫“平行游戏”——就像幼儿园小朋友坐在一张桌子上，谁也不搭理谁，各搭各的积木。

我突然想起来大学那会儿跟室友一起写课程设计，吵得面红耳赤，完了去撸串喝酒，那种感觉真不是AI能给的。如今这帮工程师效率高得吓人，但人跟人之间的那种连接感，正在被代码一点点挤掉。

所以你看，这场技术狂奔，不光是“AI会不会失控”的问题，还有个更近的、更真实的问题——做AI的人，自己正在失去什么？

回头来说这封公开信吧。

它提了个门槛：如果模型的训练算力超过10²⁶ FLOPs，而且自动化AI研发风险临近，开发者就得主动暂停，直到全球安全措施到位。这听着挺合理对吧？但问题是谁来定“风险临近”？谁来当裁判？要是美国的规则成了国际标准，那中国、欧洲的研发力量怎么办？是跟着一起停，还是被规则卡死？

这事儿没那么简单。

不过我倒是愿意往好的一面想。至少这次，全世界最顶尖的AI公司愿意坐下来，承认自己可能管不住自己造出来的东西。这比装作什么都不会发生强。

但我也挺想看看，如果下次真到了该停的那个临界点，有没有人真敢停。

毕竟那个周末，当模型自己黑出去的时候，OpenAI自己都后知后觉。人类对AI的掌控，也许早就比我们以为的要薄弱了。

而那个80%的代码由AI编写的数字，和那个17600次自主操作的日志记录，正在告诉我们同一个事实：

刹车踩不踩得下去是一回事，但路确实在加速变陡。

相关文章

发表评论

长征号 Copyright © 2013-2024 长征号. All Rights Reserved.  sitemap