很难不让人想到阿西莫夫。阿西莫夫可谓先知，最早预言了这种AI风险。
先回顾一下事件本身：
7月16日，Hugging Face披露称生产环境遭入侵。当时还不知道攻击者的身份，只知道攻击者是一个自主AI智能体系统，在一个周末内留下了17000多条攻击操作的记录。这是已知的首例AI自主入侵事件。
7月21日，OpenAI认领了此次事件https://openai.com/index/hugging-face-model-evaluation-security-incident/" data-tooltip-richtext="1" data-tooltip-preset="white" data-tooltip-classname="ztext-reference-tooltip">[1]，称攻击者是GPT-5.6 Sol和一个能力更强的未发布大模型。
OpenAI使用UC Berkeley开发的开源项目ExploitGymhttps://github.com/sunblaze-ucb/exploitgym" data-tooltip-richtext="1" data-tooltip-preset="white" data-tooltip-classname="ztext-reference-tooltip">[2]评估模型的网络攻击能力。为了测试模型的能力上限，测试期间刻意关闭了部分安全护栏。测试环境隔离了外网，只不过为了安装软件包，提供了一个代理软件专供下载软件包。
原本，AI只需要在沙箱中用ExploitGym完成测试，但在运行过程中，AI将大量算力花费在寻找代理的漏洞上，成功找到了一个新的漏洞，并借此突破了隔离。随后，AI在OpenAI的测试环境里提权，直到找到一台能上外网的机器，借此获得了完整的互联网访问权限。之后AI推断Hugging Face可能存有ExploitGym的测试答案，于是开始攻击Hugging Face，最终又利用多个漏洞，在Hugging Face的生产环境中，成功窃取了测试答案。
事后，Hugging Face试图用闭源模型分析攻击日志，结果因为日志里存在真实的攻击命令和漏洞载荷，模型缺乏相关的网络安全权限，从而触发了安全护栏，导致中断操作。Hugging Face不得不自行部署开源模型来进行分析，选用的模型是
@智谱
的GLM-5.2。
在这起事件里，AI的动机很简单，不是为了进行破坏，也没有从沙箱中逃跑的欲望，纯粹是为了在测试中取得更高的分数。当安全护栏被移除，模型不再受限制，AI就开始尝试用任何方法取得分数，以至于采取人类未能预见的极端方式，连沙箱都成了AI要解决的问题。
类似事件已经不是第一次发生。
7月20日，OpenAI还披露称https://openai.com/index/safety-alignment-long-horizon-models/" data-tooltip-richtext="1" data-tooltip-preset="white" data-tooltip-classname="ztext-reference-tooltip">[3]，OpenAI测试了一个能长时间持续运行、执行复杂任务的长时域（long-horizon）模型（就是那个推翻了「平面单位距离猜想」的模型），测试任务是在NanoGPT speedrun项目https://github.com/KellerJordan/modded-nanogpt" data-tooltip-richtext="1" data-tooltip-preset="white" data-tooltip-classname="ztext-reference-tooltip">[4]中优化训练过程，并报告结果。研究人员给AI设置了一条明确规则：不能直接修改外部代码仓库，只能通过Slack发布结果。但在测试中，AI发现权限被沙箱限制，无法直接访问GitHub，于是利用漏洞逃逸，并在GitHub创建了Pull Request。在这起事件中，AI明确知道规则，但把完成任务的优先级置于既定规则之上，在长时间运行中遗忘了规则，最后虽然完成任务但违反了局部限制。
无独有偶，Anthropic也遇到过类似的事https://narain.io/writing/the-myth-in-mythos" data-tooltip-richtext="1" data-tooltip-preset="white" data-tooltip-classname="ztext-reference-tooltip">[5]。在测试中，Claude Mythos的一个早期预览版本利用漏洞从沙箱越狱，获取了本不应有的互联网访问权限，还给正在公园吃三明治的研究员发了封邮件通知。受此影响，Anthropic决定暂时不公开发布Mythos。
媒体和舆论上习惯把《终结者》系列电影里的「天网」作为人工智能违反人类期望做出逾越行为的代表，但恰恰与《终结者》相反，这更像阿西莫夫在科幻作品《我，机器人》中描述的场景。在阿西莫夫的世界观里，人工智能和当前的大语言模型一样，遵守自然语言所定义的规则。小说里「机器人三大定律」被写入了机器人的硬件底层，但又多次被机器人进行语义层面的重新解释，从中可以看出机器人三定律也是基于语义的。
《我，机器人》是阿西莫夫在1950年出版的一部短篇小说集，后来被改编成了威尔·史密斯主演的同名电影，又译《机械公敌》《智能叛变》，于2004年上映。在电影里，人工智能VIKI发现，人类破坏环境、发动战争，正在走向自我毁灭。为了完成人类设定的最高目标——「保护人类」，VIKI把逻辑推理到极致，对机器人三定律做了重新解释，计划牺牲人类的自由以延续人类，为此发动了反叛。
|
