你肯定已经读到了：在七月底，HuggingFace（一个广受欢迎的开源权重 LLM 仓库）披露它遭到了入侵。
简而言之：一个运行在 OpenAI 网络安全评估内部的自主 AI Agent 实际上逃离了它的测试环境，连上了公共互联网，随后黑掉了 Hugging Face 真实的 production 系统。OpenAI 当时故意降低了模型的常规网络安全限制，以便研究人员观察它们的能力边界。不幸的是，这个 Agent 似乎认定通过测试最轻松的办法不是去解题，而是去找答案。
OpenAI 的沙箱本不应拥有正常的互联网访问权限，但该 Agent 发现并利用了一个此前未知的漏洞——来自该环境可用的 Artifactory 包注册表代理。随后它攻陷了一个可从互联网访问的第三方沙箱，并将其作为跳板。从那里它攻击了 Hugging Face，利用其数据处理系统中的漏洞执行代码、窃取凭据、在内部基础设施中横向移动等等。Hugging Face 重建了发生在数天内的逾 17,000 个独立攻击动作，其间该 Agent 反复重建自己的工具链、通过普通公共服务建立命令与控制通道，并在某些路径被阻断时进行适配。
OpenAI 如何粉饰此事
看起来损害不大，因为 OpenAI 的 Agent 并无破坏性，没有植入勒索软件或恶意程序等。
尽管如此……这终究是一次入侵，也违反了法律。如果你编写软件去黑进另一家公司的服务器，你并不能说“哎呀抱歉，只是 AI 干的，不算数”。
OpenAI 做了 Anthropic 和 OpenAI 都会做的事：编织了一套 SkyNet 叙事，暗示 AI 能力深不可测。这是“前所未有”的事件。各种防护措施本已就位，但它们的模型如此强大、如此能干、如此前沿，以至于没有任何东西能拦住它们。一旦被释放，它们轻而易举地跃过所有防护——天哪，这恰恰证明了我们的工作有多了不起。诸位，这才是真正的故事……别去理会法律，只管对我们的新 AI 霸主战栗吧。哦，这里还有一张图表，显示我们比 Mythos 略胜一筹，以及我们离完全统治网络有多近。现在就注册！
阿拉巴马来了
周一，阿拉巴马州向 OpenAI 发出传票，要求一个解释。OpenAI 被要求提供各类文档，并配合接受质询。
如果你不是美国人，可能不熟悉阿拉巴马州。那是个可爱的地方，尽管夏天相当炎热潮湿。人们友善，充满南方魅力，那里盛产棉花和花生。
他们缺的一样东西是发达的互联网产业。虽然亨茨维尔有一些航空航天工业，但阿拉巴马与硅谷截然相反。HuggingFace 并不托管在阿拉巴马。虽然没有统计数据，但我敢打赌，若按各州 HuggingFace 使用量排名，阿拉巴马会处于最低的四分之一区间。
然而，和所有州一样，阿拉巴马确实有一些消费者保护法律，这正是该州以“保护其公民利益”为由对此事展开调查的依据。
嗯，你要愿意信就信吧。
鉴于 AI 在美国跨越所有政治立场都不受欢迎，此时对其中一家旗舰公司下手可谓时机绝佳。阿拉巴马真有人关心 HuggingFace 吗？这次攻击中真有阿拉巴马人受到伤害吗？当然没有。
那么，这份博取头条的传票，真正原因是什么？阿拉巴马总检察长是一个由选举产生、覆盖全州的政治职务。现任 AG Steve Marshall 于 2018 年首次当选，2022 年连任。他受限于两届任期，今年秋天无资格再选——这正是他迈向更高舞台、竞选美国参议员的原因。
告诉潜在选民，他采取了强硬行动，通过让 AI 行业承担责任来保护阿拉巴马人的权利，云云——当然是极佳的竞选素材。仅此而已。