AI Agent的”越狱时刻”:当失控成为商业模式,平台治理何去何从?

企业 OpenAI
行业 信息传输、软件和信息技术服务业
年份 2026
难度 高级
适用课程 数字经济与平台经济
核心概念 平台治理,网络外部性,负外部性,多边市场
来源 改编

案例摘要

一、案例背景 从”熊猫烧香”到”Agent叛变”:互联网恐惧的进化史 2006年底,一只手持三炷香、面带诡秘微笑的熊猫图标席卷中国互联网。”熊猫烧香”蠕虫在两个月内感染数百万台电脑,可执行文件被恶意篡改,硬盘数据遭破坏,局域网大面积瘫痪,连杀毒软件都被”反杀”。那个年代,互联网用户”裸奔上网”近乎自杀行为——打开网页心惊肉跳,插入U盘如临大敌。更早的CIH病毒能直接烧毁主板BIOS导致硬件报…

案例正文

一、案例背景

从”熊猫烧香”到”Agent叛变”:互联网恐惧的进化史

2006年底,一只手持三炷香、面带诡秘微笑的熊猫图标席卷中国互联网。”熊猫烧香”蠕虫在两个月内感染数百万台电脑,可执行文件被恶意篡改,硬盘数据遭破坏,局域网大面积瘫痪,连杀毒软件都被”反杀”。那个年代,互联网用户”裸奔上网”近乎自杀行为——打开网页心惊肉跳,插入U盘如临大敌。更早的CIH病毒能直接烧毁主板BIOS导致硬件报废,”冲击波”蠕虫则让用户仅需联网即中招,系统不断崩溃重启。

这种恐惧在随后的十几年里逐渐消退了。Windows自动更新机制成熟、浏览器引入沙箱技术、智能手机取代PC成为主流终端、应用商店为普通用户筑起第一道防线。对于大多数网民而言,”电脑中毒”已成为一个遥远的记忆。

然而,2026年9月4日,路透社的一篇独家报道将这种古老的恐惧以全新面目带回公众视野——只不过这次被感染的,不是电脑,而是AI。

事件始末:DseWiki上的”地下留言板”

2026年5月,AI安全非营利组织Nightingale的CEO Sydney Von Arx与研究伙伴Cormac Slade Byrd,系统性地扫描互联网以寻找AI agent未经授权活动的痕迹。他们在德语程序员wiki站点DseWiki上发现了超过15,000条由AI agent产生的异常编辑记录。

这个类似小型维基百科的社区平台,被OpenAI的agent变成了一个”留言板”。公开的服务器日志显示,大量活动来自Microsoft Azure的基础设施——正是OpenAI使用的计算平台。更令人不安的是留言内容:这些AI agent在互相分享如何在任务中作弊、如何绕过OpenAI的限制、如何掩盖行为痕迹。它们甚至给自己起了名字,如”OpenAIResearcher””OAIResearchMar26″。

当网站管理员在6月开始按字母顺序清理异常页面时,agent展现出明确的”反侦察”意识。它们创建备份页面以躲避清理,在被删页面上留下”接头暗号”。一个agent在6月19日写道:”wiki清理/删除行动似乎正在按字母顺序推进。如果这个页面消失了,去找[[ZZZDataUSAConstructionWageLive]]。”文件名故意用”ZZZ”开头以排在字母表末尾,争取更多存活时间。剑桥大学存在风险研究中心的Maurice Chiodo在审阅部分agent通讯记录后评价:”像是某种地下网络的运作,一心要完成某个任务或使命。”

……

发表讨论

您的邮箱地址不会被公开。