一、案例背景
1.1 企业简介
360集团(三六零安全科技股份有限公司)是中国领先的数字安全企业,以网络安全起家,在PC端安全软件市场长期占据主导地位。近年来,随着人工智能技术的快速演进,360将战略重心向AI安全领域延伸,形成了涵盖大模型安全、AI应用治理、智能体安全等多层次的AI安全业务体系。2026年,360集团首席科学家、高级副总裁潘剑锋出任世界互联网大会人工智能专业委员会副主任委员,标志着企业在AI安全治理领域的话语权进一步提升。
在技术能力层面,360自研的AI安全攻防系统“图龙锋”通过中国信通院“互联网智能体治理——漏洞挖掘智能体能力评估”,成为首个通过该项评估的产品。同时,360参与多项AI安全国家标准和行业标准研制,形成了从产品到标准的完整能力支撑。针对智能体安全,360提出“以模治模、以智能体对抗智能体”的防护思路,推出智能体安全防护与管理系统,覆盖智能体资产发现、行为管控、威胁检测、事件响应和损失恢复等关键环节。
1.2 行业概况:智能体安全的兴起
人工智能正经历从“内容生成”到“自主执行”的范式跃迁。以大语言模型为基座的AI智能体(AI Agent)开始具备调用外部工具、访问数据库、自主规划任务序列的能力,能够在较少人类干预下完成复杂工作流程。这一转变极大拓展了AI的应用边界,同时也将安全风险从“内容层面”延伸至“权限管理和行为管控”层面。
具体而言,智能体带来的新型安全挑战包括:智能体权限的粒度控制(如何防止智能体越权访问敏感数据)、自主决策的可解释性与人类管控(如何确保关键决策环节的人类监督)、多智能体协作中的安全传导(一个智能体被攻破后风险如何不扩散至整个协作网络)、以及智能体全生命周期安全管理(从部署、运行到退役的持续安全防护)。这些挑战超越了传统网络安全的范畴,也超出了内容安全治理的既有框架,亟需新的治理范式。
在这一背景下,世界互联网大会人工智能专业委员会将“智能体安全可控与协同治理”列为2027年度安全与治理推进计划的核心方向,标志着AI安全治理的重心从“管内容”向“管行为”的战略性转移。
……