一、案例背景
2026年9月14日，在国家网络安全宣传周上海地区活动开幕式上，上海市信息安全测评认证中心正式发布全国首个生成式人工智能安全测试公共服务平台——“智测能手”。该平台在上海市委网信办、市经信委的指导下建设，以公共服务产品的全新思路，为国内人工智能治理实践提供了“上海方案”。
根据官方披露的信息，“智测能手”平台的核心功能之一是大模型安全测评模块。该模块针对生成式人工智能可能涉及的违法违规内容、歧视偏见、事实性错误等风险，开展自动化评测，输出测评结论与优化建议。尤其值得关注的是，平台对模型违规输出的判定准确率不低于95%，这一技术指标达到了行业领先水平。
要理解这一事件的深远意义，需要将其置于中国生成式人工智能产业高速发展与安全治理需求日益迫切的双重背景之下。
从产业发展来看，自2023年以来，中国生成式人工智能产业进入爆发式增长阶段。据中国信息通信研究院发布的数据，截至2025年底，国内已备案上线的大模型数量超过300个，相关企业超过4500家，核心产业规模突破6000亿元人民币。上海作为中国人工智能产业的高地，集聚了商汤科技、阶跃星辰、MiniMax等一批头部大模型企业，人工智能产业规模连续多年保持两位数增长。
然而，产业高速扩张的同时，安全风险也在同步累积。生成式人工智能因其开放性和涌现性特征，可能产生违法违规内容、社会歧视与偏见、事实性错误（即“幻觉”）等多类风险。这些问题一旦大规模扩散，将对社会信息生态、公共安全乃至国家安全构成威胁。
从治理层面看，中国已建立起较为系统的生成式人工智能治理框架。2023年7月，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》，确立了备案制、安全评估等基本制度。此后，相关配套标准和规范陆续出台。但在实践中，一个突出的矛盾逐渐显现：大量中小型人工智能企业缺乏独立开展安全测评的技术能力和资金实力，而第三方测评市场尚不成熟，导致安全测评供给严重不足。
……