“新质生产力意见”明确AI安全底线：治理从“内容合规”转向“行为可控”

近日，中共中央、国务院正式印发《关于发展新质生产力的意见》。在“全面实施‘人工智能+’行动”一节中，文件明确提出“构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。业内分析认为，这标志着AI治理主线正从“内容合规”转向“行为可控”。

事件背景

今年以来，我国AI治理制度密集落地：从《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》，到《人工智能拟人化互动服务管理暂行办法》《智能体规范应用与创新发展实施意见》，已初步形成覆盖内容生成、标识管理、拟人化互动、智能体应用等关键环节的制度体系。此次《意见》可视为对上述分散政策的顶层整合。

核心内容

财联社援引人工智能分析师观点指出，此次《意见》把安全能力从单点产品上升为系统性基础设施。随着智能体能够调用工具、访问系统、执行任务，安全治理不能只停留在模型输出层面，而必须覆盖资产识别、权限管控、运行审计与应急处置全链条。

值得关注的是，全国网络安全标准化技术委员会秘书处近期发布的《网络安全标准实践指南——智能体部署使用安全指引》，首次为智能体从评估、部署到停用全流程划出安全红线。

影响与解读

政策信号清晰：当AI从“能对话”走向“能办事”，监管重点也从“管住模型说什么”转向“约束智能体做什么”。数据显示，截至今年8月底，全国累计1112款生成式AI服务完成备案，731款应用或功能完成登记；“清朗·整治AI应用乱象”专项行动第一阶段累计处置违规AI产品1.4万余款，综合性立法也已提上日程。

相关动态与展望

对大模型厂商与企业用户而言，安全投入正从可选项变为必答题。业内建议，研发方应在训练、发布环节落实安全检测与可追溯机制，使用方在部署前应主动开展安全审计，并坚持权限隔离与数据最小授权，避免把完整权限直接交给智能体。

信息来源：21经济网·财联社；央广网·AI安全治理走向深水区。