AI安全进入“深水区”：产业界共推标准、评估与智能体防护新框架

行业动态

在“人工智能+”行动全面提速、AI原生应用加速落地的关键阶段，安全已成为支撑产业高质量发展的核心底座。12月1日，由中国互联网协会主办、中国信息通信研究院（以下简称“中国信通院”）承办的2025“人工智能+”产业生态大会“人工智能与安全论坛”在北京成功举办。论坛聚焦AI安全治理前沿议题，汇聚政产学研多方力量，发布多项研究成果、评估体系与行业标准，推动构建可信、协同、韧性的AI安全新生态。

中国互联网协会专家咨询委员会常务副主任、工业和信息化部原总工程师赵志国表示，人工智能正成为全球科技竞争的最前沿，统筹人工智能的发展与安全已成为关乎产业全局的关键议题。为此，赵志国提出三点建议：一是筑牢技术根基，聚焦可信算法、对抗防御等核心技术，构建具备内生安全能力的人工智能底座；二是深化融合应用，拓展人工智能在威胁识别、态势感知等场景的深度应用，提升风险响应与防护能力；三是完善治理生态，加快标准体系建设，推动产业协同与国际合作，共同营造安全、可信的人工智能发展环境。

北京市通信管理局党组成员、副局长王晖表示，“十五五”规划建议提出要“加强网络、数据、人工智能等新兴领域国家安全能力建设”，为我们下一步工作提供了根本遵循。信息通信与人工智能深度融合，积极赋能科技、产业、消费、民生、治理、全球合作等重点领域。未来，我们将围绕突出政策引领、夯实安全基础、强化技术攻关等方面，全面筑牢信息通信行业网络和数据安全防护底座，以高水平安全护航人工智能产业高质量发展。

中国信通院党委副书记王晓丽表示，坚持发展与安全并重、统筹人工智能的创新应用与安全治理，是保障人工智能健康有序发展的核心前提与必然要求。总体看，我国人工智能安全产业发展正迈入高质量发展轨道，政策环境持续优化，技术创新应用不断涌现，产业融合持续深化升级。未来，中国信通院将坚持使命定位，持续布局人工智能安全产业前瞻领域研究，大力推动产业基础设施生态与标准体系建设，促进相关产业创新发展。

论坛上，中国信通院发布了系列AI安全研究成果，并公布最新一批“可信安全”评估结果，覆盖可信云安全、可信AI云安全等领域，为行业技术选型与安全建设提供参考。

为响应中央经济工作会议关于“开展‘人工智能+’行动，培育未来产业”的部署，中国互联网协会主办首届“AI领航杯”“人工智能+”应用与技能大赛，其中“AI+安全”赛道由中国信通院承办。经过多轮角逐，共评选出48个获奖项目，包括3个一等奖、8个二等奖、15个三等奖及22个优秀奖，充分展现我国在AI安全领域的创新活力与实践成果。

随着大模型与智能体技术的快速演进，云上智能体已在政务、金融、通信、能源等关键领域规模化落地，但其带来的身份伪造、决策失控、权限滥用等新型风险日益凸显。对此，中国互联网协会与云计算标准和开源推进委员会联合发布《云上智能体安全发展研究报告》，系统梳理智能体安全挑战与防护路径，为云厂商、安全企业及行业用户提供建设指引。

针对端云协同场景下交互复杂度激增带来的隐私与数据泄露风险，论坛同步发布《端云协同 智能体交互双重授权安全指引》。该指引由中国信通院联合北京邮电大学、国家金融科技认证中心、天翼安全等机构共同研制，倡导建立“用户+应用”双重授权机制，推动智能体应用在合规前提下加速落地。

中国信通院云计算与大数据研究所郭雪在解读报告时表示，当前云上智能体正处于规模化落地的关键窗口期，其安全风险呈现传导快、影响广、隐蔽性强等特点。她呼吁通过“标准引领、技术突破、生态协同”三维共治，筑牢安全底座。

同场分享中，信通院马铭洋指出，传统安全工具已难以应对AI催生的新型威胁，“AI对抗AI”将成为未来防护核心方向。安全体系正加速向内生防御、主动智能与韧性自治转型，亟需攻克智能化安全技术瓶颈。

来自中国移动、中国电信、360、兴云数科等企业的专家也围绕可信AI实践、大模型安全运营、AI安全新基建、Agentic SOC等主题展开案例分享。在圆桌对话环节，启明星辰、奇安信、中国电信安全公司等代表就“智能化时代下AI安全的挑战与破局之道”深入探讨，一致认为唯有构建开放协同的产业生态，方能实现安全与发展双赢。

值得关注的是，论坛正式启动《AI原生云安全能力成熟度要求》标准研制工作。该标准将明确AI原生云安全的核心维度、评价框架与指标体系，为各类主体提供可量化、可评估的建设指南，加速安全能力与AI原生场景的深度融合。

随着本次论坛落幕，中国信通院表示将持续发挥产业平台作用，通过标准制定、测试评估、生态对接等方式，推动AI安全产业迈向更高水平。在政策引导、技术驱动与多方协同下，一个安全可信、开放共赢的人工智能安全新生态正加速成型，为数字经济高质量发展注入坚实保障与持久动能。

免责声明：本文观点仅代表作者本人，供参考、交流，不构成任何建议。