在2025年世界人工智能大会上，由中国信息通信研究院（信通院）牵头，20余家单位共同参与的《中国人工智能安全承诺框架》正式发布。这一框架的出台，标志着AI技术的应用已进入新的安全管理阶段。随着AI技术及大模型的加速发展，传统安全框架面临前所未有的挑战，数据与人工智能的深度融合不仅推动了效率和模式的快速升级，也使得建设“可信、可控、安全”的数字底座成为当下不可忽视的迫切需求。
根据IBM最新发布的《2025年数据泄露成本报告》显示，13%的企业承认曾遭遇过AI模型或应用的安全漏洞，而8%的企业甚至无法确认是否已受到侵害。这一现状的背后，暴露了97%受影响企业未能有效部署AI访问控制机制，致使60%的AI安全事件导致了数据泄露，31%的事件则引发了业务中断。
在AI技术不断推进的过程中，安全保障的过于强硬可能抑制创新的步伐。同时，模型的不可解释性也给监管带来了一定难题。如何在创新与安全之间找到平衡，成为业界的重要议题。
《中国人工智能安全承诺框架》提出了七项核心承诺，涵盖了从全生命周期风险管理、模型安全测试、数据和基础设施安全保障、提升模型透明度，到防范前沿领域的安全风险等多方面内容。这些承诺的落实，旨在提升AI系统的安全性与可靠性，确保在创新应用的同时，不会放松对数据隐私和业务连续性的保护。
在“人工智能发展与安全”全体会议上，专家们纷纷指出，AI与网络安全的相互依存关系要求提升传统安全防护能力，并呼吁跨学科合作，共同构建一个以“辅助博弈”为核心的安全框架。在这个框架下，AI系统将主动学习人类的偏好，而不仅仅是模仿行为，通过冗余验证等“软硬件结合”的方式，降低AI系统的潜在风险。
与此同时，报告中还提到，围绕AI安全的应用领域逐渐扩展至工业、教育、医疗、金融和法律等场景。这些领域中的安全性和可靠性测试，已经成为当前最重要的任务之一。具体的方案包括浩瀚深度（金融）、永信至诚（网络安全健康监测）、迪普科技（垂直行业AI智能体）等企业在该领域的深耕，正在推动AI与安全的深度融合。
此外，随着数据和基础设施安全问题的日益严峻，数字中台的能力要求也在不断提升。包括安恒信息、奇安信、深信服等公司正积极应对这一挑战，致力于提升数字平台的安全防护能力。硬件方面，在全球芯片安全法案、以及中美科技竞争加剧的背景下，国产AI芯片的研发迎来了新的机遇。华为昇腾和寒武纪等国产AI算芯片有望借此机会加速国产化进程，为未来的增长奠定基础。
报告进一步指出，通信领域也面临着多重挑战与机遇。无线通信和算力相关领域的投资支撑较为强劲，而部分行业的底部订单也开始恢复，预计盈利状况将在未来逐步改善。在这一大背景下，报告推荐了包括中国移动、中国电信、中国联通等运营商在内的算力与通信基础设施板块，另外还特别提到，光模块、光放大器、激光器等领域的公司，如光迅科技、华工科技等，将在光网络升级中受益。
总体来看，2025年人工智能安全领域的发展将会深刻影响到各行各业的数字化转型。面对AI技术的飞速发展，如何建立健全的安全框架，保证技术创新不偏离安全轨道，将是接下来几年中各界必须解决的关键问题。