【网络安全云课堂】人工智能给网络安全带来新挑战

网信正定 · 公众号 · · 2025-06-11 20:20

正文

请到「今天看啥」查看全文

“随着新一轮科技革命和产业革命的深入发展，尤其是人工智能、量子信息、区块链等新兴基础的加速突破和应用，我们正在从信息化时代迅速地步入智能化时代。”中国友谊促进会理事长、十三届全国政协社会和法制委员会副主任陈智敏表示，网络安全和数据安全的范式随之发生很大变化，也呈现出新的发展趋势和风险挑战。

陈智敏认为，人工智能广泛赋能网络安全，为网络安全提供了新的工具、新的手段、新的智能，但人工智能迭代加速拓展网络安全和数据安全的边界，带来新的安全威胁。

“人工智能能力的提升并不意味着安全能力的提升。”北京前瞻人工智能安全与治理研究院院长、联合国人工智能高层顾问机构专家曾毅认为，从2020年出现基础威胁，2021年出现角色扮演攻击，2022年出现梯度优化攻击，2023年出现多模态攻击、跨模态的威胁，2024年出现智能对抗攻击，到今年出现组合式复杂攻击，人工智能安全威胁呈现复杂化趋势。

中国互联网协会专家咨询委员会常务副主任、工业和信息化部原总工程师赵志国坦言，我国人工智能安全算法的原创性、模型的开放性、数据集的质量等仍与国外先进水平存在差距，人工智能在高级威胁分析、位置威胁发现等方面的作用仍需加快探索。

对于网络安全和数据安全，陈智敏还给出以下观察和思考：近年来，针对供应链的网络攻击事件多发频发。如何建立供应链的安全治理体系，确保供应链的稳定性、安全性，应成为网络安全和供应链安全的焦点问题。物联网安全已成为新的挑战。此外，现实世界资产代币化对数据安全也提出了新的更高要求。