主要观点总结
该文章主要介绍了生成式人工智能相关的技术及其安全要求。生成式人工智能能够产生文字、图像或其他媒体以回应提示工程，例如ChatGPT。文章还介绍了多项关于生成式人工智能服务安全的国家标准，包括GB/T 45654-2025、GB/T 45652-2025、GB/T 45674-2025等，它们分别规定了生成式人工智能服务的安全要求、预训练和优化训练数据的安全规范以及数据标注的安全规范等。此外，文章还涉及人工智能生成合成内容标识方法、人工智能管理体系、大模型的通用要求等相关内容。同时，文章也提到了人工智能安全认证专家(CAISP)认证的相关内容，并介绍了汇哲科技及其培训服务。
关键观点总结
关键观点1: 生成式人工智能技术不断发展，为社会生产生活提供便利，但同时也带来大量网络安全新风险和挑战。
生成式人工智能能够产生文字、图像等媒体以回应提示，但存在安全风险，需要标准规范来提高其安全性。
关键观点2: 多项国家标准发布，规范生成式人工智能服务安全。
包括GB/T 45654-2025、GB/T 45652-2025、GB/T 45674-2025等标准，分别规定了生成式人工智能服务的安全要求、预训练和优化训练数据的安全规范以及数据标注的安全规范等。
关键观点3: 人工智能安全认证专家(CAISP)认证的重要性。
该认证为AI领域从业人员提供全面的AI安全课程，培养其在这一领域的专业能力。
关键观点4: 网络安全问题的现实案例。
包括美伊利保险公司因网络攻击导致的业务中断、永善县农信合作联社因违反网络安全规定被罚款，以及小区门禁数据被不法分子利用等案例。
正文
发布日期：2025-04-25
实施日期：2025-11-01
归口单位：由全国网络安全标准化技术委员会提出并归口
适用范围：预训练和优化训练数据是生成式人工智能的基础，直接决定了生成内容的质量和安全水平，但由于预训练和优化训练数据在收集、预处理、使用等处理活动中存在安全风险，亟需标准规范用于提高预训练和优化训练数据的安全水平。本文件规定了生成式人工智能预训练和优化训练数据及其处理活动的安全要求，描述了相应的评价方法适用于生成式人工智能服务提供者开展预训练和优化训练数据处理活动以及安全自评估，也适用于第三方机构对预训练和优化训练数据进行安全性评估。
3.GB/T 45674-2025《网络安全技术 生成式人工智能数据标注安全规范》
发布日期：2025-04-25
实施日期：2025-11-01
归口单位：由全国网络安全标准化技术委员会提出并归口
适用范围：数据标注是生成式人工智能的关键活动，直接决定了训练数据以及生成内容的质量和安全水平，但由于标注规则不完善、人员管理不规范、核验标准不明确等原因，在数据标注过程中也可能为生成式人工智能引入新的风险隐患，亟需标准规范用于提高数据标注的安全水平。本文件规定了生成式人工智能训练的数据标注平台或工具安全要求、数据标注规则安全要求、数据标注人员要求、数据标注核验要求,描述了数据标注安全评价方法，适用于生成式人工智能数据标注组织方开展训练数据标注活动,并为生成式人工智能数据需求方对于数据标注进行检查、验收或第三方机构对数据标注进行安全性评估提供参考。
4.GBT 45438-2025《网络安全技术 人工智能生成合成内容标识方法》
发布日期：2025-02-28
实施日期：2025-09-01
归口单位：由中央网络安全和信息化委员会办公室提出并归口
适用范围：为规范生成合成服务提供者和内容传播服务提供者对人工智能生成合成内容开展标识活动，根据《人工智能生成合成内容标识办法》等有关法律法规，制定人工智能生成合成内容的显式标识和隐式标识方法标准，以支撑有关法律法规的有效实施。本文件规定了人工智能生成合成内容标识方法，适用于生成合成服务提供者和内容传播服务提供者开展人工智能生成合成内容标识活动。
5.GB/T45081-2024 ISO/IEC42001: 2023《人工智能 管理体系》
发布日期：2024-11-28
实施日期：2024-11-28
归口单位：由全国信息技术标准化技术委员会提出并归口
适用范围：本文件为在组织范围内建立、实施 、维护和持续改进人工智能管理体系规定了要求并提供了指南。本文件适用于提供或使用人工智能系统的产品或服务的组织。本文件旨在帮助组织负责任地开发、提供或使用人工智能系统，以实现其目标，并满足适用的法规要求，以及相关方的义务和期望，适用于各种规模、类型和性质的提供或使用人工智能系统产品或服务的组织。
