浅析AI对个人及企业的全方位冲击

数据何规 · 公众号 · · 2025-04-16 19:00

正文

请到「今天看啥」查看全文

1. 人工智能快速发展，但用户数据到底如何利用与保护始终成“谜”

当前备受关注的典型问题是，生成式人工智能（“Gen AI”）模型对数据的依赖，让“使用用户数据训练模型”成为许多企业的默认做法。

我国目前暂未有针对性执法，但域外已有多家企业陷入相关争议甚至处罚，例如LinkedIn, X, Meta, Open AI等。

为此，我们选取了中美10家模型厂商在实践中对这一问题所采取的策略，发现企业在实践中对用户权益保护措施仍有一定差距（详见后文表1）。主要体现在以下方面：

明确告知 ：有1家企业未明确披露；另有3家企业采取了“优化服务”等笼统、间接性的表达话术。
使用数据种类 ：均表达为“输入和输出内容”，仅有1家企业对使用数据的具体种类做了进一步说明。
脱敏处理 ：8家企业均声明采取了“去标识化”措施，1家企业声称达到“匿名化”，但并不清楚具体采取了哪些措施、能达到何种效果。
实现机制 ：仅4家企业提供了交互按钮。

可见， “脱敏处理”已成为企业的通行做法 ， 为其利用用户数据添加一层“合理” 的保护 。 但我们仍建议 ， 企业进一步提高透明度 、 为用户提供便捷的行权机制 。

表1 – 企业使用用户数据相关实践调研

2. 人格权益纠纷将因人工智能的发展而显著增多

Deepfake技术让个人生物特征易被“复制”，引发人格权侵害问题。这样的事例在过去的一年频繁上演，引起了广泛的关注和讨论。

“三只羊”的“录音门”事件，其中的音频正式通过AI制作；此外，知名演员、科学家、企业家、医生等公众人物的形象与其背后的流量、商业价值紧密相连，成为主要“受害者”，网络上充斥着各类换脸带货视频或声音模仿素材，并具有惊人的相似度，这些内容通常用于广告宣传或其他商业目的，严重侵犯了其人格权益。

礼丰业对当前发生的司法纠纷及相关法院判决观点进行了检索与整理。2023年至2025年2月，因AI技术引发的民事纠纷有 39起 ，其中超 25% 涉及人格权侵权纠纷，包括肖像、名誉、声音等各类人格权益。从判决结果看，未获得自然人合法授权，法院多认可构成侵权。

3. 人工智能的发展将对个人身心健康与安全造成难以估计的影响

除了个人的形象，AI的智能决策还可能会导致我们的身心健康与安全受到实质性的影响。自动驾驶是相关权益侵害最典型的AI应用场景之一。根据我们对美国官方数据的统计，2022至2025年美国共发生 2,927起 自动驾驶相关事故，造成 47人 死亡。2025年3月，广受大众关注与喜爱的小米SU7在高速发生交通事故，又将智驾安全问题推上了风口浪尖。

除了身体健康，“AI伴侣”等应用日益流行，对个人心理健康的影响也不容忽视，尤其是其用户和受众可能包括心理脆弱者、老年人、未成年人等群体。因AI聊天诱发心理疾病与自我伤害的极端案例也已有发生，14岁美国少年因沉迷AI而自杀身亡的悲剧事件，为行业敲响了警钟。

除了相关安全评估原则性要求，我们在报告中，以典型的医疗行业与自动驾驶行业为例，进一步探讨了行业安全要求的探索规则。 鉴于AI在垂类产业应用广泛且具有较大差异性，还需结合不同产业应用实际情况，尽快制定具体规则 。