美国国会听证会观察之（九）：AI创新与隐私保护如何衡平？

正文

请到「今天看啥」查看全文

美国国会听证会观察之（八）：人工智能的监督：人工智能立法 来自英伟达公司的Bill Dally的书面证词

【主要内容】

一、关于Mozilla

Mozilla是一家非营利基金会、开源社区和科技公司，致力于推进互联网的公共资源性质和用户隐私保护。

二、全面隐私立法的必要性

隐私是人工智能政策的重要组成部分 。人工智能，尤其是生成式人工智能，已经创造了一种推动公司收集尽可能多数据的动力， 形成了一场积累大量数据的竞赛。 公司能收集到的任何额外数据，包括专有数据和个人数据，都可能成为关键的竞争优势。 因为公司 试图建立 "数据护城河" ，抵御潜在的竞争对手。 如果没有监管，商业动机将驱使公司想方设法收集越来越多的数据。 例如，大型科技公司可以收集更多用户数据来训练人工智能模型，而随着数据价值的增加，数据经纪商也会有动力收集更多数据卖给有人工智能野心的第三方。 人工智能系统依赖数据发展壮大 ，而开发先进人工智能模型的驱动力也加剧了对大量个人信息的需求。 这种数据收集往往是在未经充分同意或欺骗性选择的情况下进行的 ，给个人隐私和安全带来了巨大风险。

三、数据最小化：隐私与人工智能政策的核心与基石 ‍ ‍

数据最小化原则确保仅收集实现特定目的所必需的数据，降低隐私泄露风险。例如：

1、知情同意： 在使用个人数据训练人工智能模型时，个人必须切实了解其数据的使用方式，并被征得明确同意。

2、隐私设计： 将隐私考虑因素纳入人工智能系统的设计和开发，确保隐私不是事后考虑的问题，而是一个基本组成部分。

四、 对隐私增强技术的投资

立法固然重要，但技术进步必须与立法并驾齐驱，才能创造一个更安全、更私密的未来。 需要对 隐私增强技术（ privacy-enhancing technologies, PETs） 进行大量投资，以开发尊重和保护个人隐私的人工智能系统 。

1、隐私增强技术能够提供创新解决方案，降低人工 智能生命周期中的风险，同时确保在不阻碍技术进步的情况下维护隐私。例如， PETs可 以在设备上进行训练和处理，或通过差异化隐私来混淆机器学习输出，以降低被重新识别 的风险 。

2、 Mozilla致力于在浏览器和人工智能领域推进隐私保护方法。 开发优先考虑用户隐私的工具， 这些工具在用户设备上运行（通过 Llamafile 等项目） ，并 开发可互操作的私人归因（IPA） 等技术，通过利用多方计算，最大限度地减少通过浏览器收集数据的需要

请到「今天看啥」查看全文