专栏名称: 城市数据派
城市数据派Urban Data Party:专业的城市大数据媒体和知识服务平台。关注点:大数据、新数据、新技术、智慧城市、城市与交通规划、信息化。 网址:www.udparty.com
目录
相关文章推荐
安徽省人民政府网  ·  安徽与中亚五国经贸往来势头良好 ·  17 小时前  
海南市场监管  ·  知识产权丨认识海南地理标志 ... ·  19 小时前  
海南市场监管  ·  知识产权丨认识海南地理标志 ... ·  19 小时前  
IPRdaily  ·  海外预警 | ... ·  2 天前  
51好读  ›  专栏  ›  城市数据派

【Urban AI 思考】一份关于城市人工智能应用的起始框架丨城市数据派

城市数据派  · 公众号  ·  · 2025-05-12 11:50

正文

请到「今天看啥」查看全文


(如图1所示)。



图1. 本研究遵循的两个阶段

首先,我们对来自我们之前文章的100份人工智能伦理文件进行内容分析,以了解城市部门是如何被涉及的。我们开展这一阶段的工作是为了建立对现有特定于城市人工智能应用的伦理考量的基础理解。这些文件是使用手动编码技术和谷歌搜索(关键词如“人工智能伦理框架”“人工智能指导原则”“非洲人工智能伦理框架”“欧洲人工智能伦理框架”以及“国际人工智能伦理框架”)收集而来的。此外,我们还查阅了卢波和乔宾等人所著学术文章的参考文献列表和清单。从乔宾等人所强调的84份文件中,我们挑选了67份纳入我们的清单,排除了仅提供一般性见解的17份文件。进一步的搜索使我们的数据集扩充至100份文件,其中包括报告、指导原则、研究文章、框架以及声明,这些文件收集于2022年12月至2023年2月期间。


在内容分析过程中,我们聚焦于与城市背景相关的关键词,并在审阅期间确定了其他相关关键词。我们确定了七个城市领域的关键词:汽车、自主、交通/运输、出行、城市/城市群、城市/城市化以及空间。 表1总结了提及每个关键词的文件数量。针对每个关键词,我们审视了相关风险和伦理考量。基于我们的内容分析,我们制定了一个关于城市人工智能应用伦理的初步框架,涉及14项原则,如图1所示。


接下来,我们开展一项调查,以收集专家和利益相关者对所提框架的见解。 此次调查旨在验证并完善该框架,确保其能够有效应对城市人工智能应用的独特伦理挑战。我们利用此次调查来探索框架中所提出的伦理原则如何进行调整或扩展,以应对新兴的城市人工智能技术和应用。


调查对象包括26名具有不同观点和与城市人工智能相关经验的受访者,他们来自各种不同的职位和地理位置。对于我们而言,26份回复已然足够,因为我们想了解人们对该框架的看法以及他们认为应纳入的额外原则。我们从这26份回复中得到了想要的信息,所以无需再收集更多回复。在我们的研究中,重点不在于收集的受访者数量,而在于他们的回复以及所建议的原则。在受访者中,男性有17名,女性有8名,1名未声明性别。欧洲是代表人数最多的地区,参与者来自爱尔兰、意大利、英格兰、德国、荷兰、葡萄牙和马耳他。其他地区包括中东(埃及、迪拜、伊朗、沙特阿拉伯),以及巴基斯坦、尼日利亚、澳大利亚、加拿大和美国等国家。然而,拉丁美洲和东亚没有回复,这表明在这些地区的分布有限。


关于职位,首席执行官(CEO)是最频繁出现的职位(4名受访者,均为男性),其次是副教授、博士生、教授、研究人员和博士后研究人员(每种职位各出现两次)。最常见的职业是城市规划师(7人,占26.9%)、计算机科学家(6人,占23.1%)、哲学家(6人,占23.1%)和数据科学家(6人,占23.1%)。建筑师、城市设计师和城市政策专家各有4人提及(占15.4%),这表明在城市发展、规划、设计、政策和技术等广泛职业领域都对城市人工智能感兴趣。


受访者提及与城市人工智能联系最频繁的领域是交通和城市治理(各有12项回复,占比46.2%),其次是测绘和城市健康(分别有10项和8项回复,占比38.5%和30.8%)。与交通、治理、测绘和健康相关的问题都是全球城市努力应对的关键城市挑战。人工智能为这些挑战提供了有希望的解决方案,使其成为城市人工智能应用的焦点。交通和治理领域都会产生大量数据,而这些数据对于训练人工智能系统至关重要。丰富数据集的可用性使这些领域成为实施人工智能的理想选择。对人工智能在关键城市领域影响的推测直接支持了研究问题,表明了制定城市人工智能伦理框架的关键需求。


其他领域包括公民参与和能源(7项,占比26.9%)、水和预测性警务(6项,占比23.1%)以及城市安全(3项,占比11.5%)。对管理和运营城市基础设施的关注表明,城市人工智能主要被视为增强城市系统效率和可持续性的工具。受访者对城市人工智能的平均经验约为4.5年,范围从0年到20年不等,这表明受访者具有不同层次的专业知识。大多数受访者(80%)将自己对城市人工智能知识的评级定为3级或更高(采用1到5级的评分标准)。计算机科学家和数据科学家的平均评级较低(2.3),而城市规划师、建筑师和哲学家的评级较高(3.8或以上),这凸显了不同职业之间知识的差异。有趣的是,列出多个职业的受访者对人工智能伦理的知识评级(3.69)高于仅列出一个职业的受访者(3.46),这表明在城市人工智能中承担多样化的角色或职责有助于更好地理解人工智能伦理。总体而言,大多数受访者表示对人工智能伦理至少有一定程度的理解,这强调了跨学科合作和教育的必要性,以确保在城市环境中对人工智能伦理有全面的认识和应用。


3. 结果

3.1 第一阶段:在100份人工智能伦理文件中理解城市风险和伦理考量

在100份人工智能伦理文件中,有45份提到了与交通领域相关的关键词,为自动驾驶汽车提供了指导准则。这些文件强调了人工智能在交通领域的诸多益处,例如优化路线规划、减少交通事故致死人数以及缩短等待时间。然而,一些学者也指出了与自动驾驶汽车相关的一系列风险。


例如,布伦达格等人将威胁分为数字类(网络攻击、身份冒充、自动黑客攻击、对抗样本和数据投毒)、实体类(自主武器系统和微型无人机)以及政治类(监视、说服、欺骗、隐私侵犯和社会操控)。范·埃斯特等人将与自动驾驶汽车相关的风险归类为隐私问题、安全与保障、责任与问责、就业影响、伦理道德决策、社会和经济不平等以及人类自主性。


根据欧洲保险和职业养老金管理局以及英国上议院的观点,风险包括偏见和歧视、透明度和可解释性、数据隐私和安全、问责制、数据质量和完整性、消费者信任、伦理考量以及监管合规。互联网协会在这些风险基础上补充了经济影响、自主性和控制以及对社会互动的影响。瓦拉尼等人除了提到上述风险外,还提及了社会不平等和环境影响。而肖汉姆等人则补充了国际竞争和人机交互。


另一项由张等人进行的研究列举了一系列与自动驾驶汽车相关的风险,例如感知安全性、信任和接受度、信息不对称、激励和奖励、隐私问题、行为适应、法律和监管问题以及环境影响。


为了应对这些风险,这些文件提出了九项伦理原则:安全与保障、人类能动性、责任归属、实物所有权、数据所有权、数据隐私、开放公共数据、劳动力保护以及透明度。


当探究像“城市”这样的关键词时,我们发现了四种风险:城市基础设施准备不足、算法偏差、人脸识别引发的公民权利问题,以及人工智能对城市权力结构的影响、全球自动驾驶与智能系统伦理倡议组织。 这些文件建议了五项伦理原则来缓解这些风险:进行测试与制定法规、采用更公平的算法、保障人脸识别中的公民权利、开展公共教育,以及在智慧城市项目中保持透明度。


关于“空间”这一关键词,文件指出了两种风险:数据被重新利用以及空间隐私问题、信息与通信政策研究所。所提出的伦理原则是透明度和数据隐私。


对于“城市/城市化”这一关键词,风险包括因物联网设备产生的隐私问题以及城市基础设施的变化。建议的伦理考量包括数据隐私和更新城市规划法规。


图2对分析内容进行了总结,详细列出了与每个关键词相关的风险以及相应的伦理考量。

图2. 对100份人工智能伦理文件进行内容分析的结果,旨在通过内容分析理解其中的城市维度。

对100份人工智能伦理文件的内容分析表明,虽然这些文件涉及了城市中城市人工智能应用的风险和伦理考量,但它们并未探讨城市与城市人工智能应用之间的关系。这表明在考虑城市复杂性和既定权力结构方面存在不足。因此,从此次分析中得出的原则专门侧重于城市人工智能应用的伦理,而非广义的城市问题。


为了制定城市人工智能伦理框架,我们还分析了从这100份文件中选取的12份特定领域的文件结构。我们发现,特定领域的框架通常包含一系列原则或伦理规则,每项原则或规则后面都附有简要说明。 基于这一分析,我们制定了一个城市人工智能伦理框架,该框架由在城市背景下解释的指导原则组成。


基于上述分析,我们确定了14项原则,这些原则构成了城市人工智能应用伦理的初步基础。这些 原则如下:


  1. 人工智能与劳动力 :城市人工智能应用的开发和部署方式不应过度损害或惠及劳动力中的某些个人或群体。需要努力支持那些因人工智能技术快速发展而工作面临风险的个人,通过提供全面的培训和再技能提升项目,使他们具备未来工作所需的技能。


  2. 人工智能测试与实验规范







请到「今天看啥」查看全文