《蜂群机器人：下一代自主系统的技术和运行概述》80页报告（微信文章未删减版）

许多研究实验室和政府机构对开发机器人系统集群的兴趣日益浓厚，这些系统有能力协调它们的行动，为执行一个共同的目标而集体工作。作为一个团体，机器人群可以执行简单和复杂的任务，这是单个机器人无法做到的。蜂群中的每个机器人单元都可以被视为一个自主成员，根据内部规则和环境状态做出反应。然而，正是机器人的这种自主决策能力（单独或作为一个群体），引起了国际社会的关注。

2014年，各国政府在《联合国特定常规武器公约》（CCW）的主持下，开始就致命性自主武器系统（LAWS）领域的新兴技术进行国际讨论。在这种情况下，对蜂群进行了讨论--尽管是小范围的。各个国家和民间社会行动者都对蜂群作为（致命的自主）武器进行部署表示关切。在2017年《特定常规武器公约》缔约国会议期间，民间社会行为者发布了一个虚构的视频，说明他们对蜂群的扩散以及恶意行为者可能利用蜂群对个人进行大规模致命攻击的担忧。

虽然不清楚各国是否也有这种担忧，但各国至少认识到，在未来的情况下，进攻性措施不太可能由一个单一的系统组成。相反，它们将由具有互补能力的此类系统群组成。机器人群尚未投入使用，而且技术相当脆弱，但机器人群的前景是非常真实的。蜂群可用于情报、监视和侦察行动；周边监视和保护；分布式攻击；压倒敌人的防空设施；部队保护；欺骗；搜索和救援行动；反击蜂群；以及枯燥、肮脏和危险的任务。因此，国际社会正在努力解决关于如何--如果有的话--在未来的冲突中负责任地、合法地和安全地使用机器人群的问题。

与机器人群和致命性自主武器系统有关的一个关键问题是围绕着 "人机互动 "和 "人类控制 "等概念的含义和运行。正如主席在2016年《特定常规武器公约》专家会议的总结中所述，在未来的情况下，"如果致命性自主武器系统群作为武力倍增器发挥作用，如何对武力的使用保持有意义的人类控制将是不清楚的"。随着《特定常规武器公约》致命性武器系统政府专家组进入关键的两年，除其他活动外，它将审查和制定致命性武器系统领域新兴技术的规范和操作框架的各个方面，了解这一领域的研究和发展方向至关重要。

本研究报告通过研究蜂群机器人技术对人机互动的影响来支持和指导这些审议工作。本报告对人类控制蜂群的各种方法进行了分析：（1）通过指令进行人机互动；（2）通过设计和使用特定的控制架构，将人机和机机互动结合起来；以及（3）通过设计和使用特定的蜂群内合作方法，实现机机互动。此外，它将人类控制的概念放在军事决策的背景下，从而引入了一个指挥和控制的框架，在这个框架内可以进一步讨论、分析和发展诸如人机互动和人类控制等概念。这项研究的结果与各种各样的关键利益相关者有关，包括政策制定者、军事组织、外交界、技术界、学术界、私营部门和民间社会组织。

现有的蜂群--在民用和军用领域--要么正在开发，要么仍处于测试和演示阶段。过去和正在进行的项目主要表明，蜂群能够执行特定的（狭窄的）任务（形成形状、编队飞行、前往和搜索或绘制一个区域、在周边巡逻、保护一个边界）。因此，蜂群可以被认为是一种新兴技术，因此，可以作为一个有用的案例来讨论人类控制的方法。

在军事背景下操作蜂群的主要挑战涉及到设计和实施适当的人机和机机互动。研究人员和开发人员已经采取了许多方法将人的参与注入蜂群中。在蜂群的背景下，人的参与或控制通常是指指挥、控制或协调：

指挥：人类发出什么命令？(与人机关系有关。)虽然机器人群被期望在大多数情况下自主运作，但它们不会在真空中或没有指令的情况下运作。机器人群最终在人类决策者的指导下运作。这些指令可能以各种形式出现，包括预编程的行为集或高级或低级的指令。

控制：哪些控制架构决定了蜂群内的任务分配？与机器-机器关系有关）在人类发出指令后，蜂群依靠算法进行编队、监测、间隔、飞行路径、任务分配、目标识别等。这些算法，或如它们也被称为控制架构，决定了蜂群内的任务分配。例如，命令可以下达给作为中央控制器的一个机器人，但它们也可以下达给几个小队长或整个蜂群组合。

协调：蜂群如何执行这些任务？(与机器-机器的关系有关）在人类向蜂群（或蜂群中的特定单元）提供了命令，控制架构也确定了命令的分配方式后，蜂群必须协调其集体行为和分配的任务。蜂群如何行动这些分配的任务，部分取决于协调方法。例子包括领导者-追随者（一个机器人单元是领导者，其他机器人作为追随者），以及共识算法（单个机器人相互沟通，通过投票或基于拍卖的方法收敛于一个解决方案）。

目前缺乏研究调查人类如何有效地指挥、控制和协调蜂群，如何对蜂群进行有效和负责任的参与仍然是蜂群机器人技术的一个新兴研究领域。关于人类控制致命性自主武器系统和蜂群的讨论有许多相似之处。然而，由于两个原因，蜂群可能使讨论进一步复杂化。

首先，在致命性自主武器系统领域关于人机互动的辩论主要集中在人类操作员和一个（或至少是有限数量的）致命性自主武器系统之间的关系。当只有一个车辆（或有限数量的车辆）时，传统的控制形式是可能的。然而，对于机器人群来说，直接控制单个机器人单元是不可能的，而且会适得其反。对于蜂群，有必要依靠算法来进行编队、监测、间隔、飞行路径、任务分配、目标识别等等。因此，为了使人类的参与保持有效，必须越来越多地转移到蜂群整体上。

第二，除了人机互动，蜂群不可避免地要进行机-机互动。单个机器人与蜂群中的其他机器人互动以完成任务，在此过程中，可能出现集体行为。虽然本报告显示，有不同的方法来设计指挥、控制架构和合作方法，以帮助减轻蜂群带来的一些挑战，但似乎没有一般的方法来解释个人规则和（期望的）群体行为之间的关系。有些人可能会争辩说，蜂群中的机器-机器行为不可避免地意味着没有人类控制。虽然在某些情况下这可能是真的，但这并不是蜂群技术的必然结果。

随着国际社会在2020年和2021年继续讨论致命性自主武器系统，并将重点放在指导原则的进一步发展和运作上，人类决策的作用无疑仍将是核心问题之一。通过在审议人类控制和人机互动时利用蜂群等近期技术和相关的指挥和控制模式，国际社会可以着手对军事实践中如何行使或不行使控制权有一个更全面的了解--现在和未来的行动。

本报告结构

本研究报告的目的是支持目前关于致命性自主武器系统领域的新兴技术和相关概念（如人机互动）的讨论并为其提供信息。这项研究的结果与各种关键利益相关者有关，包括政策制定者、军事组织、外交界、技术界、学术界、私营部门和民间社会组织。在此背景下，本报告研究了在蜂群机器人领域的指挥、控制和协调方法。

首先在第2章中阐述了包括蜂群在内的武器将被使用以及人类将行使控制权的背景。了解军事决策中C2的这一背景框架与讨论 "有意义的人类控制 "和 "人机互动 "等概念有关，这与致命性自主武器系统和蜂群有关。

第3章从技术角度介绍了蜂群的定义特征，而第4章解释了在正在进行的蜂群研发中如何考虑和应用指挥、控制和协调。第5章介绍了不同类型的蜂群及其特征之间的权衡概念，其依据是一些技术属性。

由于蜂群机器人技术仍然是一门相对年轻的学科，而且目前还没有（军事）蜂群投入使用，因此第6章阐述了潜在的军事应用、蜂群投入使用的挑战和脆弱性。第7章是本报告的结尾，提出了在目前政府专家组关于致命性自主武器系统讨论的背景下，对未来发展的相关考虑。

专知便捷查看

便捷下载，请关注专知智能防务公众号（点击上方关注）
点击“发消息” 回复 “SR80” 就可以获取《《蜂群机器人：下一代自主系统的技术和运行概述》80页报告》专知下载链接

欢迎微信扫一扫加专知助手，咨询使用专知，定制服务合作！

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取70000+AI(AI与军事、医药、公安等)主题干货知识资料！

点击“阅读原文”，了解使用专知，查看获取70000+AI主题知识资料