“脑机融合”比人工智能更危险

正文

请到「今天看啥」查看全文

文 | 中山大学人机互联实验室 翟振明 朱奕如

马斯克和霍金都在预警人工智能对人类的极大威胁，马斯克还宣称有了应对措施：先把人脑与人工智能融合。他还说干就干，成立了新公司。

但我的预警却是：马斯克要做的事对人类的威胁，比人工智能的威胁要大得多。我们要联合起来，坚决抵制！

1

致命的问题

埃隆·马斯克（ Elon Musk ）成立的新公司Neuralink要把人脑与计算机直接融合。马斯克宣称，人类社会即将全面进入人工智能时代，为了避免被新物种——超人工智能威胁甚至消灭，人们唯一的出路就是将自己的大脑与AI融为一体。

无独有偶，我最近在很多场合做演讲谈到VR（ 虚拟现实 ）的未来发展，期望头盔越来越小越来越轻变成一般眼镜的样子，就经常有业界人士接茬说，以后哪里需要眼镜，接到脑中枢就是了。

马斯克希望“脑机界面”能进行人类意识的实时翻译并将之转化为可输出的电子信号，从而可以连接并控制各种外部设备，用他的话说就是“当你的念头一闪而过时，电视机或车库门便自动打开了”。初一看，这里说的是人脑控制信号的输出，但是所有的控制都需要信号的反馈，也就是说，在设计输出的接口时同时还要设计输入的回路，才能实施控制。

但是，无论是马斯克之流的AI脑机接口派还是VR领域的直接输入派，都没回答过这样一个致命的问题：“你们知道如何防止人类的自我意识被彻底抹除吗？”

2

信息与信号的分离或混淆

我们的自然感官，主要是让我们接受认知性的信息，而不是让外来的控制信号随便侵入，这就为保护和维持我们每个个体的主体地位打下了基础。有鉴于此，我们必须要坚持如下三条初始状态的“非对称原则”：

请到「今天看啥」查看全文