让机器变得善良

正文

请到「今天看啥」查看全文

我们和机器智能互为知己？像大雄和哆啦 A 梦那样！想想其实也不错呢，忠实、温暖的蓝胖子真是好朋友的不二选项。不过，不是所有的机器智能都这么可爱，每次想到《终结者》里面的液态金属机器人，那个可以在固态和液态之间任意转变、可以把身体任何的部位随意变成尖刀的机器智能，我就觉得毛骨悚然，半夜还会睡不着觉。

上次和 Alex 哥哥讨论这个问题的时候，他就说：“那我们就让这些机器人只做好事，不做坏事就可以了啊。”你是不是也这么想的？两个聪明的小朋友！你们和好多工程师的想法不谋而合呢。

阿西莫夫老爷爷是写科幻小说最厉害的人，他为了让机器人只做好事，不做坏事，提出了著名的机器人三定律。 世界上所有的机器人必须依从三个定律， 任何违反这三条定律的机器人都会启动自毁程序 ：

第一，机器人不能伤害人类，或者因为袖手旁观而让人类受到伤害；

第二，除非违背第一条原则，机器人必须服从人类的命令；

第 三，在不违反第一和第二条法则的前提下，机器人必须保护自己。

老爷爷觉得，有了这三条定律，机器人就永远不会叛变、不会破坏、不会对人类造成伤害 ，像电影《Matrix》里面机器人控制人类身体和灵魂的事情就不会出现。

聪明的人类制定各种社会规则用来管理自己，在未来也管理机器 。好的规则可以约束技术，让它应用在对人类有益的地方——帮我们收拾房间、买菜做饭、陪我们旅行、让社会生产更多产品，而约束它可能对我们造成的坏影响。 这些规则的设定非常重要 ，它们其实是技术发展更为重要的组成部分呢。

不过，阿姨偷偷告诉你一件事情，你不要告诉叔叔哦！他们工程师们其实还是把这个问题想得太简单了。像阿姨这样研究社会的学者还担心另外一件事情呢：前几天 Alex 哥哥又一遍复习《星球大战》系列电影的时候对克隆军队发生了兴趣。 在第二部《星球大战》里面，大量制造出来的克隆战士，组成浩浩荡荡的大军冲锋陷阵，护卫银河共和国的稳定。但是在第三部里面， 黑暗势力启动了克隆人的预设指令，庞大的军队调转枪口，成为杀害绝地武士、推翻共和国的主力。 Alex 哥哥看完电影困惑地问我：“妈妈，制造克隆军队到底是不是一件好事？”

请到「今天看啥」查看全文