正文
学术界应该有一派这样的观点，随着AI技术的发展会有少数人具备了更加强大的利用AI技术的能力，而让大多数人会变成无用之物，这是一个不那么乐观，但是很有可能的未来。从积极的方面去想，你会看到另外一个随着技术进步它会让人类所接触、所探索的边界不断的去向外延伸，那我觉得随着人工智能的成熟，我们现在还局限在地球这个很小的星球上，将来是不是有更大的机会走出去，如果能走出去，可能我们的终结会更慢一点。
李雨嘉：
非常感谢杨帆的一本正经的胡说八道
。汪玉，听完三位嘉宾的分享，下面能不能再给我们分享一下更多更激烈更sharp
的观点？
汪玉：
我作为一个做硬件的人，一般来说是最保守的，因为硬件一般都是在算法出来之后一两年才会出来。但我非常同意刚才一个观点，人类一定是自己把自己作死的，不管这个工具有多强大。我们还是会觉得人工智能至少现在这个智能还是人工的，是人类的工具，这个工具用好了就可以拓展你的边界，干更多更好玩的事情，不会没有事干，永远有事做，但你用在哪儿，怎么用，这是人自己的事。
就像前两天大家传的视频，一堆无人机飞起来，一架飞机带一颗子弹，如果这是机器自己的意识，那是很可怕的，但是机器不太可能会有自己的意识，这是我坚持的观点，但是最终这件事情是由谁来做的，我相信机器不太产生意识，这个背后一定是有人来指使的，我有这样的感觉，这是人作死的，这一点我同意。
李雨嘉：
接下来我们请守崑来谈一谈你的观点。
王守崑：
关于终结者的讨论，有两个层面，工业社会是农业社会的终结者吗？有两个意思，首先从人数上或者社会发展上来讲，的确工业社会是农业社会的终结者，从事农业的人变少了，取代了原来农业化的包括社会结构，包括人的思想这些方面，从这个意义上来说，这是终结者。但是另一个层面来说，几千年的农业社会没让我们吃饱过，工业社会真正让我们吃饱了，是把我们带到了另外一个层次，超越了，从这个意义上可能不是人类社会的终结者，会把我们带来一个新的层次，带来超越性的体验。
从另外一个角度，我非常同意前面几位老师的观点，AI很难产生意识，不像我们人类有进化的动力，我目前看不到AI进化的动力，背后反映的还是我们人的意识，是一部分人去追求他想要的东西所体现出来的意志，谢谢。
人类到底害怕AI什么？
李雨嘉：
刚才我在台上听到了五位嘉宾的分享，我觉得这个话题大家谈的还蛮深，现在我想提一些更刺激的问题，也希望大家拿出一些更刺激的答案展现给现场的观众。我们提到了很多的观点都是在说AI跟人类的关系，这段时间一个非常流行的观点是“AI的威胁论”，我的问题就来了，人类到底害怕AI什么？我点名吧，李笛。
李笛：
我觉得人类害怕自己的这个小群体被AI取代，比如说他经过了很长时间的艺术创作，比如说下围棋，有人一辈子在做这个事情，突然发现他努力的终点可能是AI中间的一个点，这是人类害怕的，他觉得自己的一生就没有意义了。
李雨嘉：
胡郁怎么看，你觉得人类害怕AI什么？
胡郁：
很简单，自从人类在宇宙中诞生以来，我们一直是整个宇宙的主宰，在没有发现外星人之前我们还是有这样的自信。当我们创造了AI，我认为人类害怕的根源是来自于，如果我们创造了一个比我们更高层次的生命，我们就没法知道他在想什么。相当于在《三体》里面，大家考虑低维空间的生物对高维生物的所做所想无法理解，当你没法理解更强大的生物，AI从哲学上来讲，你不可能突破一个桎梏。
包括霍金经常讲的，因为他是一个宇宙物理学家，他觉得从哲学上来讲，AI对人类的对人类上的心理影响是类似的。有两种可能性，一个是比我们先进，但不是先进的太多，他可能就会独立。还有一个AI和外星人比我们先进的太多，多到他已经不care
你了，他可能是在无意中做的动作就把你影响了，人类的担心主要是来自于这么一点，这是我的感觉。
李雨嘉：
汪玉你同意胡郁的观点吗？
汪玉：
非常同意，一个比较远的担忧就是，人都想当老大，这是人本身心底的欲望，但是最现实的事情就是，比如之前我坐在出租车上，但是听说自动驾驶出来之后，我就会没工作了，我个体的经济来源或者是个体的发展就完全被堵死了。这是非常现实的一件事情，但是这肯定是会发生。
李雨嘉：
我想问一下守崑你恐惧人工智能吗？
王守崑：
我目前在做这个事情所以至少目前不恐惧，因为我知道它还只是一个工具。在二战的时候有这样的一个现象，美军在太平洋上有一些基地，这些基地都是土著的居民，这些人在美军撤走之后产生了宗教性的仪式，叫“货物崇拜”，就是“Cargo Cult”。他们把美军的飞机和车变成图腾画在他们的身上，作为一种崇拜性的仪式。
如果人工智能再往前发展，我们大众对这个东西缺乏一个真正的认知，的确会产生恐惧感，就像胡总说的，你让他完全没有办法理解，他会产生很深的恐惧或者是不是会变成崇拜，甚至是变成宗教的一种现象，这个就会变成一个很深刻的伦理问题和政治问题，会产生非常大的影响，不单是技术性的问题。
