正文
© University of Cambridge
大多数专家都认为我们还没有对有意识的AI聊天机器人犯下“精神犯罪”。一些研究人员已经制定了科学作家格蕾丝·赫金斯（Grace Huckins）总结的临时“意识报告卡”，对当前AI系统的属性进行评分，以评估其意识的可能性[2]。这些研究人员，包括神经科学家、计算机科学家、哲学家和心理学家在内，
发现目前的AI得分都不高，不足以被认为是有意识的。
然而，他们认为，构建有意识的AI在技术上没有明显的障碍；通向有意识AI的道路看起来是可行的，甚至是不可避免的。
但这是因为他们的整个项目都取决于一个关键假设：“计算功能主义”（computational functionalism）是正确的，或者说意识不依赖于任何特定的物质。
相反，对意识来说重要的是正确的抽象计算属性。任何物理物质——肉、硅片等等——只要能执行正确的计算，就能产生意识。如果真是这样的话，那么有意识的人工智能基本上就只是时间问题了。
做出这个假设有助于丰富我们的理论，但如果我们不断做出这个假设而不回头检视它，这个问题本身就会逐渐消失。与此同时，我们也失去了在这个高度不确定领域中获得某种道德清晰度的最佳机会。
© Lina Müller
AI意识的关键问题不在于它能执行多少不同的任务，或者它是否能通过图灵测试[3]，甚至也不是我们新兴的意识检测仪告诉我们其电位活动是否足够复杂[4]。
决定性的问题在于“计算功能主义”是否正确：
你需要“肉”才能拥有思想意识吗？
如果意识需要“肉”，那么无论技术多么先进，关于AI意识的整个争论都会变得无关紧要。没有生物学就没有意识，没有意识也就没有痛苦的风险。
但这并不意味着先进的AI就一定安全；不需要AI具有意识，只需要它足够强大。我们可以在创建和监管AI系统时，不必担心我们可能在创造一种新的奴隶，其内心灵魂被限制在客户服务聊天窗口中的乏味生活中。
与其问每个新的
AI
系统是否最终都具有意识体验，不如关注更基本的问题，即，
是否有可能存在任何类型的非生物感知思维，
这可以提供更广泛的见解。至少，它可以澄清我们关于制造数十亿台机器的道德难题——这些机器或许不仅能够思考，甚至能感受到爱和痛苦。
到目前为止，据人类所知，已知宇宙中所有曾经具有意识的事物都是由生物材料构成的。
这是“生物沙文主义”的一个重要观点，该观点得到了像纽约大学心智、大脑与意识中心（the NYU Center for Mind, Brain, and Consciousness）联合主任内德·布洛克（Ned Block）等哲学家的支持。
他们认为，构成意识的物质，或者说心智的“基质”，很重要。
如果生物基质是迄今为止我们发现的有关思考、心智的唯一基础，那么我们有理由认为生物学对于意识是必需的。
©
hypsen
斯坦福大学哲学家罗莎·曹（Rosa Cao）拥有认知科学和心灵哲学的双博士学位，她也认为，举证责任应落在那些认为肉体不是必要的人身上。“计算功能主义似乎比生物沙文主义更具投机性，”她通过电子邮件说。
然而，举证责任似乎还是落在了生物沙文主义者身上。计算功能主义是当今心灵哲学家普遍持有的观点
（尽管它仍然受到很多批评）
。例如，与布洛克共同领导纽约大学实验室的澳大利亚哲学家大卫·查尔默斯（David Chalmers）不仅不同意布洛克关于生物学必要性的观点，而且最近还大胆预测，未来10年我们开发出有意识的人工智能的可能性为20%。
再次强调，他的猜想建立在假设计算功能主义是正确的基础之上，或者说建立在这样一种观点之上：
心智的
基质
（无论是肉、金属还是硅）
并不那么重要。重要的是心智的
功能
，一些专家称这种观点为基质独立性（Substrate independence）[5]。
如果你能制造出一台机器，让它执行与肉体大脑相同的计算功能，那么你仍然可以获得意识。从这个角度来看，重要的功能是某些类型的信息处理——尽管对于哪些类型的处理可以区分无意识的信息计算系统
（如计算器）
和需要有意识体验的系统
（如你）
尚无共识。
抛开这个细节不谈，对意识而言，重要的是信息处理的结构或“抽象逻辑”，而不是执行它的物理实体。比如，考虑一下国际象棋游戏。只要有棋盘、两套棋子，并了解规则，任何人都可以下棋。但如果两个人被困在荒岛上，没有国际象棋，他们仍然可以下棋。他们可以在沙子上画线来重新制作棋盘，收集浮木和贝壳作为棋子，然后像以前一样下棋。
国际象棋游戏并不依赖于其物理基础。
重要的是游戏的抽象逻辑，例如将指定为“骑士”的棋子向前移动两格，向侧面移动一格。无论是木头还是沙子、大理石还是记号笔，任何能够支持正确逻辑程序的材料都可以产生国际象棋游戏。
意识也是如此。正如麻省理工学院物理学家马克斯·泰格马克（Max Tegmark）所言，
“意识是信息以某些复杂方式处理时的
感觉
。”
[6]如果意识是信息处理的抽象逻辑，那么生物学可能就像木制棋盘一样任意。
梅辛格认为，我们目前已经陷入了困境。我们无法知道一个人工系统是否可能具有意识，因为相互竞争且大部分是推测性的理论还没有就意识是什么达成任何共识。
神经科学擅长处理可以直接观察到的客观特性，例如神经元是否放电。但即使是我们最好的神经成像技术，也无法洞察
主观体验
。
我们只能通过语言等不精确的渠道，以间接的方式科学地观察意识的真实内容——愉悦、焦虑或咬一口新鲜芝士蛋糕的兴奋之情。
© Alexander Naughton
神经科学就像演化论之前的生物学一样，是“前范式”的，正如从神经科学家转行作家的埃里克·霍尔（Erik Hoel）所言[7]，
如果你不知道意识是什么，你就无法说出意识可以在哪里产生，不能在哪里产生。
正是由于我们对意识和痛苦的过早认识，梅辛格才呼吁全球应该暂停那些在不知不觉中创造新意识的研究。
请注意，他担心的是第二次痛苦的激增。第一次当然是我们自己的。
人类、动物，甚至某种程度上的植物和昆虫，所经历的悲伤、喜悦以及介于两者之间的一切，都可以追溯到地球上生物演化的黎明。
