主要观点总结
文章探讨了人工智能与大脑之间的双向关系，包括大脑如何影响人工智能的创造以及人工智能如何启示我们对大脑的理解。同时，文章也详细描述了大脑和人工智能在认知、学习、规划、感知、想象、模拟和语言等方面的不同和相似之处。
关键观点总结
关键观点1: 人工智能与大脑的双向关系。
大脑可以教会我们如何创造出类人的人工智能，而人工智能也可以启示我们对大脑的理解。
关键观点2: 大脑的初始进化目的和转向能力的发展。
第一个大脑和两侧对称动物的身体共享了相同的初始进化目的，即通过转向进行导航。转向是成本最低、最实用的能力，简单到可以在进化修补时偶然发现它，从此大脑开始发展。
关键观点3: 多巴胺的角色和判断好坏的能力的重要性。
多巴胺不是对愉悦的信号反应，而是对即将获得愉悦的预期信号。动物接近特定事物并回避其他事物，具有调整判断好坏的能力成为生死攸关的问题。
关键观点4: 现代人工智能系统的训练问题和长期存在的挑战。
多数现代人工智能系统需要经过训练过程，一旦训练完成就会被送往世界各地使用，不再学习。如果世界发生突发事件，这些系统需要重新训练，否则可能犯下灾难性的错误。
关键观点5: 大脑的学习、规划和想象能力。
大脑在学习中执行各种行为的能力越强，通过识别更多事物获得的优势就越大。早期脊椎动物大脑的进化标志着许多第一次的出现，如空间地图的识别能力。想象力是感知的另一面，两者都是模拟的过程。
关键观点6: 心智理论在人工智能和谐共存中的重要性。
心智理论可能是构建与超级人工智能系统和谐共存的未来的最关键要素。如果超级人工智能系统不能推断出人类话语的真正含义，可能会导致灾难性的后果。
关键观点7: 语言和模拟在智能传播和积累中的作用。
语言使我们能够窥探并从他人的想象行为中学习，从他们的情景记忆、未来行动的反事实想象中学习。人类之所以能够跨世代积累共享的模拟（思想、知识、概念、想法），真正的原因在于语言的存在。
关键观点8: 未来人工智能的潜力和挑战。
未来的类人人工智能不会仅仅是大语言模型，其潜力远超当前。然而，不融入外部世界的内部模型或他人思维的模型，大语言模型将无法捕捉到人类智能的本质。未来的智能可能摆脱生物限制，实现天文级的扩展。
正文
失望和解脱都是大脑新产生的特征，旨在通过预测未来的奖励来学习。事实上，如果没有对未来奖励的准确预测，当它没有发生时，就不会有失望。同样，如果没有对未来痛苦的准确预测，当它没有发生时，就不会有解脱。
P134
下丘脑在本质上只是早期两侧对称动物转向大脑的更高级版本：它将外部刺激简化成好的和坏的，并触发对每个刺激的反射反应。
P135
下丘脑并不会因为预测性的线索而兴奋，它只会在真正得到它想要的东西时（比如饥饿时得到食物，寒冷时感到温暖）才会感到兴奋。
P139
任何给定的气味都可以由被激活的嗅觉神经元的特定组合模式表示。总之，气味识别不过是模式识别。
P146
自联想揭示了脊椎动物记忆与计算机记忆之间的一个重要区别。自联想表明，脊椎动物的大脑使用的是内容可寻址存储——通过提供原始经历的一部分子集来回忆整段记忆，这部分子集能够重新激活原始的模式。……然而，计算机使用的是地址可寻址存储——这 种记忆只有在拥有唯一的存储地址时，才能调用它们。如果你失去了这个地址，你就失去了这段记忆。
P148
灾难性遗忘问题并不是一个深奥难懂的发现，而是神经网络普遍面临且极具破坏性的局限：当神经网络被训练去识别一个新的模式或执行新的任务时，它可能会干扰甚至遗忘之前已经学会的模式。
P148
我们不允许人工智能系统一步一步学习。相反地，它们一次性学习所有东西，随即停止学习。
P149
正如嗅觉神经元形成独特的气味模式一样，视网膜中的神经元则构建了视觉模式。你的视觉能力，实质上依赖于你识别和理解这些视觉模式的能力。
P158
大脑在世界中学习并执行各种行为的能力越强，通过识别更多事物所获得的优势就越大。大脑能够识别的独特物体和地点越多，其能够学习和掌握的独特行为也就越丰富
