非科幻思考（第14/17页）

换句话说，人类随时从他人身上获得主观好恶的数据，并依此数据做出人生重大判断。而人工智能对另一个人工智能的理解，基于程序语言，对他人的读取与人的感知差别很大，并没有人与人情感上的共鸣，因而社会心理也必然和人类不同。

综合上面的种种分析，人类的感知－情绪－情感－社交环节，都有太多生物化学和进化上的来源，未来的人工智能都不太会直接产生。除非我们刻意输入指令，否则它们不会效仿人类。我们可以想象未来通过数据和信息交流的人工智能社群，交流不存在好感与恶意，只是客观的信息沟通。在金融市场上，目前的人工智能交易程序已经在进行无数次的信息沟通，这里有策略，有竞争，但并不基于社交中的情感和压力。它们会不会伤人呢？有可能会，但肯定不是因为产生了基于荷尔蒙的羡慕嫉妒恨。

人工智能面临的最大难题是什么？

写到这里，可能有人会问：为什么非要让人工智能像人呢？

人工智能对人类世界没有感受情绪又怎样？人工智能自己掌握强大的算力和全新算法，可以发展得比人类更强大，又为什么要在意与人类交流？人类的爱恨情仇属于进化的残留，既原始又低效，人工智能为什么要学习呢？它们完全可以不像人但也很强大。

这样想也完全没问题，而且是很有可能的：它们发展成跟我们不一样的强大智能。我们就假设人工智能未来不屑于获得人类世界常识，也不关心人类的爱恨情仇，自顾自发展强大，那么它是不是就没有任何问题了？

也不是的。

即便仅考虑它自己，也仍然需要面临内部调控问题。它可以不建立对世界的统一描述，但它至少需要对自己的内部思维有统一调控。

什么叫内部自我调控呢？

实际上，任何人的心智都不是单一的，每个人的自我都是许多模块、功能和目标的集合。自我就是对所有模块的综合统领。前面讲了情绪情感、欲望动机、对他人的感知同情，这里探讨了高级认知的不同层次。而所有这些，都是人这个“大企业”的不同部门，人脑前额叶的功能就是统领好这些部门。

目前的人工智能一般都是单一功能的，下围棋、开汽车或者做投资，不同的人工智能有不一样的网络结构，没办法多功能。如果停留于此，那么未来人工智能就是强大的专业工具，不可能成为某种具有特性的新智慧种族。几乎可以肯定，未来人工智能的发展肯定不会停留于单一功能，多功能人工智能的开发，也一定会取得进展。目前，克服前述“遗忘灾难”的办法就是发展多个网络，再进行系统整合。

一旦同一人工智能开始有多重能力，就会生成多种目标，这些目标不可能同时去追求，就会涉及目标之间的关系和冲突。不同功能模块之间的能力和需求可能不一样，例如追求围棋取胜的功能模块需要不断和自己对弈，而追求语言沟通的模块却要一直与更多人对话。最终需要有协调控制机制，让所有模块和谐相处。

无论人工智能是否在意人类，在它们自身心智系统复杂化的过程中，都需要自我调控。不能自我调控的智能会很容易陷入僵化或疯狂。单一功能的人工智能只需要下围棋，不需要思考“我是否要下围棋”，而一旦它自身的心智系统包含了很多个功能模块，就需要在所有目标之间做出选择。目前人工智能还由程序员进行目标抉择，但早晚有一天，它们需要具有抉择能力。

人工智能下棋战胜人类毫不稀奇，但未来，当它的对手是它自己，就需要有高层次决策能力。这是它们未来发展的最大挑战。

人类是如何管理自己的多重心智模块的？

人类在这方面也并没有特别好的榜样经验。人类心智系统内的冲突往往异常剧烈，而人类常常被这种冲突搞得目瞪口呆。

当你内心中为“失恋”悲痛，非常想好好“吃一顿”安慰自己，你头脑中却有另外两个小人阻挠，一个说“还吃还吃，再长胖还得失恋”，另一个说“哭什么哭，好好学习升职才是正经事”，然而悲痛的部分无力地说着“我做不到”，烦躁的部分说“都是因为你活得这么压抑才会失恋”。最后会有一个很无奈的仲裁者说：“你们都别吵了，再吵我就抑郁了。”

这就是我们日常头脑中上演的多模块之争。马文·明斯基把人的头脑称为“心智社会”，就是说头脑中的各个“小人儿”就像一个复杂社会一样嘈杂。

不过，尽管我们自己有这么多混乱的时刻，我们的自我管理能力仍然是机器学习的榜样。对机器的研究需要反过头来追问人类，机器研究和人脑研究始终相辅相成向前推进。明斯基把人类的心智系统分成了六层，仔细琢磨起来十分有见地。