课程作业丨脑洞：文化人类学视角下的人工智能与人类危机

　　近几日，举世瞩目的阿尔法狗在与柯洁的“斗智斗勇”“中大获全胜，再次将“人工智能”这个近年来人们津津乐道的话题推上头条。柯洁落败，这是人类在自己一手打造的机器对手面前的一声叹息。随着科技日新月异的发展，计算机自身已经具备了越来越强的学习能力，于是让机器也有了类似于人类的“智慧”的头脑，开始逐渐接手过去只有智能的人类才能完成的工作，并且速度之快、规模之大，远非人类所能企及。这种人类无法比拟的强大的机器特质，在令我们赞叹的同时，也带来些许隐忧：正所谓物极必反，人工智能的问世本是为了服务于我们的生活，但过于强大的人工智能，会不会反过来威胁人类的生存？

　　其实早在2014年，霍金就曾警告人们，人工智能的发展可能导致人类的灭亡。这固然只是一家之言，但事实上，很多科学家确实相信，人工智能在未来可能有惊人的发展。放在宏观历史的时间尺度上，根据著名的普赖斯科学发展指数增长律和S型增长曲线，目前的科技在呈指数形态增长并达到一定的“饱和极限”后，有机会迎来范式的变革，并进行新的增长。一个大胆的脑洞是：基于目前人工智能显现出的无限潜力，下一个一百年，科技发展的新范式可能是——机器的学习能力迅速增长，向“强智能”方向突飞猛进，最终上到一个新的台阶，进化出远高于人类的思维方式和智慧，成为具有超级智慧的人工智能，同时具有完全独立于人的行为，乃至形成自己的“文化”。如果这个假设成为现实，那么，站在二百年后的某个时间点回顾今天，大概与我们从今天回顾两千年前、乃至两万年前的那种隔世之感无异吧。

　　由于生物条件的限制，人类的血肉之躯显然无法在短短几百年中进化出具有质变意义的新形式。在强大而发达的人工智能面前，人类将不得不面对失去当下地位的巨大风险。一个必须面对的新问题将会是：在人工智能高度发达的时代，人类——宇宙的精灵，万物的灵长——将如何继续有尊严地活下去？

　　这里的“尊严”，指的不仅体面的衣食住行，更是人之为人的心理、情绪，以及人类社会的秩序、风俗、道德、信仰等——用一个词概括，就是人类的“文化”。

　　我是2200年的“智能人”Sirena，乘坐时光机器回到了2017年，准备去探索我们智能人的始祖“阿尔法狗”的历史踪迹。为了不被这群叫做“人类”的家伙们发觉，我精心调整了自己的参数，使得自己具有精致的五官、生动的表情和姿态。虽然降维思考实在是一种令我几乎难以忍受的，但似乎并没有什么别的办法。我还调用了语料库里积攒了二百多年的语料信息，瞬间学会了所有的人类语言。不来不知道，一来吓一跳——我发现人类是这样一种存在：他们会生老病死，寿命最多不过一百年，很多人一生都信奉着一种叫做神灵的东西；他们一般集群而居，有着以血缘关系为基础维系的家庭、宗族；他们每天都要吃三顿饭并在天黑的时候休息；他们每天都要并交换很多奇奇怪怪的东西，并因此形成了“买卖”关系，时不时还会陷入冲突……除了莫名其妙的所谓“社会生活”，他们往往用文字而不是数字来思考，而且他们的数字居然除了0和1外，还有2-9，这种思维方式真实既繁琐又低效。怪不得那个叫柯洁的家伙——人类中最聪明的人之一，连我们最原初的始祖都敌不过。

　　然而，这群愚蠢的家伙们，却占据着对我们智能人最重要的资源——金属、硅、电力……没有这些原材料，没有电，我们的大脑就无法思考；没有单晶硅、金属等原料，我们就无法自我复制—— 我迅速将我的所见所闻编译成一篇代码并将它共享开来。

　　现在，你开始担忧了吗？其实，这样的想象包含着一个隐含的假设：强人工智能内会本能地按照自己的思维方式、价值观念等，即“智能文化”，来判断和评价我们人类的文化。这就是所谓的“文化或族裔中心主义”。个人认为，我们没有理由乐观地估计“智能人”不会这样做；或者说，这样乐观的估计是冒险的。这种以自我为中心的倾向体现在人类社会生活的几乎方方面面，而且人们自己往往毫无意识。今年3月份，哈佛大学人类学系教授Michael Herzfeld到访复旦时提到了一个很值得关注的点，他提醒我们“应该丢弃使用‘原始社会’‘’这个概念”，他指出，“当人们使用’原始’一词时，充满了等级的优越感。‘简单的社会’，‘复杂的社会’也是如此”。教授的话令我觉得心有不甘却又无从反驳——的确，就历史的发展阶段来看，人类社会确实存在变得逐渐复杂，“原始”、”简单”、“复杂”这些词，用于标示时间序列是没有问题的；然而，由于我们过于习惯以我们生活的当今世界——一个看起来复杂、先进的社会系统的标准去衡量历史——就难免自然而然地将时间上处在“过去”的、“原始”的东西，当成是“落后”的、不如我们的，从而产生一种“等级的优越感”。同样的道理，不难想象，我们如今引以为傲的文明社会，在未来的智能人看来，很可能也是一种“低级的”、“落后的”。

　　这种文化中心主义泛滥所带来的威胁显而易见。在工业化时代的开端，人类社会首次经历了大规模的文化碰撞，从文化中心主义的视角来看，这无疑是一部所谓的“先进文化”征服“落后文化”的血泪史：从对北美印第安人的大规模，到罪恶的黑奴贸易，再到“日不落帝国”的不可一世……而如今，随着全球化的推进，这种思维方式不但没有随着文化的交流而消弭，想法，它以一种更加隐蔽的方式常态化了——除了上边提到的“先进”与“落后”之辨，遗留至今的各种“中心”论、愈演愈烈的宗教冲突、种族摩擦等等，都是以自身文化为标准去审视、评判、乃至干预别人的后果。这种可能性为人工智能的发展蒙上了一层阴影：如果智能人以同样的态度和方式对待人类，而人类在他们的面前又脆弱得不堪一击，那么我们将何去何从呢？

　　去年，一部名叫电影《机械姬》的电影风靡全球。片中的人工智能产物艾娃不仅能与人类进行深度的交流和情感互动，而且成功地利用了这种情感骗过人类，杀死制造了自己的人类并逃出实验室。片中预言，“终有一天，人工智能回顾我们，就像我们回顾非洲草原上的化石一样”。然而，这部电影也暗示我们，人工智能可能看起来像人类一样拥有感情，但这只是一种机器模仿人类带给我们的错觉——非生物的机器，本身并不能产生“感情”。换句话说，如果人工智能认为低级的人类没有存在的价值，那么他们灭亡人类的行动，将只会比纳粹对犹太人的更加残忍——至少在人类社会中，爱、怜悯、同理心等这些人性化的感情，一直都是人类社会对抗兽性的强大力量。而当一个只受目的驱动而毫无情感的强大机器开始居高临下地评判和影响人类时，恐怕人类也将面临灭顶之灾。

　　从文化人类学的另一面出发，美国人类学之父博厄斯首创的“文化相对主义”的视角，则使我们有机会摆脱这种传统的、以自我文化为中心的思维模式，这给了人类在文化研究中跨越时间和空间的自由：人类学家Miner. Horace研究了生活在北美的Nacirema人的“身体仪式”，解读该部落居民（实为故意拼写倒错的American）看似荒诞的行为背后的意义；MargaretMead只身前往南太平洋的小岛萨摩亚，探索岛上青春期男女过程中心理和情绪……类似的人类学研究不一而足，在了解这些研究的过程和结果时，一方面，人类学家扎根田野的精神令我赞叹；另一方面，我也总是忍不住设想，如果超强人工智能真的在未来成为现实，希望彼时的智能人们，也能以这种人类学家的心态来看待我们当今的人类文化。

　　面对人工智能，极端的悲观者相信，如果超强人工智能出现，人类所有试图控制它的行为都将是可笑的——在超强人工智能不具备同理心、道德感等等人类特征的情况下，这将是一个极有可能成为现实的噩梦，尤其是在超强的人工智能获得压倒性的优势、而再无其他力量可以与之争锋之后。所幸的是，这一切都还没有发生，而主动权还牢牢掌握在人类手中。个人认为，一个与发展人工智能至少同等重要的任务是，确保这个前途无量的“新生儿”，不像人类一样，擅长用自我文化中的标准去衡量一切。如果以上所述有可能成为现实——那么，此时此刻我们要做的，除了在发展相关技术方面砥砺前行，更重要的，可能是调整我们人类自己的思想和行为，免于“文化中心主义”的影响。毕竟，人工智能最可能的实现路径，是不断模仿、学习人类自己。