所谓技术失控，根本就是个伪问题
| ||
|
——读约翰·乔丹《机器人与人》
⊙胡艳丽
世间本不存在超人，自从有了“人类+”，超人时代就来临了。这绝不是科幻，而是正在步步逼近我们的现实。
近年来，人工智能技术一路高歌猛进，占据了新闻和舆论热点，各国学者纷纷预言未来人工智能的种种可能。一方面，世人对人工智能技术的指数化崛起充满了热望，另一方面，大家对智能机器人的恐惧也在与日俱增，“技术失控”成了人们心头挥之不去的隐忧。
在《机器人与人》中，宾夕法尼亚州立大学约翰·乔丹教授并未从“技术派”的角度细述人工智能的种种可能，而是将作家们天马行空的想象与人工智能的现实应用及未来的种种可能糅杂起来，带领读者进入一个充满惊险刺激的世界：这里“超人”横行，人与机器人真假难辨，你根本无法知道正在对面跟你聊天的是否是人，或者是“半人马”，又或者仅仅是高仿真的智能机器人！
文学是科技的先遣部队
在人工智能技术尚未具备雏形之时，捷克作家卡若尔·卡派克于1920年出版的剧本《罗素姆的万能机器人》就曾轰动了整个欧洲。这是继100年前英国作家玛丽·雪莱创作《弗兰肯斯坦——现代普罗米修斯的故事》后，人类再一次对制造人造生命并受到人造生命反噬的又一次悲剧性预言。《罗素姆的万能机器人》剧中有一位名叫罗素姆的哲学家，他研制出一种外貌与人类相差无几的机器人，被资本家大批制造用来充当劳动力。然而，资本家没有注意到的是，这些机器人拥有自主思考的能力，于是引发了一场机器人灭绝人类的叛变……
拥有了独立自主的意识，拥有了除自然生命本身以外所有的人类特征的机器人，已经是非常接近人的“物种”了。如此，资本家对类人机器人的压迫似乎就代表着非正义；而机器人对创造者的反戈相向，就如同子噬父，又违反了人类社会的基本伦理道德。这其中的是非善恶，又岂是三言两语能说清的？但可以肯定的是，人类有着充当上帝的执念，不论冒着怎样的危险，只要技术上能够达到，人类总会进行各种尝试，复制并增强自己并非不可能。
到了1939年，一位名叫艾萨克·阿西莫夫的高产作家，与一位科幻杂志编辑，为了文学创作的需求，推出了“机器人三定律”：即机器人不得伤害人类；在不违反第一定律的前提下，绝对服从人类的任何命令；在不违反前两定律的前提下，机器人必须尽力保护自己。随着阿西莫夫作品的日渐丰富，作品中人类与机器人互动方式不断拓展，机器人与整个人类社会的关系走向纵深。为此，他进一步圈定了文学作品中机器人的行为边界，即机器人不得伤害人类整体，或者坐视人类整体受到伤害。
很显然，阿西莫夫的三条定律，只是出于他的一厢情愿，他可以用来规束自己的文学创作，影响后人作品的基调，消减人们对机器人的部分恐惧，但相对于人类的创造生命，不断为机器赋能的执念而言，所有的规矩都如同掩耳盗铃，文学设想一旦触碰现实，立即土崩瓦解。科学家之间的竞争、各国围绕人工智能的“军备竞赛”，都决定了这是一场有起点、有“奇点”，却不可能有终点的马拉松竞赛。只是这种马拉松赛程才刚刚起步，在各国政府源源不断的资金及资源支持下，选手们已进入了超速状态，此时鏖战正酣。
在没有硝烟的技术争霸时代，得人工智能核心技术者得天下已是不争的事实，这一点既适于商业及信息领域，也适用于军事领域。
人们真正惧怕的是人心之恶
《机器人与人》探讨了人类利用人工智能正在进行和即将开始的种种应用。比如工业机器人正在生产线上逐步替代传统产业工人，完成各种体力及精密加工以及传送任务。根据国际机器人联盟的数据，全球范围内有超过100万台工业机器人，在2014年所创造的工业收入将近百亿美元。伴随工业机器人技术的普及应用，这样的数据显然会呈指数化增长。目前，机器人正在挺进服务行业，比如成为站在前台替代政府工作人员的咨询员、导引员，成为酒店、宾馆的迎宾员、家庭的清扫员、服务员，甚至是人类的情感陪护。在高智力领域，人工智能正在尝试替代人类记账、写作，挑战顶级人类选手的棋艺，并逐步挺进高精密的医疗手术领域。书中还提到了智能机器人在灾难救援、空中侦测，甚至是军事袭击等领域的应用。
只是，人工智能机器人每前进一大步，人类自然生理能力就退化一大步，这并非危言耸听。当机械替代了人类的体力劳动，人的力量在弱化；当导航系统替代了人类辨识方向，人们依靠大自然提供的指引识别方向、记忆路线的能力在退化；当谷歌、百度为人们提供一切想要的快捷信息，人类的记忆力在退化。更进一步，假如机器人全面挺进人类情感陪护领域，那我们的共情能力是否也会渐渐退化？人之为人的基本根基是否会动摇？
以上应用，也仅仅是机器对人的各种能力的替代或强化，假如有一天机器人超越技术奇点，开始反噬人类呢？其实，这样的问题从一开始就是一道伪命题，因为这世界从来不存在失控的技术，只有失控的人类。即使如《机器人与人》中提到的机器人执行伤害人类的指令，甚至是携带自爆程序在公共空间引发群体性灾难，也都并非出于机器人的“自愿”。
首先，技术从来就没有政治属性。比如火的应用，可以看做是文明之光，也可看成是恶魔之光，关键在于人使用火来做什么。加工美味的食物、为自身取暖、发电、照明，这样的火焰如天使般美好，但是用来屠城、烧毁家园、引爆炸弹，就邪恶了，但火本身并没有邪恶之处，关键是站在火焰背后，操纵火焰的人。
即使人类科学家朝着为机器人注入自主判断力、行为能力、思维能力的方向努力，也并非等同于机器人可以完全脱离人类的“智慧供给”。机器人的思维能力来源于其背后海量的数据和大量的运算公式，一旦机器人脱离了大数据及云计算的支撑，脱离了数据源的持续供给，其“智力”水平终将处于停滞状态，而其的“思维”方式，依靠的是人类给定的路径，一旦超出原来的路径范围，机器就会“大脑短路”。如此，机器人单独行凶作恶的可能几近于零。即使机器人真的作恶，其背后的真凶仍然是人。
所以，与其想着如何控制机器人的行为，不如从更深层次去捻灭人类恶的欲火，让“潘多拉的魔盒”永远不见天日。
可见，人类真正惧怕的并非是人工智能，而是藏在人工智能背后的人心之恶，惧怕的是人工智能的研发者、操作者借工具之利放纵内心的黑暗。
“人类+”与潘多拉的魔盒
据媒体报道，Google DeepMind联合创始人Demis Hassabi、SpaceX 执行总裁埃隆·马斯克与2400多名科学家7月中旬签署了关于不发展致命性AI武器的协议，宣称他们不会参与开发或制造能自动识别和攻击人的机器人。不过，这一纸承诺的法律效率究竟何在，对参与者的约束力究竟有多强，尚不得而知。这个世界纷繁复杂，经济、政治、权力，利益巨大的诱惑可能引发的危机，并不是一纸承诺就可以化解的。如果承诺可以解决世界危机，那么这个世界也不会发生那么多战争，出现那么多悲剧。面对75亿庞大且复杂的人类群体，我们不能寄望于科技和权力塔尖人群的单方面承诺，而是需要更多的人与人、国与国之间的制衡机制。
遗憾的是，人们行动的速度，总是滞后于危机产生的速度。即使危机雏形已现。目前为止，人类并没有一个哪怕是初步方案，去限制人工智能及人工智能与生命科学相结合所产生的种种可能。
在书的最后，约翰·乔丹停止了对人工智能机器人冲击人类就业岗位，走进家庭冲击人类社会伦理等问题的论述，直接起用了人机合一的“人类+”概念。如果人工智能机器人，还只是一堆钢铁拼件再加上人工芯片，那么“人类+”就已经是将人类与智能机器合而为一。人类自身的心智、思维能力加上机器芯片的记忆、运算、逻辑加持，再加上钢筋铁臂、铜头铁骨，这样的“人类+”，在想象可达之域已是无所不能。
耐人寻味的是，作者对“人类+”的概念如蜻蜓点水，提出之后并没有延展这个概念并作综合分析，不知是否是对这个敏感的、容易触碰人类最脆弱神经的命题有所保留？“人类+”其实离我们并不遥远，现实中已经出现，只是目前的应用只是局限于弥补人的天生或后天造成的缺陷。以目前的发展趋势，在不远的未来，充满了各种异能的“人类+”必然将逐波袭来。届时，追问“我们从哪里来，要到哪里去”，将不再是哲学命题，而是一道终极的生存选题。
