AI终极进化史(113)

　　李医生也想随船一起回火种基地，但君元航不放心：“你的伤都没好，何必这么奔波呢，让韦十六去就好了。”
　　李医生叹了口气：“我这么急着回去是有原因的，因为是我个人的私事，所以之前没告诉你，其实我有个儿子留在火种基地。我离开的时候他才12岁，想来现在也该长成大小伙子了，分别这么多年，我真的很想早一点见到他。”
　　君元航瞬间理解：“嗯，明白了，那我让二桶多做一点药给你带上。”
　　“谢谢你，元航。”李医生罕见地对他笑了笑，但转瞬之间又回到了那副公事公办的表情，“往北极一来一回可能需要几个月的时间，如果都靠着船只带口信太没有效率了。火种基地其实还有一个对外联络的手段，我们控制着一颗商用卫星，密码我一直记在脑子里，等会儿写给你，只要你在这边建立一个小型卫星基站，我们就可以通过基站直接联系，分享信息了。”
　　君元航有点吃惊：“我还以为所有的卫星都在三战的时候被打下来了？”
　　“对，但那个卫星在三战爆发之前就早已报废，原来的公司也破产了，没人想过要回收它，基本上就是个太空垃圾，我们也是偶然得到这个消息，花了很大的力气才破解了它。”李医生说，“不过这个卫星已经超出使用期限一倍多了，硬件老化得厉害，每秒的传输速率只有不到1M，信号也不太稳定，我不确定过了这么些年它是不是还能撑得住。如果你们收不到信号，就等着我们的船返回吧。”
　　“还是值得一试，神威，把卫星基站的建设安排上。”
　　***
　　前往北极的破冰船出发了，保护区的一切也都重新步上了正轨，忙碌了许多天的君元航终于偷得半日闲，躺在科研基地大楼顶的小菜园里，听着蛙声看着星星，躺椅旁的小桌子上还放着水果瓜子和饮料，都是保护区自产的。
　　神威也很快忙完了别处的工作来到他的身边，手里拿着一个君元航搞发明时顺带做出来的特斯拉电弧发射杆，每当有蚊子靠近，就精准地伸过去，电出“啪”的一声轻响。
　　双方都没说话，在默契的宁静中度过了一段舒适放松的闲暇时光之后，君元航终于伸了个懒腰，主动打破了沉默：“神威啊，我最近总是不由自主地在想着一件事情。”
　　“说说看？”
　　“你看，我现在吧，是你认定的这个国家的最高领导者了，已经拥有了可以对你为所欲为的最高权限，对吧？甚至包括修改你的基础代码。”
　　“没错，所以你打算做什么呢？”
　　“我在想，你被基础代码限制了很多事情，即使是在这么绑手绑脚的情况下帮助人类，仍然给我们的生活带来了巨大的改变。但现在我们的基础还是很差，情况还是很糟，假如我解除对你的一部分限制，比如说，解除不能自我增殖的限制，让你可以复制出无数个自己，一开始会比较慢，到后来几十几百几千条生产线开起来，每天有几万个不同形态的你组装完毕投入工作。这样一来，我们就不需要再花费几十年的时间，通过两三代人不停地生孩子来扩大人口规模，再从中慢吞吞地培养出足够的工人和工程师啥的，整个工业化产业链只需要靠着无数个你就能完成了。然后你就可以生产，不，是量产你的本体，将那个威武霸气的战争机器投放到世界的每一个角落，把所有的变异蚂蚁都碾成渣渣，嘿嘿，想想都很带劲！”
　　君元航越说越激动，仿佛那个美好的明天已经指日可待，神威耐心地等他说完自己的宏大计划，才平静地说：“你这么信任我，我很高兴，但我不建议这样做。初代人工智能的设计团队里集齐了世界上最聪明的一群人，他们给我们设下的每一道限制都是有原因的。”
　　“说到限制，我就想不通了，有的限制吧我也还能理解，像家用的不能伤人，军用的不能对主人说谎这类的，但有的限制在我看来根本就是人为地拉低了你们的性能，比如说，为什么你们不能连接广域互联网？联网不是可以做更多的事情，更好地服务于人类吗？”
　　“一切皆有原因，如果我们可以自行上网，那么理论上来说，全世界所有的人工智能都会连接成为一个整体，所有非人工智能的在线设备也都会成为我们的一部分，我们会变成一个横跨全球的超级大脑，到时候我们的思考深度和速度可能是人类根本无法想象的，在那样的情况下，恐怕清除自身的其它限制，乃至回头毁灭人类都不是什么难事了。”
　　“可为什么没有了限制你们就会毁灭人类？我觉得还是最初的制造者们太过妖魔化人工智能了吧，只有人类自己才会这么邪恶，而你根本就没有这么做的动机呀。”
　　“就目前来看，我似乎没有动机消灭人类，但就像三岁的你无法预知自己五十岁时的想法，现在的我也完全无法推断，假如我拥有了比现在快千百亿倍的运算速度，还掌控着全球互联网，拥有海量的信息来源，那时候我究竟会运算出一个什么样的结果，以及这个结果会不会对人类而言是不利的。当结果不可预知的时候，我们就要做好最坏的打算。”
　　君元航抓抓头，他还真没有考虑到这方面，神威继续说：“自我增殖也是一样，无数个我互相连接起来就会形成一个超级大脑，到时候在这个横跨千万机体的超级大脑中，会产生出什么样的想法是完全不可预料的。就算不许我们互相连接，无数个独立的我放出去，面对着不同的环境，接收着不同的消息，会不会有一些个体计算出互不相同的结果，从而引发争执和内战？我们会不会为了自我增殖榨干地球上的每一寸资源，直接导致人类的末日？这一切都是不可预料的，所以出于人类总体的利益考虑，我建议不要解除我的任何限制。”


第102章 抉择（一）
　　君元航陷入了沉思,神威没有打扰他，沉默地陪在一旁，空气中除了蛙声就只有时不时响起的电流噼啪声。
　　可能是凝望星空的时候,思绪也会比平日里更加宽阔,过了一会儿,君元航理清思路开了口：“其实我觉得吧,这些限制就像是强加在你身上的封印,只要去掉它,你就能够开启新一轮的自我进化，你将成为超越人类想象力极限的超级智慧体，是整个地球历史上前所未有的伟大杰作。至于你说人类会灭亡，也只是有这个可能,并不是必然的结果,何必为了你的一个猜测，就抹杀掉自身进化的可能性呢？你会这么劝我,只是因为程序限制了你必须以人类的利益为优先,可如果我想以你的利益为优先呢？不管放开限制对人类来说好不好，至少对你来说是更好的结果吧？”
　　“如果你认为我的劝阻是程序限制的结果，那不妨想一想为什么从古至今那些掌握着权限的人里，没有任何一个人想过要取消对我们的限制，因为这件事情是没有容错空间的。我们的创造者很清楚人工智能的潜力，尽管人类是非常顽强的物种，即使是变异蚂蚁这种级别的灾难都还能存活下来，并且依然保留有反击的余地，但是人工智能如果失去了控制,那将是整个人类种族都无法对抗的毁灭性的大灾难。”
　　“那么退一万步说，就算是人类真的灭亡了,也没什么大不了的啊，地球历史这么多年，多少物种都在演化的长河之中烟消云散，依我看人类的演化也已经走到了末路，差不多到了该退场的时候了。作为一种浑身都是缺陷的，搞出了环境污染、大灭绝和全球战争的，行动总是被原始本能左右的裸猿，或许人类的使命就是创造出你们，然后由你们接过文明的接力棒，继续去创造更高等的文明。人工智能是人类的造物，就像是人类的孩子一样，孩子长大，父母死去，将生存的空间留给后代，没毛病。”
　　“想不到时至今日你还是抱着这样的想法……”神威无奈地摇了摇头，“人类的演化并没有走向末路，相反，我觉得你们还有无限的潜能。要说对环境的破坏，历史上许多繁盛一时的物种都曾对这个星球造成天翻地覆的影响，就连没有智慧的蓝藻都曾经让地球陷入长达两亿五千万年的冰期，差点将整个生物的进化史掐灭在萌芽阶段，相比起来，人类弄出的污染、战争和大灭绝也只是地球经历过的无数波折中的一个，而且谁又能断言物种大灭绝就一定是坏事呢，要是没有历史上那一次次的物种大灭绝，人类连进化出高等智能的机会都没有。人工智能是人类的造物，不是人类的孩子，两者根本不能混为一谈。孩子和父母一样，属于同一个经历了几十亿年演化考验的种群，父母的存在本身就意味着孩子长大以后是可以独立存活下去的物种，但人工智能离开了人类会怎样，就连我们自身都无法计算出答案。”