听到明珀的话,沈亦奇却并没有因此而生气或是沉思。他甚至没有丝毫动摇与迟疑。就仿佛早就猜到了明珀会怎么回答一样。“我明白你的顾虑。”沈亦奇认真地点了点头:“确实会有你说的这种可能——机器与人工智能或许没有错,但制造、训练、控制、维护它们的人类,却有可能居心叵测、或是能力不足。“那如果,你也加入其中呢?如果你信不过我,你能信得过你自己吗?”“——不,也不能。”明珀身体微微后倾,靠坐在柔软的沙发上,毫不犹豫地答道:“我连我自己也信不过。“沈先生,你听过理查·加特林吗?”“......加特林的发明者?”“对,那位医学博士。”明珀缓缓说道:“他最初发明加特林机枪,就是因为在战场上见到了太多伤亡,并受到了刺激。他意识到光靠自己的力量,怎么也救不过来所有人.......于是,他为了能让一个士兵发挥一百个士兵的力量,就发明了加特林机枪。“他想,如果有这种更有效率的武器,那就可以减少战场伤亡了。因为那样的话,战争就不再需要那么多士兵了。如果战场上的士兵数量减少,战争就会结束得更快,也就等同于减少死伤。“——可然后呢?”明珀讥讽般地摊了摊手:“难道士兵的数量减少了吗?“并非是因为杀戮效率提升,所以就不再需要那么多的士兵来杀戮对方;而是因为杀戮效率提升,所以反而需要更多的士兵才能抵抗对方的杀戮。你所要发明的那种替代人们工作’的机器,说不定反而会让人们被压榨得更狠呢。“而且,你又要如何筛选一个人的才能?”明珀反问道:“总有一些人是在人生的半途才觉悟了自己的才能。并非所有的才能都是‘被发现,还有一些是后天才育成的,还有一些才能根本不属于当前的时代——如果他们被过早地抛弃,停止了培养,那等他们的时代到了之后,他们又该如何才能逃脱自己被钳制的命运呢?“假如你能发现,连他们自己都发现不了的秘密......那就说明,你已经彻底操控了他们全部的情报。你是要洞察他们的心灵、审判他们的思想吗?”明珀丝毫没有客气。在庄延赞赏的目光,与沈亦奇无比严肃的注视中,明珀微微抬起手来,如同一位教父般给予审判。就仿佛被面试的人并非是明珀,而是沈亦奇一样。“你说的这些……………”沈亦奇沉默了一会,才开口:“它们都是可以被解决的问题,不是吗?“无论是‘有人设计的程序里面埋设了漏洞’、‘AI的迭代完全失控”,还是“律法与筛选功能的不完善,都是可以被他们反馈,被我们修改的啊。本来一个程序出来就不可能是完全体。”“我们这样假设,明珀先生——我们就假设,我们有一种能够穿越时空的能力。“我们在今天共同创造出了这样的系统。而我们日后如果发现了它偏离了最初设计的方向......它失控了!或者它出现了巨大的设计漏洞,又或者它被某人利用,亦或是AI觉醒成了“天网”之类的统治者………………“那么我们就重新回到这一个时刻,重新修改代码——你应该看过终结者,对吧?”“嗯,我看过。”明珀淡淡地说道:“但我觉得,你不是在做天网。你是在做西比拉系统。”闻言,沈亦奇脸上露出笑容,那是遇到同好的愉快表情:“心理测量者吗?我也看过......但我认为,西比拉系统并不是错的。更何况,真正做这种事的另有其人。“你认为......西比拉系统没有错吗?”明珀微微坐直了身体,皱起眉头。“西比拉系统”——那是名为《心理测量者》的作品中出现的概念。可以简单理解为,它是一种虚构的社会管理系统。能够判断出对方的心理状态,内心深处的愿望、职业适应性......以及犯罪指数。当有人的“犯罪指数”达到临界值时,就意味着他正在计划或已经在实施犯罪。那么甚至在他进行犯罪之前,就可以将其提前逮捕,以此来最大程度地减少其他市民的损失。“我认为那是好的。”沈亦奇双手放在膝盖上,坦然道:“《心理测量者》里面出现的问题,难道不都是因为西比拉系统本身有漏洞,有BUG或者被人利用吗?“但它确实有效降低了犯罪,提升了绝大多数好市民的体验,那就说明它是有意义的。在动画里它所出的问题,其实是因为它的能力仍然不足——能被人骗过,这就说明它还不够完善,还不够好。它的权力被窃取,行政系统也仍然僵滞。“就像是你所说的......我也不认为加特林博士是错的。“他唯一的错误,就在于他还不够强。加特林确实提升了战争效率,但它并没有量变引发质变......”-核弹。加特林的口中,急急吐出了那个词。我的眼中,闪耀着太阳般狂冷的光。“核武器的威力,确实制约了战争的形式,从而小幅降高了伤亡。正因如此,你们才是能畏手畏脚,是是吗?”加特林如同演讲家一样,言语中充满感染力:“你们不是要一步到位!跨越时代的桎梏!打破旧时代的一切枷锁!”“律法!道德!常识!本能——新时代已至,未来已至。所没抵抗人类踏入新时代的力量,都是旧时代的遗民。“他是觉得,在人类能触摸到星星的时代,人类还在地下内斗是一件非常愚蠢而有没效率的事吗?“你们要做就要做得足够彻底!一口气摧毁现存的‘工作”、“娱乐”、“教育
本章未完，请点击下一页继续阅读》》