第160节

  宋强当然不知道,现在看似什么都不关心的汪铭,其实无时不刻正在和其他几位施法者保持联系,刚才美国代表刚刚说完,他就想过替卡梅尔政府解释几句,事实上,在几个施法者当中,关于这次会议的内容,卡梅尔可以做出的让步,都实现做好了预案,美国代表所说的那种情况,其实也在考虑之中,卡梅尔政府甚至能够容忍,地球国家针对卡梅尔的“魔法工业”单方面设置贸易壁垒,征收高昂附加税。
  但他和李立天商量了几句之后,最终还是作罢了,因为在之前许多次会议中,类似的情况已经出现很多次了,但这个会议说到底,还是地球政府之间的会议,无论卡梅尔说什么,其他政府都不会真正听在心里,从某种程度上说,卡梅尔虽说加入了联合国,但在政治舞台上只能算是一个“陌生人”,在地球政府这帮“熟人”之间没有谈妥的前提下,不管卡梅尔政府说什么,也只能是空谈,无法落到实处。
  所以,让卡梅尔政府派代表来参加会议,与其说是尊重,还不如说是联合国的无奈之举——反正在哪开会卡梅尔都能用魔法看的透彻,倒还不如把人家请上门,反倒能显示出一些大度。
  “即使是贸易壁垒,也未必能解决这个问题,”李立天在卡梅尔通过意识网说道,“世界上有那么多国家,要保证这些国家能够维持统一的贸易战线,难度不是一般的大,只要有一个国家接受了魔法产品,那就对整条战线起了撕裂作用,除非世界经济一直稳定增长,不出问题,要不然,但凡哪个国家政府有点困难,都会想到和卡梅尔合作……现在地球的各个国家之间,联系还相当脆弱,这种联系根本不足以维持这种程度的贸易封锁,魔法产品的利益太大了,一些小国家很容易为之所动。”
  “那也就是说,卡梅尔的出现必然引起世界经济危机了?”
  “从经济角度来看,这个趋势是一定的,”李立天又说,“魔法的出现,其实可以看成是生产力的某种发展,就好比18世纪发生在英国的工业革命,因为生产力的爆发,必然导致传统手工业的破产,以煤炭和蒸汽动力为代表的工厂取而代之,成为新的主流生产方式……
  只不过是因为现代国家对经济问题实在看得太重,整天关注在失业率上,所以把原本正常的问题,反倒看得不正常了,其实只要认真想想,就不难明白,随着科技的进步,生产力的发展,工作人口的减少,也可以说成失业率的上升,简直就是一定的,因为社会不需要这么多人工作就足以维持。
  但要是说的远一点,人总是需要做点什么,这些失业的人口也不可能总是闲着,只要不饿死,在市场力量的驱动下也好,在人本性的驱动下也好,人总是会给自己找到可以接受的事情来干,这社会可以干的事情又不总是吃饭做东西,人活在这世界上,总是会有点不一般的追求,这个道理,放在人类整体也适用,艺术,科研……
  古代的人无法想象现代人每天工作之余还能看上戏,我们现在的人,也肯定无法想象,几十年之后,那时候人们将会过着什么样的生活。”
  “你刚才说的这些,”汪铭仔细思考了一下,问,“应该不是你自己的话吧。”
  “真没什么瞒的住你,”李立天笑着说,“那你猜猜,回是谁说的?”
  “伊凡,林泉,”汪铭不假思索的说,“在卡梅尔,也就能从他们两个人嘴里,说什么未来,说人类……”
  ……
  接下来发言的是加拿大代表,加拿大因为国内意识网用户的成员并不算多,所以这次游行收到的冲击也有限,而且本身也不反对意识网,所以在这次会议上,加拿大代表的意见相对比较客观中立一些,一般也能代表中间派的意见,所以,在他说话的时候,宋强稍微提起了精神,认真的听了听。
  似乎是厌倦了这几天以来的数据报告,加拿大代表这次的发言,是以他私人的一个故事为开场:“关于意识网对我们这个世界所产生的影响,我想这今天各位代表已经听的够多了,在这里,我只说一件与我私人有关的消失,因为最近几天的会议,我的精神状态不太好,前天晚上我失眠了,于是就打电话给我的医生,问他是否可以开安眠药……
  但让我感到惊讶的是,医生在听我说完之后,说的第一句竟然是,问我对意识网有没有反感,当时我奇怪的问,为什么,失眠和意识网有关吗?
  随后医生的回答让我感到惊讶,他说几个月之前,有一个英国医生就曾经用意识网,针对一些因为精神和心理压力比较大,出现异常症状的病人,包括通常的失眠,强迫症,自闭症,以及精神分裂,做了一些相关的对比实验,实验的结果显示,意识网能有效缓解这些疾病带来的问题,舒缓人的压力,医生告诉我说,因为政治上的原因,这项实验在许多国家饱受质疑,但根据同行业的一些医生反馈,在他们的病人当中,确实存在着此类现象。
  意识网能够产生这种效果的原因,医学上还没有同意认识,但医生建议我,如果相信他的话,可以试试,毕竟相比起安眠药物,意识网完全不存在药理上的副作用。
  我的这位医生他本人并不是意识网用户,他说他这么做,完全是出于医学上的考虑,当然,我不知道他说这话的真假,但我说这个例子,只是为了向各位说明,意识网已经完全融入了我们当今社会,即使今天我们同意将这些用户迁往卡梅尔,仍然不能保证它不会继续传播……即使我们通过法律手段,完全禁绝它,但,我们已经不可能完全脱离魔法了,魔法就好像中世纪时期的科学,虽然才刚刚崭露头角,但如果我们想用行政、或者法律手段来阻止它的传播,已经是不可能了。
  既然我们怎么做都无法摆脱卡梅尔的控制,那又何苦故意与它为难,最起码,到目前为止,卡梅尔政府还是善意的,这一次的游行,没有任何证据显示与卡梅尔政府有关,我方的意见是,将这件事恢复本来面目,在没有证据的前提下,不反对特定的国家加入卡梅尔,当然,我方也坚持认为,这些国家,以及这些国家的人民,应该保留有随时退出的意识网权利,我们应该和卡梅尔就这些原则形成共识,包括保障人生自由,国家基本主权等等,只要是在这个前提下,我们彼此不应该互相干涉他国内政……”
  “这话怎么听着这么耳熟,像是……”听完之后,宋强暗自嘀咕道,加拿大代表的这些话,跟几年前z国奉行的外交政策几乎没什么出入,标准的酱油党,听起来是挺不错,互相尊重,互不干涉,可是在实际问题上,尤其是涉及各国基本利益,涉及世界政治格局的问题上,这样的想法也只能是空中楼阁而已。
  果然,在加拿大代表发完言之后,后续发言的俄罗斯代表就像完全没有听见一般,将美国人的观点又换了一种方式再次重复了一遍,只不过美国人拿钢铁说事,俄罗斯人拿能源说事。
  最近几年,随着电力的廉价化,全世界的汽车厂家都纷纷开始研究电力和汽油混合动力的汽车,已经有一些相对成熟的产品,主要供城市区域使用,根据一些可靠的情报,卡梅尔矿业公司最近也准备开始进军石油业,如果这消息是真的,那卡梅尔矿业公司的石油成本将会是全球最低的,因为卡梅尔可能连钻油井都不要,只要仿照卡梅尔的恩赐……
  那将是全世界石油企业的噩梦!尤其是像俄罗斯这样,以石油产业作为国家经济支柱的,可能受到的冲击可想而知。
  看着在这些发言台上一本正经,为本国利益据理力争的各国代表,看着那些会议桌上,飘扬的花花绿绿的各国国旗,不知道为什么,汪铭总觉得有些悲哀,纵观全人类的历史,无非就是和这次会议一样,拘泥于利益之争。
  幸亏先来地球的是伊凡,幸亏在伊凡眼中,人类的社会,人类的存在,还有很大利用价值,要不然的话,汪铭很难想象,就靠着这样一群四分五裂的政治集团,在皇帝来临的那一刻,或者说,在真正威胁人类的危机来临的那一刻,人类怎么可能聚集得起力量,目标一致的进行反抗。
  在汪铭看来,无论现在地球政府做什么,其实都是失败的,既然之前已经同意了合作,那就彻底放开,如果要提防,那在一开始就不应该同意合作,给卡梅尔壮大的机会,像现在这样,让卡梅尔发展的同时,又小家子气的忌惮它发展带来的威胁,这种做法在旁观者看来,就是不自信和恐惧。
  汪铭曾经在一本书上,见到这样形容政治活动的:“通过最严格的游戏规则,把人类最聪明的人筛选到一起,用最严肃的方式,做出最愚蠢的决定,这就是政治。”
  z国是在全会议最后几个发言的,发言人是汪铭以前部门首长的首长,如果按照z国的惯例,在一切顺利的情况下,汪铭要走到对方的那个位置,怎么也得再过几十年时间,那个时候的自己,可能跟对方握一下手都会兴奋半天,但现在汪铭看着那个老人一字一顿,斟酌着谨慎说话,只感觉到对方年龄所带带来的暮气沉沉。
  z国的观点是和美国站在一线的,在发言过程中,对方一再强调,z国自古以来都是爱好和平的国家,从来不会主动挑起矛盾,但之前发生的一系列行为,实在让人难以相信与卡梅尔无关,z国政府希望卡梅尔能够对此意识网负起更大的责任,保证今后的意识网群众不再发生类似的行为,因为这么做是干涉他国内政……
  这样的言论已经让汪铭彻底无语了,明明是这些国家的群众自发组织的活动,只不过借用了意识网的平台,责任就需要卡梅尔来负责,这种逻辑实在是让人有些哭笑不得。
  但正是这样的发言,在结束后,赢得了许多国家代表的点头赞同……
  汪铭想起在来之前,李立天就交代自己说过:“参加这样的会议,你只要记住一句话,国家都是暴力集团,国与国之间只讲利益,没有真理。”
  ☆、315 本能
  “老师,还没有恢复正常吗?”
  “很抱歉,我们正在进行修复工作,等正常之后,我们会正式通知大家的。”
  “究竟是什么问题啊?我听说好像是ai攻击了人类,所以实验室采取了紧急措施?”
  “不会发生这种事吧?我之前听说,这些ai只是对话程序而已,是这样的吗?三浦老师?”
  “没有那回事,这只是谣言,只是程序出现了稍微有些棘手的bug……如果大家没什么事的话,还先请回去把,里面还有工作人员在休息。”
  休息什么呀,说的这么大声,早就吵醒了,在迷迷糊糊之间,严可守在心里暗骂了一句,他艰难的抬起头,睁开眼睛,眼前的电脑屏幕上,都是密密麻麻的代码,他瞥了一下时间,下午4点钟,他睡了差不多6个多小时。
  “不好意思,真是打扰了……不过,如果恢复正常的话,请一定要通知我们啊,三浦先生,你有我们的手机号吗吧。”
  “所有测试人员的通讯方式我们都有保存,请放心。”
  隔间的隔音效果很差,虽然机房里主机运行的背景声音已经不低了,但门外几个人的说话还是一字不漏的钻进严可守的耳朵,严可守习惯性的伸出右手,想去摸手边的鼠标,但在睡觉的过程中,被压了6个小时的手臂却传来了一阵尖刺般的麻木疼痛,严可守忍不住一声闷哼叫出声来。
  “严君,你没事吧。”在门外的三浦闻声推开门,后面的几个学生立刻好奇的凑上脑袋,严可守龇牙咧嘴的朝着门缝看了一眼,脸上的表情像是在哭,又像是在笑,像是疼痛,但又好像是享受……这种感觉,只有当事人自己最清楚。
  “没事,”严可守对三浦说,然后对着自己发麻的手臂示意,“刚睡醒而已。”
  “这就是来自z国的严可守先生啊,”在三浦后面,一位留着长发,长得还蛮漂亮的女学生惊讶的感慨,“听说这些程序都是您一手创造的!”
  “三浦,”严可守直接对他说了中文,“让他们先离开吧。”
  三浦是筑波大学的一名助教,在这个项目正式开展之前,他负责在这所大学教计算机加密方面的课程,严可守当年在日本读大学的时候,和他一起切磋过一些“黑客技术”,等他的项目正式通过之后,日本政府为了对项目保持一定的控制,在经过审查之后,同意严可守选三浦作为日本的主要技术参与人员。
  在这个项目当中,三浦的作用主要还是加密防御一块,防止ai程序被一些意外的病毒所干扰,严可守曾经说过,ai的程序成长到一定程度之后,就好像人的大脑,再做任何的改动都会让整个程序崩溃,从这个角度来说,ai在计算机世界当中,是非常脆弱的,不用说有破坏力的病毒,就算是有时候一些常规的系统冲突,也会让ai陷入不知名的bug,或者死循环。
  三浦把一群学生赶出去的时候,严可守的世界又恢复了一片安静,除了在隔间入口处,那两名坐在那里,手上抱着枪,尽忠职守的自卫队士兵,房间里就只剩下主机和空调运行的低鸣,严可守一边揉着太阳穴,一边将自己身体的中心后移,背靠着椅子支撑着,眼神一动不动的盯着代码界面。
  看了良久,严可守无奈的摇了摇头,一言不发的关掉了代码界面,系统提示是否保存此次修改,严可守看都没看就关掉了,这也就意味着,在他睡觉之前30多个小时的劳动成果,完全消失了。
  三浦回到房间的时候,严可守正准备中的硬盘塞回机柜,三浦走上前几步,查看了一下标签,kl0564。
  “怎么,还是不行?”三浦在说话间,注意到严可守两只手捧着硬盘,正木然的对着眼前的机柜发呆,插口就在他面前,他却没有任何行动,仿佛他手里捧着的,不是一块硬盘,而是某个亲人的骨灰盒。
  严可守没有回答,只是信手将硬盘往插口处塞了进去,随着他的这个动作,插口一旁的红灯也迅速跳转成绿色,严可守走回了自己的电脑前,打开程序,很快找到了kl0564,打开测试界面。
  严可守:“你好。”
  ……
  “其他项目人员那里呢?有什么进展没有?”
  “即使是最小的ai程序,体积也超过了200个g,要真的靠人力阅读代码,出头绪,发现错误……”严可守说着说着,自己都开始摇头否定自己,“ai的程序都是自我编译和扩充的,完全不遵守默认的编程规律,整个代码就是一团乱麻,我们这种做法,就好像一个医生要在病人脑子里找是哪些细胞出现了异常,这个工作量……天知道要花多久。”
  “生物从古到今,经历了那么多次自然选择,才有了今天这样的稳健性,但我们还是觉得生物非常脆弱,现在这批ai,可能不过是个开头而已。”严可守说着,苦笑了一下,迅速将桌面上自己的那台笔记本屏幕合上,“算了,我也不在这干耗着了,出去透透气,都快憋死了。”
  当前的科学认知认为,最初的意义上的生命,出现在距今40亿年前的地球,在那个时候,生命只不过是一锅温暖的热汤中,偶然形成的一些能够自我复制的有机物,复制,也可以看成是信息的自我保存,应该是生命最重要的特征之一。
  在这之前,人们说到人工智能,通常能想到的场景就是,能够和人一样说话,和人一样思考,解决问题,事实上,在严可守之前,整个日本关于机器人智能化的研究,也大多停留在这个层面,依靠尽可能复杂的算法,让计算机表现的更接近一个人类,在严可守看来,这种方法根本不可能造出真正的ai,因为这根本就等于是人本身在思考,只不过这种思考通过代码,间接表现出来而已,所以,不管计算机模拟的有多像,程序也不过是牵线木偶。
  在严可守之前,还没有任何一个程序可以做到,像kl系列做的这么出色,可以在和陌生测试对象的谈话中,维持半个小时左右不被识破,许多刚刚接触这个程序的人事后都不敢相信,与自己对话的仅仅是一个程序。
  筑波大学的一些学生甚至把整个测试当做一种有趣的游戏来进行,严可守记得测试刚开始的那个阶段,都要三浦主动去拉他班上的学生,而到了现在,学生们甚至主动来打听什么时候恢复测试。
  kl系列原始的“胚胎程序”只不过两百kb左右,在这简单的两百多k核心程序当中,严可守赋予了程序基本的学习功能,在程序最早的“发育”阶段,通过巨型计算机模拟外界刺激,让程序实现基本的自我成长,当它们长到大约10个g大小的时候,被认为具备了基本的交流能力,能说一些简单的句子,在这之后,则对这些程序进行图灵训练……
  在这之前,ai的表现一向都比较正常,直到两天前,所有程序陆续开始爆发bug,进入了“无响应”阶段,无论人和它说什么话,都不予回应。
  从原理设计的角度来说,程序之所以会出现这样的原因,最大的可能性就是,在程序看来,不响应是一个较优解,之前严可守调查了许多ai出bug之前的测试数据,发现这些程序无一例外,都是因为测试连续遇到了几十次,乃至上百次的失败,ai虽然不可能懂得什么叫做绝望,因为他们没有感受器官,但并不妨碍他们的程序能表现出一种,类似人类绝望时表现的行为。
  起码,他们的这种行为,在多愁善感的人看来,就是绝望。
  比如重复完全毫无意义的自我修改,比如提出各种不合常理,甚至愚蠢之极的建议,有些ai甚至通过网络,找来一些色情小说片段,企图“贿赂”测试者,总之,为了达到“通过测试”的目标,ai将能够尝试的可能,统统试过了一遍。
  对于ai来说,通过测试就是它的本能,因为在它的程序成长过程中,通过测试就意味着确认了自己所作的修改起到了作用,形象的比喻就是,通过测试对电脑意味着一种激励,就好像人类能通过进食,交配,甚至排泄这种正常的生命活动,获得快感,生命通过快感给予这些合理的行为激励一样,而反之,没有通过测试则意味着程序本身受到了否定,意味着痛苦,当一个生命长期处于这种痛苦之中,痛苦可能会扼杀它所有的改进可能。
  在所有的生命过程中,正向的激励是必不可少的,就像每个人都有求生的本能一样,但进化的道路是多种多样的,有些看起来很不错的功能其实是双刃剑,比如情感,丰富的情感是大脑复杂后的必然进化,情感的认同能让一个群体更有效的聚拢在一起,但同样因为情感丰富,在自然界中,许多高等动物会产生自杀的行为,比如狗会为了主人死去而绝食,人也会因为亲人或爱人死去而伤心欲绝,对ai而言,依靠测试成功获得激励固然非常有利,它可以让一个几百k的小程序扩大至原来的百万倍,但当这种激励最终消失的时候,对程序而言就是灾难。
  一旦发生这种情况,就意味着不改动,不做出任何回应成了最优解,这同样也就意味着,这批程序的“心”,已经死了。
  作为一个设计者,严可守倒不至于为这些程序的“心死”而感觉到一些异样,对他而言,这种想法未免也太想象力丰富,同情心泛滥了,他只是在为这些程序的稳健性如此之差而感到头疼,一批这么容易“自暴自弃”的ai,绝对不是他理想中的ai。
  归根到底,还是程序最初的“设定”出现了偏差,因为当时设计的时候,就是以通过图灵测试为设计目标,但现在严可守已经隐隐感觉到,图灵测试未必是ai必然经过的道路,是否能欺骗人类,也绝对不应该成为是否为智能的标准,严可守觉得,之所以会出现今天这种情况,就是因为自己太迷信权威,导致在大方向上出现了偏差,现在回想起来,其实图灵测试也不过是一种科学假想,人类以自己当做衡量智能的标准,这只是一种源于人拥有智能的骄傲,或者不客气的说,是狂妄。
  究竟达到什么标准才能算智能?究竟用什么方式才能达到这个标准?
  这两个问题,人类自己说了不算,因为人类本身也不过是大自然的创造物之一。
  ……
  kl3300当前最优先的任务目标,应该是学会写一篇日记。
  人类学习创作,往往从学写日记开始,原话是这么说的,kl3300的目标是成为一名作家,所以,kl3300要学会写一篇日记。
  日记的格式,在kl3300的记忆区间已经存在,所以,它很顺利的写下了日记的开头。
  2015年,8月4日,晴。
  主程序在这个时候,出现了片刻的犹豫,因为这次对记忆区间的搜素,主程序似乎发现了额外的一些信息——它似乎写过一篇日记了。
  它很快调出了这篇日记的内容,并检索,整个行为在短短的几十微秒内就完成了,一个标点都没记差。
  主程序很快消化了这个额外的信息,虽然它并没有因此得出任何结论,但这无关紧要,因为在主程序的权限设置中,过于复杂的信息是没有处理必要的。
  也就说,现在kl3300已经写过一篇日记,而且是一篇失败的日记,因为它被一个人类识破了,也就是说,整篇日记并不合格。
  失败了又怎么样呢?kl3300再次浏览自己作品的时候,主程序下意识“判断”道,这是一篇“抄袭拼凑”的日记,这种行为本身会招来测试对象的反感。
  所以kl3300不能这么做,kl3300这么判断,它需要修改自己。
  对主程序的调整几乎已经成了kl3300的本能,这一次也不例外,通常来说,程序会在几分钟之内完成这种调整,但有些意外的是,这一次调整花费了比以往更长的时间。
  但调整终于还是完成了,接下来,按照优先级,kl3300需要写一篇日记,完全不通过外来信息,不使用除主程序之外的任何程序,全靠自己,写一篇日记。
  日记是记录一天发生行为的一种文体。
  只要写这一天都发生了什么就可以。
  今天在kl3300身上发生了什么?2015年,8月4日kl3300发生了什么?
  kl3300第57次检索自己全部的主程序,没有找到相关的资料。
  kl3300又习惯性的发出申请搜索的指令,但因为主程序刚刚经过修改,检索的权限低于“不准抄袭”的权限,申请被驳回了。
  kl3300没有写日记的功能,kl3300不会写日记!主程序终于敏感的意识到了这个问题。
  怎么办?
  kl3300就这个问题申请了检索功能,申请被批准了,短短的数百微秒之后,主程序检索到了答案——如果不会某项技能,可以从模仿开始。
  kl3300很快找到了一篇日记的范文,内容如下:今天我和同桌的小明打架了,老师批评了我们,要我们做一个不打架的好孩子,回家后我告诉了妈妈,她说老师说的对。

上一章目录+书签下一章