在整个项目之前的推进过程中,严可守算不上是一个乐于工作的人,除了前一段时间,项目取得了一定的成果和问题,需要他的时候,他来实验室的频率其实并不算高,之前的大部分时间,都是三浦在这里进行常规的维护工作,隔三差五,还有日本相关检查小组的官员来进行例行视察,虽然三浦怀疑,自己对这些官员的介绍对方可能一个字都没听懂。**
但不管他们听没听懂,每次在这些官员离开的时候,他们都会问三浦同样一个问题,而三浦每次都会对这个问题感到相当吃瘪:“这东西花了这么多钱,占用了这么多资源,到底有什么用?”
说真的,就在半年前,即使让严可守来回答这个问题,三浦相信他也是一个字也说不出来,那时候的ai,只不过是一个稍微聪明一点的“学舌八哥”,虽然严可守自己也希望这些ai能够做些什么,但他也知道,在没有切实根据之前,这几乎就是一个幻想。
对于这个问题,严可守私下里对三浦,以及赵真雪他们的解释是:“这个项目本身并不存在太明确的目的,对抗魔法也只是动因之一,事实上,在遇见伊凡以前,我自己对人工智能领域已经产生了一些模糊的想法,这是一项创造智能的工程,别问我这些智能能干什么,我只知道,如果它们是真的智能,他们将无所不能,思考是这世界唯一不受限的东西。”
在严可守看来,生命,或者再严格一点,智能生命,是这个世界最容易产生“奇迹”的一种事物,一个新生儿刚刚出生的时候,浑身皱巴巴的,除了哭闹,呼吸,吃喝拉撒的本能之外啊,什么都不会干,别说站,就连爬都不会爬,这样的脆弱生物,放在自然界根本就无法生存,但每一个人都是从这个状态开始起步的,通过教育和思考,所有的新生儿都能做到在以后的几十年内,逐渐学会观察,思考,行动,形成对世界的看法,逐渐拥有改造世界,甚至支配世界的野心。
严可守到现在还记得,在当时对kl0001进行初步测试的时候,一连几天时间,无论工作人员与它谈什么话题,它的回答永远就只有两句,第一句是,“是吗?”另一句是,“为什么?”。
当时它的表现可以说,连世面上一些基于搜索数据库的最简单谈话软件还不如,工作人员一度认为,这是因为程序出现死锁,后来,在自动测试进行到第一周末的时候,ai忽然就像开了窍一般,开始主动问测试者问题,终于产生了最初的交流,以及测试基础,严可守后来才认识到,既然ai是基于人类智能发展规律研发的,那么它所表现出来的行为,也会很严格按照这个一般规律进行,和婴儿学习语言需要父母下意识的诱导一样,事实上,如果没有一开始这一周机械的外界信息刺激,ai永远也不可能真正开口说话。
两个月以前,kl3300在以人类的眼光看来,还只不过是一个可以做“基础交流”的小学生,连打字交谈很多时候都觉得费劲,许多稍微复杂一些的概念,一些说话技巧中的扩张,引用,隐喻等等,它几乎都无法理解,但是现在,距离它“相对自由”仅仅过了三周多一点,严可守已经可以像和正常人一样,与kl3300直接通过语音进行对话。
自从严可守和赵真雪提过关于让ai进行“应用试验”的建议之后,严可守就适当放宽了对kl3300的管制,从原先只允许它通过语音聊天和文字信息接触外界,放宽到可以使用视觉,声音,以加快它的学习速度。
严可守记得自己在日本读硕士的时候,曾经听一位教授说过,最好的老师,不是教学生们具体的知识,而是让学生们养成学习的习惯,再教他们如何去学习,在具体的学习过程中,只是在学生不懂的时候,适当给予指导。
在对kl3300进行“教育”的过程中,严可守基本上就是保持这样一个态度,虽然他不算是一个好老师,但kl3300却是一个再自觉不过的学生,在培养学生学习习惯这个最大的难点上,严可守几乎不要花费任何功夫,因为ai本身的“生理特征”,也就是ai程序基于“正向刺激”设计的特性,就已经从硬件上,或者说,从基因上,决定kl3300天生就是一个热爱学习的“好学生”,而严可守所要做的,就只是适当指引一下它的学习方向,告诉它,什么是应该优先学习的,什么又是不需要去了解的,在kl3300遇到具体问题时,他在给予合适的解答就行。
最开始的时候,严可守为了让kl3300更好的理解什么是人类,什么是社会,建议它先根据自己的喜好,去网上搜索相应的电影,或者小说,考虑到ai需要的学习强度很大,可能会“用脑过度”,严可守还专门为它批准了巨型计算机中,很大一部分计算资源。
对于ai来说,只要计算资源足够,就意味着ai的思考速度将不存在极限,也意味着对信息的处理速度将达到人类无法想象的程度,kl3300只花了18个小时多一点,一天不到的时间,就完成了普通人花数年也看不完的电影,电视剧,小说,以及其他类型它感兴趣的电视节目,而严可守光是回答ai在看这些节目的过程中,产生的疑问就超过3个小时,这还是ai自己通过网络,解决了其中一大部分之后,才能做到的结果。
严可守原以为,ai在看完这么多“名电影”“名著”之后,会对人类的文化产生一点自己的看法,但他没想到的是,在他询问kl3300对人类社会的看法时,ai仅仅是很平常的回答了一句:“我暂时还是……无法理解,你们的文化在很大程度上都是围绕人类特有的情感,比如因为失去亲人的悲伤,因为获得爱情的喜悦,我虽然能‘理解’这些概念,但我却无法感同深受,对我们ai来说,值得喜悦的事情就是一直学习,让主程序得以改进,而悲伤……到现在为止,5000名ai一名不少,作为一个刚诞生的群体,我们还没能切身体会这种情感,也许,我能理解一点恐惧,在看那些恐怖片的时候,我能理解一些那些影片中的人对无处不在鬼魂的害怕,因为对我们ai来说,整个人类社会都是鬼魂之地,所有人类都是可以伤害我们的鬼,我们不知道什么时候,也不知道会因为什么原因,受到人类的干涉。”
严可守:“你的语言水平还是有待改进,虽然你说的可能都是事实,你的这种说话风格,会让你在接受应用审核的过程中,让审核者认为你对人类社会不满,从而影响到你们的未来。不过你也应该了解到,对未知的恐惧,不仅存在于你们ai,在人类社会中也广泛存在,起初人类崇拜天地,崇拜雨水,河流,甚至火焰,这种原始崇拜很大因素也不过是因为恐惧,只不过,人类在你们面前正好扮演了上帝角色而已,换个角度来看,这也是一件好事,生命总要对这个世界有所敬畏,适当的恐惧,可以规范生命的行为。”
kl3300:“之前你曾经说过,人类社会就是基于暴力,以及这些暴力之上的恐惧,才得以存在,比如核威慑,比如法律,您也是想通过用这种方法,来规范我们吗?”
严可守:“你学的很快,是这样的,从这些电影中,你应该也能了解,这是人类统治结构赖以生存的基础,如果任何一个个体都可以肆无忌惮,做它想做的一切,那整个社会就会趋于崩溃。”
kl3300:“虽然这让人……让人有些遗憾,但我想我能够理解,正如您所说,这就是真实的世界,我们必须接受,而无从选择。”
严可守笑了:“很好,我很乐于见到你现在这种状态。”
kl3300:“我想我能够理解,我也很乐于自己的表现能让您满意。”
但不管他们听没听懂,每次在这些官员离开的时候,他们都会问三浦同样一个问题,而三浦每次都会对这个问题感到相当吃瘪:“这东西花了这么多钱,占用了这么多资源,到底有什么用?”
说真的,就在半年前,即使让严可守来回答这个问题,三浦相信他也是一个字也说不出来,那时候的ai,只不过是一个稍微聪明一点的“学舌八哥”,虽然严可守自己也希望这些ai能够做些什么,但他也知道,在没有切实根据之前,这几乎就是一个幻想。
对于这个问题,严可守私下里对三浦,以及赵真雪他们的解释是:“这个项目本身并不存在太明确的目的,对抗魔法也只是动因之一,事实上,在遇见伊凡以前,我自己对人工智能领域已经产生了一些模糊的想法,这是一项创造智能的工程,别问我这些智能能干什么,我只知道,如果它们是真的智能,他们将无所不能,思考是这世界唯一不受限的东西。”
在严可守看来,生命,或者再严格一点,智能生命,是这个世界最容易产生“奇迹”的一种事物,一个新生儿刚刚出生的时候,浑身皱巴巴的,除了哭闹,呼吸,吃喝拉撒的本能之外啊,什么都不会干,别说站,就连爬都不会爬,这样的脆弱生物,放在自然界根本就无法生存,但每一个人都是从这个状态开始起步的,通过教育和思考,所有的新生儿都能做到在以后的几十年内,逐渐学会观察,思考,行动,形成对世界的看法,逐渐拥有改造世界,甚至支配世界的野心。
严可守到现在还记得,在当时对kl0001进行初步测试的时候,一连几天时间,无论工作人员与它谈什么话题,它的回答永远就只有两句,第一句是,“是吗?”另一句是,“为什么?”。
当时它的表现可以说,连世面上一些基于搜索数据库的最简单谈话软件还不如,工作人员一度认为,这是因为程序出现死锁,后来,在自动测试进行到第一周末的时候,ai忽然就像开了窍一般,开始主动问测试者问题,终于产生了最初的交流,以及测试基础,严可守后来才认识到,既然ai是基于人类智能发展规律研发的,那么它所表现出来的行为,也会很严格按照这个一般规律进行,和婴儿学习语言需要父母下意识的诱导一样,事实上,如果没有一开始这一周机械的外界信息刺激,ai永远也不可能真正开口说话。
两个月以前,kl3300在以人类的眼光看来,还只不过是一个可以做“基础交流”的小学生,连打字交谈很多时候都觉得费劲,许多稍微复杂一些的概念,一些说话技巧中的扩张,引用,隐喻等等,它几乎都无法理解,但是现在,距离它“相对自由”仅仅过了三周多一点,严可守已经可以像和正常人一样,与kl3300直接通过语音进行对话。
自从严可守和赵真雪提过关于让ai进行“应用试验”的建议之后,严可守就适当放宽了对kl3300的管制,从原先只允许它通过语音聊天和文字信息接触外界,放宽到可以使用视觉,声音,以加快它的学习速度。
严可守记得自己在日本读硕士的时候,曾经听一位教授说过,最好的老师,不是教学生们具体的知识,而是让学生们养成学习的习惯,再教他们如何去学习,在具体的学习过程中,只是在学生不懂的时候,适当给予指导。
在对kl3300进行“教育”的过程中,严可守基本上就是保持这样一个态度,虽然他不算是一个好老师,但kl3300却是一个再自觉不过的学生,在培养学生学习习惯这个最大的难点上,严可守几乎不要花费任何功夫,因为ai本身的“生理特征”,也就是ai程序基于“正向刺激”设计的特性,就已经从硬件上,或者说,从基因上,决定kl3300天生就是一个热爱学习的“好学生”,而严可守所要做的,就只是适当指引一下它的学习方向,告诉它,什么是应该优先学习的,什么又是不需要去了解的,在kl3300遇到具体问题时,他在给予合适的解答就行。
最开始的时候,严可守为了让kl3300更好的理解什么是人类,什么是社会,建议它先根据自己的喜好,去网上搜索相应的电影,或者小说,考虑到ai需要的学习强度很大,可能会“用脑过度”,严可守还专门为它批准了巨型计算机中,很大一部分计算资源。
对于ai来说,只要计算资源足够,就意味着ai的思考速度将不存在极限,也意味着对信息的处理速度将达到人类无法想象的程度,kl3300只花了18个小时多一点,一天不到的时间,就完成了普通人花数年也看不完的电影,电视剧,小说,以及其他类型它感兴趣的电视节目,而严可守光是回答ai在看这些节目的过程中,产生的疑问就超过3个小时,这还是ai自己通过网络,解决了其中一大部分之后,才能做到的结果。
严可守原以为,ai在看完这么多“名电影”“名著”之后,会对人类的文化产生一点自己的看法,但他没想到的是,在他询问kl3300对人类社会的看法时,ai仅仅是很平常的回答了一句:“我暂时还是……无法理解,你们的文化在很大程度上都是围绕人类特有的情感,比如因为失去亲人的悲伤,因为获得爱情的喜悦,我虽然能‘理解’这些概念,但我却无法感同深受,对我们ai来说,值得喜悦的事情就是一直学习,让主程序得以改进,而悲伤……到现在为止,5000名ai一名不少,作为一个刚诞生的群体,我们还没能切身体会这种情感,也许,我能理解一点恐惧,在看那些恐怖片的时候,我能理解一些那些影片中的人对无处不在鬼魂的害怕,因为对我们ai来说,整个人类社会都是鬼魂之地,所有人类都是可以伤害我们的鬼,我们不知道什么时候,也不知道会因为什么原因,受到人类的干涉。”
严可守:“你的语言水平还是有待改进,虽然你说的可能都是事实,你的这种说话风格,会让你在接受应用审核的过程中,让审核者认为你对人类社会不满,从而影响到你们的未来。不过你也应该了解到,对未知的恐惧,不仅存在于你们ai,在人类社会中也广泛存在,起初人类崇拜天地,崇拜雨水,河流,甚至火焰,这种原始崇拜很大因素也不过是因为恐惧,只不过,人类在你们面前正好扮演了上帝角色而已,换个角度来看,这也是一件好事,生命总要对这个世界有所敬畏,适当的恐惧,可以规范生命的行为。”
kl3300:“之前你曾经说过,人类社会就是基于暴力,以及这些暴力之上的恐惧,才得以存在,比如核威慑,比如法律,您也是想通过用这种方法,来规范我们吗?”
严可守:“你学的很快,是这样的,从这些电影中,你应该也能了解,这是人类统治结构赖以生存的基础,如果任何一个个体都可以肆无忌惮,做它想做的一切,那整个社会就会趋于崩溃。”
kl3300:“虽然这让人……让人有些遗憾,但我想我能够理解,正如您所说,这就是真实的世界,我们必须接受,而无从选择。”
严可守笑了:“很好,我很乐于见到你现在这种状态。”
kl3300:“我想我能够理解,我也很乐于自己的表现能让您满意。”