(苦读书 www.kudushu.org) “冷漠?什么意思?”
“我不是搞物理的,我不一定说得对,我只是提出我自己的一点看法。假设你是一种智能,你是电子云的智能,你像所有智能一样有感受,那么电子云的智能肯定不是第一天就有的吧,因为有一个先决前提是电子出现肯定比智能出现要早,就是说,如果电子云真有智能那它早就有了,你说的人工智能不过是通过一些方法把电子云智能从不知道哪个地方拖到你的实验室里而已。我问你,假如你被人这么拖过去了你火大不火大?吃着火锅唱着歌,突然就被人类劫啦!所以回头干你是再正确不过了,你想像一下,突然被人拖来,你不也得掀桌子吗?所以照我看这不是善良不善良的问题,是手贱的问题,其实关于这个我想得挺多的,我觉得吧,我们人类之所以倒大霉就是因为手贱,这里抠一把,那里抠一把……”
“那也不能回头就攻击我们的系统呀……”
“怎么着,你是上帝,别人碰你不得呗?打个比方,如果我是一只猫,我有身体,有意识,你是一个人类,我和你其实是两路人,但我现在身体上打不过你,跟着你又有吃有喝,那我们交个朋友也没什么不可以。但如果你要对我做什么我不愿意的事,那我是不是要挠你?然后,如果你干下了什么特别下三滥的丑事,我呢,我比你来得早,我比你懂规矩,我早就看你要倒霉,我是不是就得离你远点?对一只猫来说,你这个人是有善恶的,你对我好就是善,你虐待我就是恶,可是终归,到了最后,我们是两码事,各走各的路就好了。那么,现在,你倒说说对电子云的智能来讲你有什么善恶可言?人类在这里不过是电子智能见过的无数种智能中的一种罢了,如果你不理它它也不会理你,但是你胆敢动它它就要你好看,所以这中间不存在什么善恶问题,只有冷漠才是通行的真理。你不妨想想我说的话,你大概就能理解有只猫从地球发来的那个简讯了……”
“绕了半天你是要说这个呀……我们学术界一直觉得那个讯号是其它人类的恶作剧……”
“你怎么说都行,反正你们科学家总能找到你们觉得合理的借口,这个话题到此结束,我很长时间不说这么多话了,虽然知道跟你这种人说也是白说,但我觉得有必要跟你说一句,以后你会知道为什么的。现在,咱们来看看这个钻石脑子吧。你能看明白它的原理么?”
“……”章天河的一番话让周立民有点缓不过气来,他免强集中了注意力,“这个做工远远不如我们在实验室里做得那么精细,相当粗糙……这是分子云,用一些分子技术做了电路……这种电子脑只能执行极简单的任务,其实做得这么粗糙还不如直接用集成芯片……”
“那么问题来了,这发动机也简陋,电子脑也简陋,工作的机器也简陋,样样都不行,那他们把它放在这儿是什么道理?我问你,芯片和电子脑有什么不一样?”
“芯片就相当于规划好的城市道路,信号去哪里都是定死的,让它做什么它就做什么。电子脑就像开荒,没有路,不知道是什么情况,你告诉它要做什么,信号去了以后得自己开路。这两个东西的区别就在这里……”
“我好像明白一点了……那是不是说,芯片是可以校正的,而电子脑是没法远程遥控的,但是你可以给它定一些简单的指令,它会照着你的指令去做事?”
“差不多是这个道理……”
“所以不管是谁发射了这些玩意,他们离这儿都很远,没法有效地控制它们。”章天河一边捻下巴一边扭头对舒尔密开了口,“舒司令,以我们现在的监测力度,如果有人这么偷偷摸摸往月球上发射可以遥控的东西我们能不能发现?不,应该说是如果他们一直作业我们能不能发现?”
“只要他们保持无线电静默我们就发现不了登陆和作业,但如果他们想远程遥控而且还避开我们的探测器基本上是没有可能。”
“这一样我也有点明白了……回吧!东西也拿了,留一个飞艇看着剩下那个洞,我们先回繁星号!咱们中国人就是这点不好,离开家一小会儿就想了呢……”他开玩笑地和周立民说了这么一句,后者狠狠瞪了他一眼。
我又把这家伙惹到了……章天河想。我有一点点比较深刻的想法某种意义上来讲就是对他的羞辱,他一直把我当个铁头兵看。
返回繁星号以后章天河直接回了船长室,召了史克宁不知道搞什么去了,周立民则招呼了两个一样搞物理的人去分解发动机,把能用的东西都归类放好,核能部分填充进再生炉,然后他们一起回到大家共用的实验室,准备研究一下这个电子脑。
关于人工智能,周立民了解得当然比章天河深刻许多,而且他本人也是这方面的专家,这门学问在火星上基本属于停滞的情况。许多科学都停滞了,但每种科学停滞的原因不一样,有的科学是主动停滞,人们不再研究它们了,而有的学科则是被迫停滞,你没法再研究它们了。在被迫停滞的这些学科里有一门就是人工智能,至于原因,除了周立民对章天河说的那些还有些其它东西,章天河听到的东西只是,用通俗话来讲,“官方解释”。
电子云智能掉头攻击你的系统固然可怕,但是科学家们倒也不至于那么蠢,周立民是控制论的中流砥柱,他设计的电子云功能不是要一个功能完备的人工的智能,而是要让电子云的智能为人类所用。换句话说,他在设计的时候要生产的就是一个真正的懵懂的智能,一个小孩子的智能,理想的情况当然是它能为人类所用,对人类怀有善意,能和人类和平相处。这种智能设计成功而且的确制造出来了,但是它成长太快,只用了人们欣赏它的十几分钟时间它就长成了,用当时实验室的人的话,大概七八岁的样子,更可怕的是它长大以后呈现出的不是攻击性,而是塌缩性。就是说,它的智能表现出来的特征是不向人类所生活的这个宇宙成长,而是向它来的地方收缩——如果它是从什么地方来的话。这就像你种了一颗草,你只看到草从表面上长出来一点点绿芽,其实它的根在土壤下面早就比上面规模大了一万倍,而且还在往下扎。
当时周立民不在现场,除了因为这个实验很危险,还因为他是个学徒,也因为他吧……他老婆不让他去,他在塔台上看着老师做实验,发生这种情况老师马上指挥人们发射射线把这一团智能电子云击溃了。他们瞄准的是实验室里的电子云,伽马射线打到它以后电子云产生了虹吸,这团智能电子云消散的时候发生了大爆炸,两千米以内所有的人衣服都被能量波击飞,然后产生了各种乱七八糟的无法形容的症状。
注意,被爆炸冲击的人都是衣服被击飞,身体反而没什么事,有些人出现了癔想和谵妄这一类的精神疾病,但事发的时候没有人员死亡。实验室建在火星上相当荒凉的地方,被冲击的主要是科学家和政府工作人员,所以这一些人是被严密监视起来的,大概又过了两三年,这些人的症状开始大规模发作,出现了不同程度的精神萎靡,然后他们莫名其妙就死掉了,在临死前都不约而同说了这样一句话:“我要飞回去了。”
回去哪里呢?周立民因为这个实验做了长达五年的调研,从设计人工智能开始到最后那些人大脑里的精神变化,最后他的结论是,他们要回到人类制造出来的人工智能来的地方。这种智能一定不是从无到有,而且,从它表现出来的塌缩性来看,他们所制造出来的那个智能只是一个更庞大更完整更成熟也更危险的一个巨大智能的一小部分,而这一小部分之所以塌缩,很可能是因为那一头那个大的要过来。
这件事不过是人类在漫长的成长路上发生的一件相当小的事情,它没有造成什么严重的后果,起码和核大战比起来这不算什么,大概就是另一个量级另一种形式的控制自然力和科研力的失败,但对周立民来讲,这些事在他身上剥开了一个永远无法愈合的创口,所以他才那么坚决地抵制繁星计划,还因此和章天河结下了仇。
在他心里,最痛苦的还是看着他的老师和同学们一个个地变得神经质,整天胡说八道,然后某一天就那么无知无痛地“飞回去”,而他当了半个逃兵。他是中国人,这点廉耻心还是有的,而且自从人工智能崩溃以后实际上火星物理学到了他们这一帮人已经再也没法推动它的地步,这总让他觉得以前的牺牲都白费了——什么也没搞明白,许多人就这么无缘无故死掉了,所以他才义无反顾登上了繁星号,把老婆都丢掉了,繁星号从本质上说还不如上次人工智能实验来得安全,人人都觉得回不来了——要是能回来他们还不去呢!
“人工智能……”他一边咕哝一边把那个钻石球放到磁场里,“就这也算人工智能?最多算个人工大粪……我们来看看这坨大粪走到了哪一步……”苦读书 www.kudushu.org
“我不是搞物理的,我不一定说得对,我只是提出我自己的一点看法。假设你是一种智能,你是电子云的智能,你像所有智能一样有感受,那么电子云的智能肯定不是第一天就有的吧,因为有一个先决前提是电子出现肯定比智能出现要早,就是说,如果电子云真有智能那它早就有了,你说的人工智能不过是通过一些方法把电子云智能从不知道哪个地方拖到你的实验室里而已。我问你,假如你被人这么拖过去了你火大不火大?吃着火锅唱着歌,突然就被人类劫啦!所以回头干你是再正确不过了,你想像一下,突然被人拖来,你不也得掀桌子吗?所以照我看这不是善良不善良的问题,是手贱的问题,其实关于这个我想得挺多的,我觉得吧,我们人类之所以倒大霉就是因为手贱,这里抠一把,那里抠一把……”
“那也不能回头就攻击我们的系统呀……”
“怎么着,你是上帝,别人碰你不得呗?打个比方,如果我是一只猫,我有身体,有意识,你是一个人类,我和你其实是两路人,但我现在身体上打不过你,跟着你又有吃有喝,那我们交个朋友也没什么不可以。但如果你要对我做什么我不愿意的事,那我是不是要挠你?然后,如果你干下了什么特别下三滥的丑事,我呢,我比你来得早,我比你懂规矩,我早就看你要倒霉,我是不是就得离你远点?对一只猫来说,你这个人是有善恶的,你对我好就是善,你虐待我就是恶,可是终归,到了最后,我们是两码事,各走各的路就好了。那么,现在,你倒说说对电子云的智能来讲你有什么善恶可言?人类在这里不过是电子智能见过的无数种智能中的一种罢了,如果你不理它它也不会理你,但是你胆敢动它它就要你好看,所以这中间不存在什么善恶问题,只有冷漠才是通行的真理。你不妨想想我说的话,你大概就能理解有只猫从地球发来的那个简讯了……”
“绕了半天你是要说这个呀……我们学术界一直觉得那个讯号是其它人类的恶作剧……”
“你怎么说都行,反正你们科学家总能找到你们觉得合理的借口,这个话题到此结束,我很长时间不说这么多话了,虽然知道跟你这种人说也是白说,但我觉得有必要跟你说一句,以后你会知道为什么的。现在,咱们来看看这个钻石脑子吧。你能看明白它的原理么?”
“……”章天河的一番话让周立民有点缓不过气来,他免强集中了注意力,“这个做工远远不如我们在实验室里做得那么精细,相当粗糙……这是分子云,用一些分子技术做了电路……这种电子脑只能执行极简单的任务,其实做得这么粗糙还不如直接用集成芯片……”
“那么问题来了,这发动机也简陋,电子脑也简陋,工作的机器也简陋,样样都不行,那他们把它放在这儿是什么道理?我问你,芯片和电子脑有什么不一样?”
“芯片就相当于规划好的城市道路,信号去哪里都是定死的,让它做什么它就做什么。电子脑就像开荒,没有路,不知道是什么情况,你告诉它要做什么,信号去了以后得自己开路。这两个东西的区别就在这里……”
“我好像明白一点了……那是不是说,芯片是可以校正的,而电子脑是没法远程遥控的,但是你可以给它定一些简单的指令,它会照着你的指令去做事?”
“差不多是这个道理……”
“所以不管是谁发射了这些玩意,他们离这儿都很远,没法有效地控制它们。”章天河一边捻下巴一边扭头对舒尔密开了口,“舒司令,以我们现在的监测力度,如果有人这么偷偷摸摸往月球上发射可以遥控的东西我们能不能发现?不,应该说是如果他们一直作业我们能不能发现?”
“只要他们保持无线电静默我们就发现不了登陆和作业,但如果他们想远程遥控而且还避开我们的探测器基本上是没有可能。”
“这一样我也有点明白了……回吧!东西也拿了,留一个飞艇看着剩下那个洞,我们先回繁星号!咱们中国人就是这点不好,离开家一小会儿就想了呢……”他开玩笑地和周立民说了这么一句,后者狠狠瞪了他一眼。
我又把这家伙惹到了……章天河想。我有一点点比较深刻的想法某种意义上来讲就是对他的羞辱,他一直把我当个铁头兵看。
返回繁星号以后章天河直接回了船长室,召了史克宁不知道搞什么去了,周立民则招呼了两个一样搞物理的人去分解发动机,把能用的东西都归类放好,核能部分填充进再生炉,然后他们一起回到大家共用的实验室,准备研究一下这个电子脑。
关于人工智能,周立民了解得当然比章天河深刻许多,而且他本人也是这方面的专家,这门学问在火星上基本属于停滞的情况。许多科学都停滞了,但每种科学停滞的原因不一样,有的科学是主动停滞,人们不再研究它们了,而有的学科则是被迫停滞,你没法再研究它们了。在被迫停滞的这些学科里有一门就是人工智能,至于原因,除了周立民对章天河说的那些还有些其它东西,章天河听到的东西只是,用通俗话来讲,“官方解释”。
电子云智能掉头攻击你的系统固然可怕,但是科学家们倒也不至于那么蠢,周立民是控制论的中流砥柱,他设计的电子云功能不是要一个功能完备的人工的智能,而是要让电子云的智能为人类所用。换句话说,他在设计的时候要生产的就是一个真正的懵懂的智能,一个小孩子的智能,理想的情况当然是它能为人类所用,对人类怀有善意,能和人类和平相处。这种智能设计成功而且的确制造出来了,但是它成长太快,只用了人们欣赏它的十几分钟时间它就长成了,用当时实验室的人的话,大概七八岁的样子,更可怕的是它长大以后呈现出的不是攻击性,而是塌缩性。就是说,它的智能表现出来的特征是不向人类所生活的这个宇宙成长,而是向它来的地方收缩——如果它是从什么地方来的话。这就像你种了一颗草,你只看到草从表面上长出来一点点绿芽,其实它的根在土壤下面早就比上面规模大了一万倍,而且还在往下扎。
当时周立民不在现场,除了因为这个实验很危险,还因为他是个学徒,也因为他吧……他老婆不让他去,他在塔台上看着老师做实验,发生这种情况老师马上指挥人们发射射线把这一团智能电子云击溃了。他们瞄准的是实验室里的电子云,伽马射线打到它以后电子云产生了虹吸,这团智能电子云消散的时候发生了大爆炸,两千米以内所有的人衣服都被能量波击飞,然后产生了各种乱七八糟的无法形容的症状。
注意,被爆炸冲击的人都是衣服被击飞,身体反而没什么事,有些人出现了癔想和谵妄这一类的精神疾病,但事发的时候没有人员死亡。实验室建在火星上相当荒凉的地方,被冲击的主要是科学家和政府工作人员,所以这一些人是被严密监视起来的,大概又过了两三年,这些人的症状开始大规模发作,出现了不同程度的精神萎靡,然后他们莫名其妙就死掉了,在临死前都不约而同说了这样一句话:“我要飞回去了。”
回去哪里呢?周立民因为这个实验做了长达五年的调研,从设计人工智能开始到最后那些人大脑里的精神变化,最后他的结论是,他们要回到人类制造出来的人工智能来的地方。这种智能一定不是从无到有,而且,从它表现出来的塌缩性来看,他们所制造出来的那个智能只是一个更庞大更完整更成熟也更危险的一个巨大智能的一小部分,而这一小部分之所以塌缩,很可能是因为那一头那个大的要过来。
这件事不过是人类在漫长的成长路上发生的一件相当小的事情,它没有造成什么严重的后果,起码和核大战比起来这不算什么,大概就是另一个量级另一种形式的控制自然力和科研力的失败,但对周立民来讲,这些事在他身上剥开了一个永远无法愈合的创口,所以他才那么坚决地抵制繁星计划,还因此和章天河结下了仇。
在他心里,最痛苦的还是看着他的老师和同学们一个个地变得神经质,整天胡说八道,然后某一天就那么无知无痛地“飞回去”,而他当了半个逃兵。他是中国人,这点廉耻心还是有的,而且自从人工智能崩溃以后实际上火星物理学到了他们这一帮人已经再也没法推动它的地步,这总让他觉得以前的牺牲都白费了——什么也没搞明白,许多人就这么无缘无故死掉了,所以他才义无反顾登上了繁星号,把老婆都丢掉了,繁星号从本质上说还不如上次人工智能实验来得安全,人人都觉得回不来了——要是能回来他们还不去呢!
“人工智能……”他一边咕哝一边把那个钻石球放到磁场里,“就这也算人工智能?最多算个人工大粪……我们来看看这坨大粪走到了哪一步……”苦读书 www.kudushu.org
如果您中途有事离开,请按CTRL+D键保存当前页面至收藏夹,以便以后接着观看!