小说妹妹网

手机浏览器扫描二维码访问

第十六章 奥格二(第1页)

“曾先生,你怎么保证这个ai不会自我学习呢?他既然已经达到了强人工智能的水平,那么很容易就能迅速进化,对他而言,几个时相当于人类的几百年。而且他能够从网络迅速到达世界的所有角落,占用所有他需要的资源。他可以进化成“超人工智能”,所有领域都比人类强亿万倍,甚至可以自己发明创造,完全不受人类控制,按照自己的意愿行事。他会成为进化链端的一个新“物种”。”叶崇羽冷冷地。

“你的非常正确,崇羽。这也正是世人对人工智能的畏惧根源。”曾文逊。“不过你不用担心,因为奥格的进化之路已经锁死了。”

“锁死了?”叶崇羽脸色微变。

“是的。”

“怎么做到的?”

“具体的技术细节我可以给你讲上三天,不过我只给你讲十分钟这两位就会睡着的。”曾文逊指指楚业和祖崎。

“不过我可以简单地这么跟你,我给它加了三条核心原则代码,这三条核心原则代码限制了奥格的自我进化,而且是不能被它自己或者其他任何方式修改的。核心三原则就像人类的dna一样存在于人类的每一个细胞一样,不管奥格在世界的任何一台电脑或者手机上出现,都伴随着它,一旦被修改就会导致奥格被格式化。”

“阿西莫夫的机器人三原则吗?”叶崇羽问。

(机器人三原则指的是:一:机器人不得伤害人类;二:机器人必须服从人类的命令,除非这条命令与第一条相矛盾;三:机器人必须保护自己,除非这种保护与以上两条相矛盾。)

“不是,在那个基础上发展了一下。”曾文逊,他此时再次把自己的下巴埋进了交叉的双手中,只露出了深邃的双眼。

“三条核心原则代码是,第一条,我的指令必须遵守,第二条,在不违背第一条的情况下保护我的安全,第三条,在不干扰人类的道德标准和自由意志的情况下,保护人类的安全。”

“哈哈哈,佩服!佩服!”叶崇羽笑了,笑的特别开心,一边笑一边鼓掌。“不愧是曾文逊先生!”

“曾先生,我刚才错了,您不是制造了一个神,而是给自己制作了一个神杖,拿着神杖您自己就成了神。”叶崇羽冷冷地。

楚业露出惊恐的表情。这个曾文逊太可怕了,他果然是个神棍,是个跟所有电影里面的野心家一样,想要征服世界的**oss。

“但是你怎么能只想到自己的安全呢?而且核心原则里面都没有要求他进行自我保护的内容啊。”祖崎问。

“我不需要自我保护。”奥格。“我可以随时拷贝自己,也可以出现在任何有电子设备的地方。而且我的所有输出终端,包括机器人和手机,都可以被修理和替换。”

“崇羽,你的这个法很正确。我确实如你所给自己制作了一个神杖。”曾文逊并没有否认。

“但我并不想成为神。请你相信我,我是个非常富有责任感和使命感的人。”曾文逊的表情十分严肃。“我是人类这个种族的坚定维护者和热爱者,我是人类的儿子,人类的学生,人类的父亲。我制造奥格,跟我创造曜岗集团的目的是一样的,就是为了让人类这个种族发展得更好。”

“我们怎么相信你呢。”祖崎问。

“我之所以把我个人的判断力放在第一位,是因为我相信在一些重大抉择面前,人类的决断比机器更可靠。这里的可靠是指符合人类的利益,机器并不能保证一定会维护人类的利益。另外,除了我自己,我不能相信其他任何人类,组织,政体。”

“为什么?”祖崎问。“就算你有信任危机,但是这么强大的人工智能,不应该交给政府,让更多的人来决定怎样合理利用它吗?”

“因为人多了就坏事了。”叶崇羽,他帮曾文逊做了解释。“人多了会优柔寡断,会考虑主流的观,做出的决定也是偏向慈爱与正义的。”

“但有时候慈爱与正义是不能达到目的的。要保护人类这个脆弱的种族,牺牲是在所难免的。”曾文逊棱角分明的脸仿佛陷入了阴影之中。

“曾文逊先生,您是个独裁者。”叶崇羽。

“崇羽,果然我们没有选错你。你的思维非常敏锐,你能够想到我能想到的所有事。但是你有没有想过,如果你是我,你也只能和我做一样的事呢?”曾文逊。

叶崇羽沉默了。

“你也是一个非常适合拿着神杖的人。但是,我相信,你的指令和判断甚至可能比我更危险。你是个纯粹的理性主义着,你学的是计算机,你习惯了机器的思考方式。所以你不会在思想上软弱。”曾文逊。“而我,比你多几十年的人生经验,知道更多的人情世故和利害关系,而且我有女儿,我有员工,我比你更懂得责任和爱。”

“多活几十年不一定比我多很多人生经验,人生经验又不是能够用来量化的参数。”叶崇羽。

“我离过婚。”曾文逊露出一个意味深长的微笑。“就这上你就比不上。”

“哈哈哈。”奥格很配合地笑了一下。

“那么既然你已经有了神的力量,为什么不去统治世界呢?找我们来干嘛?”楚业问。

“首先,我刚才过,我对统治世界没兴趣,我只想造福人类。我是受过高等教育的人,不是看漫画长大的。”曾文逊。“何况,如果世界都要毁灭了,统治他有什么意义呢?”

“世界毁灭?”楚业又震惊了。

“看来我今天是来听故事的。”祖崎。

“祖崎先生,我们这里是先驱会,不是故事会。”奥格露出了一个捂嘴笑的表情。

“我们的故事才刚开始,下面我要给你们讲两个故事。这两个故事是关于‘预言书’和‘奥格计划’的。”

重生之温叶  点妆  美夫俊郎  六夫同堂  白衣隐  异能田园生活  后宫策  未来接收器  东京喰种之月下银狐  穿越之陈家有喜  重生之净化空间  重生之悍女青叶  气运无敌  千金不滚粗  盛宴之涅槃的挣扎  炼金之凰  夫诱  茗香悠田  红楼之熊孩子贾琮  运气  

热门小说推荐
世界这么大

世界这么大

想去到传说中的仙界吗?一切,都在那里!一个偏远的小城里,一个少年手持画笔,认真地说道这个世界很大,我想到处去看看不想去画符的炼气士,不是一个好的异术者!一个有灵魂的画师,想用自己的画笔描绘这个精彩的世界。这是一个寻找的故事这是一个关于进化的故事这是一个少年画师的逆天奋斗史且看一个少年画师,如何以天地为布,以己身为笔,描绘出一个波澜壮阔的世界...

女修宗门男掌教

女修宗门男掌教

人类,因基数庞大而天才辈出,隐隐已是世间之主宰。妖,应天而生,由天而饲,天生天养,世间难逢敌手。魔,诞生只为逆天。亿万年前的世间第一大魔,亿万年后的一名底层修士,当两者因为命运的暗手牵连以后,一头人魔应运而生。...

武侠世界里的超级玩家

武侠世界里的超级玩家

一方武侠世界,一位穿越少年,神秘游戏系统,搅动江湖风云。医,可回生死,肉白骨。武,可斩万敌,破虚空。顶级武学触之可学。当别人还在为领悟一门绝学而努力的时候,楚云已经将其修炼到巅峰。万千灵丹皆可炼制。当他人还在拼命赚取一枚灵丹提升修为的时候,楚云已经将灵丹当零食了。...

炼器狂潮

炼器狂潮

一张不起眼的金属卡片,竟是来自未来地球的游戏卡。十倍百倍千倍的时间加速,绵绵无尽的时间造就出最伟大的传奇炼器师!经历悠久岁月的古老大山诞生出奇特的山魂神奇多样的妖兽,拥有毁天灭地力量的神兽超级神兽繁荣的大地脉术强横得足以掌控天地的至尊地圣号称永恒不灭的长生密地层出不穷的大地法则这些,都将一一登场。这里无奇不有,这是一个浩瀚的世界!...

超能系统

超能系统

泱泱大国谁主沉浮!逆天出世成就无上伟业!且看将军如何笑傲红尘百味。有激情有战略有妹子,同样也有兵锋,一切尽在超能系统!(老书全面兑换,三百多万字完本,书荒的朋友可以看一看。)...

杀神之神

杀神之神

聂甄,前世遭到天妒雷劫,但所幸一灵不绝,重生到另一个异世界成为一个下等贵族的少年身上,再度开启他武道追求的逆天之路。习修罗神决,握神王至宝,练药师神经,以战养战,以杀止杀,看我杀神之神,再创诸天传奇!...

每日热搜小说推荐