小说妹妹网

手机浏览器扫描二维码访问

第265章 机器人三定律缺陷（第1页）

一年以后，陆平从休眠舱内清醒过来，这时的他终于冷静了下来。

“后土，中心河系有没有找到？”陆平清醒之后，第一件事就是询问任务进展。

“恭喜主人，在你休眠之后，中心河系顺利找到，目前正在对该星系进行观察，试图确认下一级目标。这是中心河系的详细星图。”休眠舱内的子体程序向陆平投影出一张星图。

陆平瞅了一眼星图，这才由机械医生搀扶着，进入了恢复室中。

被强制休眠的情况，陆平并没有忘记。他当时的情况的确不太正常，但是他只需要坚持几天就行，后土却执行了强制休眠程序。

这种情况并不是后土的错误，它是根据陆平的健康指标，执行的预设程序而已。

在这种情况下，它拒绝了陆平的口头指令。前提是为了保证陆平的生命安全。

这不是后土出现了问题，而是陆平发出的指令威胁到了自己的生命安全，与底层逻辑起了冲突。

人工智能的底层逻辑首先要保证陆平的生命安全，将陆平视为一个缺失了正常行为能力的人，在这种情况下拒绝了他的指令。

这其实是人的问题，并不是后土主动抗命。可这种情况却客观的发生了，无论出于什么前提，人工智能确实违反了人类的指令。

一般来说，正常人都不会发出可能危及自己生命安全的指令，可事情总有特例。

这种特例放眼全人类的万亿基数里面，绝对数量的实例应该也会不少。要是平时也就罢了，万一是在关键时刻发生，岂不是要耽搁大事？

人类自从有了脑机技术之后，一般都不会太过于依赖人工智能了。

只有一些大型的计算需要，或者个人的偷懒行为，才会让人工智能代劳。

这种抗命行为归根结底，还是人的指令和人的生命安全相冲突，想要完美解决，就得从人身上下手，而不是去更改人工智能的逻辑指令。

如果后土当时真的执行了陆平的口头指令，放弃强制休眠程序，陆平会不会过劳猝死？答案谁也无法预知。

除非陆平能够拿出让人工智能相信的数据，证明自己确实不会死，否则强制休眠程序就无法取消。这其实也是他设置这个休眠程序的初衷。

可是换个角度来说，如果当时自己宁愿死，也想要看到计算结果怎么办？如果换做其他人，宁愿死也要达成一些心愿怎么办？

这种冲突，会让濒临死亡的生命，无法完成自己最后的心愿。对有些人来说，确实是有比自己生命更加珍贵的东西。他们宁愿牺牲自我，也要完成心中的信仰，这关乎到个体生命存在的价值和意义。

一个为了活着，天天躺在休眠仓里的人，他的生命有何价值又有何意义？即便有也无法达成！

考虑到接下来的工作中，这样的情况可能还会出现，陆平得寻求一个办法来解除这种潜在的危险。

如何解除？有两个方向，可以分别从自身和后土的底层逻辑着手进行改进。

假设自身能够拥有不死之身，那么后土就只能遵从自己的口头指令。这是基于机器人三大定律制定的底层逻辑。

作为碳基生物的人类，可以拥有绝对的不死之身吗？显然是不可能的。那么就得从后土的底层逻辑层面去解决。

后土的底层逻辑基于机器人三大定律而设定：机器人不得伤害人类，或坐视人类受到伤害；除非违背第一定律，否则机器人必须服从人类命令；除非违背第一或第二定律，否则机器人必须保护自己。

这三个底层逻辑环环相扣，如果同时发生那么就会出现之前的状况：

后土为了防止陆平出现生命危险，拒绝了陆平的口头指令，并制止了陆平采用物理方法强行让它下线的行为。然后将陆平强行休眠。

这三个逻辑在人类旧历的科幻电影《机械公敌》中最早出现，当时就被证明是存在漏洞的。

重生九零休想再要我的命  末世手握气运空间之人类新纪元  女主夺我气运？我反手抢她机缘  公主她日常暴躁  柯学：灰原同学，你别自我攻略啊  带着全人类，逃出银河系  娱乐之快意人生  从御兽园开始  今日份的心跳：老干部的恋爱日常  人类的黑暗时代来临  我有一眼可破天  噩梦街机：从恐龙快打开始  渡劫被雷劈转世：开启摆烂修仙路  离婚止损  渡劫被雷劈转世：她封神归来  我在北魏的铁血生涯  嬉笑三国  至尊神婿  在掉马之前拯救世界！  西域情怀