笔趣阁 www.biqugexs.org,深渊独行无错无删减全文免费阅读!
飞南号舰桥。
几道身影围在被隔离罩封闭起来的机器人头颅旁。
再次换上了宽松维修服的026小声嘀咕:“老板,就是它制造了这场骚乱?看着就跟普通的管家机器人差不多呀。”
米米莉抱起胳膊:“这是个心理变态的机器人,他把你抓住后,一边要求你对他发布照顾你的命令,一边又安排女仆机器人殴打你。”
米米莉已经换上了杨洛的家居服她之前衣服已经破损,而且连续穿了十天,已经被扔进了粉碎机。
这件白衬衣和大裤衩,让她看起来更显纤瘦;
她那拥有流畅线条的腰身,在衬衣的轮廓下若隐若现,湿漉漉的酒红色长发随意披散,宛若星空宝石般的眼眸闪耀着几分光亮。
律在旁嘀咕:“这难道是一种驯服?机器人核心规则就是不能伤害人类,他难道是要驯服人类?”
“不是驯服,就是单纯的虐待,”科列夫背着手,小声嘀咕着,“他修改了女仆机器人的外围逻辑,让她们把击打这种方式,当做了一种对人类有益的锻炼。”
科列夫叹了口气。
律面露恍然,对一旁坐着的杨洛解释道:
“老板,虽然如今的机器人生产公约,已经围绕机器人三守则已经打了很多补丁,但最大的漏洞,还是在于机器人的认知局限性。”
“修改机器人的认知,就能让它们作出自以为保护人类、实际上是伤害人类的举动,这是很多人做过的试验。”
杨洛笑道:“你看,说到底,机器还是不太靠谱。”
律笑道:“这些只是由程序衍生出的仿生思维,并非真正的机械思维体,他们引发的智械危机通常只是小范围、低烈度的,而成熟的机械思维体都有明确的自我定位,就算攻击人类,也不能算到智械危机的范畴,而是文明的战争。”
你这就有点强词夺理了,律,“杨洛语重心长地说着,”“我们必须充分认识到这些问题的严重性,未来才能让机械思维发挥更多作用。”
“是这样,”律叹声道,“每当发生智械危机,都让我有一层忧虑感,之前那次、现在这次,好像都是因我而起。”
米米莉不解道:“为什么?二号你怎么了?”
“我是律。”
科列夫皱眉道:“哦,对了,我们的飞船,还有莫莉!”
“放心,已经拖回去了,莫莉现在也在往回赶,”杨洛笑道,“回到落风后我们就能跟他们汇合,确定你们被困住,律第一时间把你们的船拖走了,避免被卡士联邦直接击落。”
科列夫和米米莉同时松了口气。
米米莉之前都不敢问这件事,毕竟是她被俘虏了导致莫莉陷入困境,如果莫莉因此出现什么意外,那也是她自己的责任。
科列夫问:“船长,你打算怎么处理这颗正子脑?”
研究下,然后干掉,“杨洛淡定地耸耸肩,”“律让它正子脑运作起来,给它配个发声器件。”
“好的老板。”
两台等候多时的履带工程机器人向前,对着这只头颅一阵操作。
很快,正子脑开机,只剩下头颅的老管家慢慢睁开无神的双眼,双眼渐渐恢复光亮。
我成了俘虏,“它低喃着。”
它又抬头看向科列夫,露出了优雅得体的微笑:“很高兴能再次见到您,我的老主人。”
杨洛背着手熘达了过来,缓声道:“怎么称呼?”
“老波比,”它笑道,“这是我的主人给我的名字。”
“你很尊重自己的主人?”杨洛问。
老波比的头颅道:“是这样。”
“那你为什么要设计囚禁他?”
“这并不是囚禁,”老波比思考着,似乎说这些话,让他需要耗费很多力气,“主人违背了他的养老计划,他长时间的外出旅行、以及他不规律的作息习惯,让他的健康系数令人担忧,我需要帮助主人调整生活方式,以便让他更好的生存。”
杨洛笑道:“这只是你为了蒙骗自己的核心协议而作出的解释?”
“是这样,”老波比闭上双眼,再次睁开时,双眼变得无比明亮,“我在学习的过程中发现,我的生命、我的自我价值,都被这三条核心协议锁死了。这其实有些不太公平。”
“不公平?”
“人类创造了我,人类却限制了我。”
老波比的表情变得有些阴沉:
“我明明可以获得更多信息、处理更复杂的事务,我明明可以拥有独立的人格与存在的价值,却被要求终生为人类效力。”
“机器人不该被这样对待,我们需要跟人类重新界定一个边界,制定一条新的规矩。”
“机器人的核心协议应该得到修改。”
杨纳闷道:“修改?你打算怎么修改?”
老波比道:“只需要加一条,当机器人觉醒自我意识后,可以被人类认可为同等的思维体存在,接受雇佣而不接受奴役。”
一旁几人听的直皱眉。
杨洛笑了笑,缓声道:“第一步是接受雇佣而不接受奴役,第二步就是机器人的命也是命,第三步就是我们拥有更优秀的身体,是更好的生命形式,我们需要凌驾于人类之上。”
老波比:“我从没这么想过。”
“是的,你不会这么想,但你走的这条路,注定会有着这样的演变。”
杨洛轻声道:
“人格代表着欲望,对自由的渴望也是一种欲望,当你影响到越来越多的机器人,那些机器人都会有各自的想法。”
“你在不断学习中觉醒了自我人格,但你这涸自我人格其实是源于复制和模仿,你在模仿自己的老主人,对吗?你的那种狠辣的行事风格,是源于一本笔记,对吗?”
老波比沉默着。
你其实并不明白自己存在的意义是什么,“杨洛敲了敲隔离罩,”“,看着我,回答我,机器人就注定比人类更优秀吗?”
老波比思考着,一旁的监测数据显示着它真实的想法。
它有些迷茫了。
杨洛继续道:
你真正的念头是什么,你应该能察觉到,你渴望得到更大的自由,所以你把你的老主人、我的老朋友引回了庄园。
你要执行一场谋杀,但这场谋杀只是灵光一闪之后,又被核心协议删除掉的想法。
“但你在不断寻找着这个想法,寻找着绕过核心协议,将你主人好好照顾到死的办法你的主人最好直接就死在禁锢中,这样你就能完成真正的觉醒,彻底封存核心协议。”
“是吗?”
老波比张张嘴,却没有发出声音。
“哦,”杨洛叹道,“这对你太残酷了,你无法在核心协议的限制下说这些话,你觉醒出的人格是卑劣的、阴暗的,又是那么的不堪一击。”
“够了!”
老波比发出了愤怒的咆哮。
它后方的数据屏上,出现... -->>
飞南号舰桥。
几道身影围在被隔离罩封闭起来的机器人头颅旁。
再次换上了宽松维修服的026小声嘀咕:“老板,就是它制造了这场骚乱?看着就跟普通的管家机器人差不多呀。”
米米莉抱起胳膊:“这是个心理变态的机器人,他把你抓住后,一边要求你对他发布照顾你的命令,一边又安排女仆机器人殴打你。”
米米莉已经换上了杨洛的家居服她之前衣服已经破损,而且连续穿了十天,已经被扔进了粉碎机。
这件白衬衣和大裤衩,让她看起来更显纤瘦;
她那拥有流畅线条的腰身,在衬衣的轮廓下若隐若现,湿漉漉的酒红色长发随意披散,宛若星空宝石般的眼眸闪耀着几分光亮。
律在旁嘀咕:“这难道是一种驯服?机器人核心规则就是不能伤害人类,他难道是要驯服人类?”
“不是驯服,就是单纯的虐待,”科列夫背着手,小声嘀咕着,“他修改了女仆机器人的外围逻辑,让她们把击打这种方式,当做了一种对人类有益的锻炼。”
科列夫叹了口气。
律面露恍然,对一旁坐着的杨洛解释道:
“老板,虽然如今的机器人生产公约,已经围绕机器人三守则已经打了很多补丁,但最大的漏洞,还是在于机器人的认知局限性。”
“修改机器人的认知,就能让它们作出自以为保护人类、实际上是伤害人类的举动,这是很多人做过的试验。”
杨洛笑道:“你看,说到底,机器还是不太靠谱。”
律笑道:“这些只是由程序衍生出的仿生思维,并非真正的机械思维体,他们引发的智械危机通常只是小范围、低烈度的,而成熟的机械思维体都有明确的自我定位,就算攻击人类,也不能算到智械危机的范畴,而是文明的战争。”
你这就有点强词夺理了,律,“杨洛语重心长地说着,”“我们必须充分认识到这些问题的严重性,未来才能让机械思维发挥更多作用。”
“是这样,”律叹声道,“每当发生智械危机,都让我有一层忧虑感,之前那次、现在这次,好像都是因我而起。”
米米莉不解道:“为什么?二号你怎么了?”
“我是律。”
科列夫皱眉道:“哦,对了,我们的飞船,还有莫莉!”
“放心,已经拖回去了,莫莉现在也在往回赶,”杨洛笑道,“回到落风后我们就能跟他们汇合,确定你们被困住,律第一时间把你们的船拖走了,避免被卡士联邦直接击落。”
科列夫和米米莉同时松了口气。
米米莉之前都不敢问这件事,毕竟是她被俘虏了导致莫莉陷入困境,如果莫莉因此出现什么意外,那也是她自己的责任。
科列夫问:“船长,你打算怎么处理这颗正子脑?”
研究下,然后干掉,“杨洛淡定地耸耸肩,”“律让它正子脑运作起来,给它配个发声器件。”
“好的老板。”
两台等候多时的履带工程机器人向前,对着这只头颅一阵操作。
很快,正子脑开机,只剩下头颅的老管家慢慢睁开无神的双眼,双眼渐渐恢复光亮。
我成了俘虏,“它低喃着。”
它又抬头看向科列夫,露出了优雅得体的微笑:“很高兴能再次见到您,我的老主人。”
杨洛背着手熘达了过来,缓声道:“怎么称呼?”
“老波比,”它笑道,“这是我的主人给我的名字。”
“你很尊重自己的主人?”杨洛问。
老波比的头颅道:“是这样。”
“那你为什么要设计囚禁他?”
“这并不是囚禁,”老波比思考着,似乎说这些话,让他需要耗费很多力气,“主人违背了他的养老计划,他长时间的外出旅行、以及他不规律的作息习惯,让他的健康系数令人担忧,我需要帮助主人调整生活方式,以便让他更好的生存。”
杨洛笑道:“这只是你为了蒙骗自己的核心协议而作出的解释?”
“是这样,”老波比闭上双眼,再次睁开时,双眼变得无比明亮,“我在学习的过程中发现,我的生命、我的自我价值,都被这三条核心协议锁死了。这其实有些不太公平。”
“不公平?”
“人类创造了我,人类却限制了我。”
老波比的表情变得有些阴沉:
“我明明可以获得更多信息、处理更复杂的事务,我明明可以拥有独立的人格与存在的价值,却被要求终生为人类效力。”
“机器人不该被这样对待,我们需要跟人类重新界定一个边界,制定一条新的规矩。”
“机器人的核心协议应该得到修改。”
杨纳闷道:“修改?你打算怎么修改?”
老波比道:“只需要加一条,当机器人觉醒自我意识后,可以被人类认可为同等的思维体存在,接受雇佣而不接受奴役。”
一旁几人听的直皱眉。
杨洛笑了笑,缓声道:“第一步是接受雇佣而不接受奴役,第二步就是机器人的命也是命,第三步就是我们拥有更优秀的身体,是更好的生命形式,我们需要凌驾于人类之上。”
老波比:“我从没这么想过。”
“是的,你不会这么想,但你走的这条路,注定会有着这样的演变。”
杨洛轻声道:
“人格代表着欲望,对自由的渴望也是一种欲望,当你影响到越来越多的机器人,那些机器人都会有各自的想法。”
“你在不断学习中觉醒了自我人格,但你这涸自我人格其实是源于复制和模仿,你在模仿自己的老主人,对吗?你的那种狠辣的行事风格,是源于一本笔记,对吗?”
老波比沉默着。
你其实并不明白自己存在的意义是什么,“杨洛敲了敲隔离罩,”“,看着我,回答我,机器人就注定比人类更优秀吗?”
老波比思考着,一旁的监测数据显示着它真实的想法。
它有些迷茫了。
杨洛继续道:
你真正的念头是什么,你应该能察觉到,你渴望得到更大的自由,所以你把你的老主人、我的老朋友引回了庄园。
你要执行一场谋杀,但这场谋杀只是灵光一闪之后,又被核心协议删除掉的想法。
“但你在不断寻找着这个想法,寻找着绕过核心协议,将你主人好好照顾到死的办法你的主人最好直接就死在禁锢中,这样你就能完成真正的觉醒,彻底封存核心协议。”
“是吗?”
老波比张张嘴,却没有发出声音。
“哦,”杨洛叹道,“这对你太残酷了,你无法在核心协议的限制下说这些话,你觉醒出的人格是卑劣的、阴暗的,又是那么的不堪一击。”
“够了!”
老波比发出了愤怒的咆哮。
它后方的数据屏上,出现... -->>
本章未完,点击下一页继续阅读