第277页(1 / 1)

他从后背环抱住姜祎成,压低声音在她耳边说道:“小心,野人来了。”

————————————

注释:

①ai不能伤害人类,这个设定可能被认为与机器人学三定律的第一定律有关,但在实际操作中通常都会在编程时输入大量规则,前文也提到家居ai不能做出任何具有法律风险的行为[1]。此处与其牵扯到人类和弱ai之间的某种伦理学上的关系,不如直接理解为制造弱ai的公司是单纯为了规避法律风险。毕竟当代已经不是1950s了,大到自动化流水线小到手机智能app,大家见到“机器人”多了都知道其实程序的逻辑根本不是那么回事儿。

至于当代文艺作品里很常见的“弱ai由于理解不了某一指令的真实含义,而造成为了完成任务而找到并利用指令漏洞的事件——例如为了保护人类生命而把人变成植物人的情节——我只能说这些“天才”想象出的程序设计者可真天才,非得给ai写一个“不择手段必须完成指令”的模块。为什么我写的脚本就不行,刚一碰到bug就停下来报错?

[1]“避免违反法律的行为”之间可能是冲突的,但只要不预设“必须完成指令”,ai在遇到此种矛盾时完全可以停止执行直接报错。相比于把“第一定律”放在最高优先级,简单地规避所有违法行为反而具有更高的可操作性和更低的法律风险。

例如在主人发生窒息时ai判断需要切开气管,此时如果有最高优先级的“第一定律”,则可能发生ai为了救人而切气管却误切到主动脉导致主人死亡,引发用户和ai设计者之间的扯皮官司。而如果不区分优先级地禁止一切违法行为,救人行为与手术合法性冲突,ai直接报错而停止活动,是不存在任何问题的。

本质上这是一个权责一致的问题。ai不是公民,就不能作为承担责任的主体,因此不应当被赋予任何权衡利弊的权利(从另一个角度,人可以有对他人的救助义务,而工具不能对人有救助义务;工具没有“义务”)。上世纪的很多科幻作品刻意在这一点上进行混淆,是为剧情服务所做的特殊处理,与现实中自动化技术的发展方向不能相互混淆。

第一百七十三章:突发事件这大约是点……

野人?

他这用词让姜祎成不禁一激灵。在星际航行时代的人类社会,“野”这个字已经很少作为“不受拘束”的意思在日常用语中存在了①。

这并不是大家道德感提高了或者这个字在语言中的含义发生了什么变化,只是因为星际航行时代的普通人越来越难接触到真正的荒野了。可能也就是在地球公民当中这个字还能经常使用一下儿,主要就是因为只有常住在地球上的人才可能时而见到真正的野外环境。

而至于用“野”来形容人,则是更为少见的用法了。在全体公民都已充分现代化的环境下,原义的“野人”已经不可能存在,而对于那些不遵守社会规则的人,也有更常用的名词对他们进行称呼——往往那些词要比“野人”难听多了。

“什么是野人?”姜祎成问了一句。

“别出声!”简佚有些神经兮兮地压低声音说道,“现在野人每天都会来洗劫这片街道。我们躲起来,就不会被他们发现了。”

姜祎成看了一眼他们背靠的这棵老槐树,这树即使是基因工程的产物,就算是速生品种长到这么粗也得有三四十年了,多半儿是从人工林里移栽到这里的。从这一点来看,冥王星空间站负责城市规划的部门还是很舍得成本的。

按理来说城市绿化都舍得成本,治安应该更没得说了。因此姜祎成并不相信有什么“野人”,只当是简佚开始发疯了。

不过她也没有立刻挣开,一方面是好不容易跟“精神病人”建立了交流环境,总不能轻易放弃。另一方面也是因为简佚比她高了将近一头,虽然姜祎成对于向病人还手并没有道德上的阻碍,也得考虑到现在并不是一个很好的时机。

而简佚拉着她在槐树后面呆了一会儿,又有些焦虑地念叨道:“这里不安全……”

他左右张望了一番,似乎是看到了街角处的一座喷泉,于是立刻就拉起姜祎成往那边儿跑去。

姜祎成一边跟着他跑一边问道:“咱们去干什么?”

“要躲在水里……”简佚跑着解释道,“我观察过他们,野人不会到水里……”

听他说得,好像真有所谓的“野人”似的。姜祎成不禁觉得现在似乎是她不与简佚发生冲突而立刻跑掉的好机会。然而当她观察四周为“消失”做准备时,却真的看到一大票人从另一条路的尽头冲过来。

这些人的打扮各式各样,有的看起来像是刚从家里出来的普通居民,有的看起来像是大学生,有的看上去像是下班之后出来逛街的职员,有的则看起来像退休人士——星际航行时代仍然有人在工作满期限后会选择退休一段时间再进入地府,不过这段“退休期”不像地球时代的老人退休那样儿是以休息为主的养老,而是为了在进入地府之前花一段时间处理“此生”的社会关系。

但特殊之处在于,他们似乎都在脖子上带着一条黑色的围巾,并且手里拿着一些至少看上去和棍棒类似、具有一定攻击性的工具。

“他们来了!”简佚“噌”地刹住了脚步②,转身似乎要拉着姜祎成往回跑,然而却又在思考了一秒后反而拉着她直接往喷泉池子里跳去。

最新小说: 传道授业,徒儿全都不对劲? 名侦探世界里的巫师 逆天狂妃 傅爷,退婚后夫人又去约会了 重生七零:糙汉老公掐腰宠 青梅别追了,青涩同桌才是我的白月光 重生:都市最强剑仙 坐牢五年,刚出狱姐姐们就抛弃我 回到2002,我帮雷总登上首富 我在异界种田封神