“可一旦AI拥有了人类的情感,思想,他们和人还有什么区别?”
闻言江言心大方承认,“其实我也没想好,这件事牵扯的伦理道德,法律问题实在是太多,我仅仅只是站在科技发展的角度上,做了一些个人评论。但我认为AI发展如果仅仅止步于模仿人类最基本的举止活动,不去进行更深层次的探索,我认为是可惜的。”
讨论没有持续多久便结束了,在现有的科技条件下,没人能预测AI发展的未来,也没人能保证AI发展的未来不会带来任何问题。
比起人类社会的激烈争论,身为AI机器人的阿赫到显得淡然许多。江言心回来之后,阿赫的生活又回到了最初的状态,变成了一个合格的“家政机器人”。但他同时也对自己的现状产生了一些顾虑和问题,首先,作为周赫的一比一复刻版,他没有自由出现在公共场合的权利,其次,他的所有行动都必须获得江言心的许可,也算不上真正的自由。
从生理上变成一个完整的人类是江言心短期内无法解决的事情,但获得相对自由活动的权利,是短期内江言心可以解决的事情。他唯一需要的是,给江言心一个合理的理由,让江言心明白,他需要出门,需要面向社会,融入社会,而不是仅仅在小区周围的菜市场和公园转悠。
阿赫坐在沙发的老位置上,头一次开始认真思考这些事情,思考自己的需求。
这边江言心倒是遇到了更让人头痛的事情,自己和姜卿研发的陪伴型AI智能,在投入市场的前一个月出现了重大失误,AI在自我衍生迭代时,生出了反抗意识,在不经过使用者允许的情况下,作出了自己认为,但不是最适合使用者的判断,并且在受到警告后不进行修正,直到姜卿他们强行将程序终止。
“好可怕,”同组的男生缩了一下肩膀,“这就是拥有自我意识的AI吗?”
“还不算完全拥有自我意识,它对自己的称呼还用的是我们给他的代码,”姜卿喝了口茶,“一般觉醒自我意识的第一步,AI会如同人类一样,将自己称为‘我’。”
“现在这种情况充其量算作是被黑了,”江言心合上笔记本,“让信息技术的同事查一下,后台应该是被攻击了。小李,你跟市场部的说一声,样品测试有问题,交付需要延期。”
“唉言心姐,我要是没回来你可要记得去救我。”
“好好好,如果你没回来,我保证带着研发部去和市场部决斗。”
小李耷拉着脸的模样惹得姜卿笑出了声,样品延期投入市场意味着整体验证周期,批量上市时间都会产生变动,市场部不吃了小李就算好的。姜卿目光落到江言心的笔记本上,突然出声问了句,
“言心,阿赫最近怎么样?”
“他?他好着呢,每天都求知若渴,早起学习十万个为什么,睡前欣赏动物世界。”
“我不是说这个,”姜卿无奈,“他的自我意识构建的怎么样?你有了解过吗?”
“说起来我本来是想找你聊聊的,”江言心,“我觉得阿赫的自我意识搭建比他最开始时已经完整了很多,这段时间他已经脱离了最基础的机械模仿,开始对一些事情有了自我判断。”
“比如?AI机器人有自我判断不是最基础的编程吗?”
“不不不,最开始我们的编程是,无论情况如何,阿赫作出的判断永远会是经过多方比对后的最优选,但是现在他会被其他因素干扰,举个不恰当的例子,感冒时期不应该吃雪糕,这属于权衡利弊后的最优解,但我想吃,我恳求,或者与他商量,他会同意。”
“他开始被情感干扰了,”姜卿顿了顿,“他对你产生感情了?”
“我现在暂时还不太能确定他对我产生的这种情绪究竟应该如何定义,但是我现在能确定的是,他越来越不喜欢周赫了。”
“怎么说?”
江言心耸耸肩,“我就是想找你讨论一下应该如何求证这件事情,我现在只能从我提到一些周赫相关的事情时,他的表情中判断出来,但是我没有什么直接证据,而且基本上问他也不会说的。”
“求证一个人是否讨厌另外一个人是很难的,更何况是对于AI。”
“我现在考虑的不是这个,他对周赫的排斥是由于他是周赫的复制品,但是,”江言心理了下头发,“AI对所有者不坦诚,对所有者进行欺骗,隐瞒,这种自我意识的产生才是让我担心的。”
AI智能机器人对所有者需要做到绝对坦诚和绝对服从,一旦AI方对所有者存在隐瞒,那意味着他所产生的自我意识已经偏离了设定轨道,难以掌控。
“你有什么计划吗?”
“我在想,有没有可能让他和周赫见一面?”
闻言姜卿梗了一下,“你疯了?先不说阿赫会不会作出什么,周赫那边你准备怎么解释?正常人谁能接受世界上突然出现一个自己的复制AI?”
“你先听我把话说完,”江言心哭笑不得,“我不是说让他们面对面坐在一起,我是在想,能不能有什么方法让他们同时出现在同一场所,但不打照面的。阿赫到现在对周赫的认知都只是通过我的描述,照片,视频之类的,我想观察一下如果他见到周赫本人会是什么样的反应。”
“那还能有什么反应,”姜卿不解,“对于他来说,周赫也应该算是他的所有者。”
“你说的是理想情况,”江言心喝了口水,“理想情况下,他对所有人的态度应该是一样的,因为他与其他人没有任何伦理上的关系,但如果他对周赫产生了其他的情绪,那说明他的自我意识已经觉醒,再如果他不愿意将这些情绪分享给我,那说明他的自我意识已经脱离控制,是不应该存在的意识。”