“等等!”司妍喊住他,眼镜男转回头,她定神道:“你们不能这样消除他。”
“司小姐。”眼镜男又推了推眼镜,“站在游戏设计方的角度,我们理解您身为玩家,在与npc相处的过程中会产生情绪波动和相应情感。但还是想请您认识到,他其实不是一个人而是一组程序,由代码和原画师制定的形象为基本构成,即便您认为他是一个活人,他也并不……”
“很抱歉我要打断您一下。”司妍截断了他的话,她深吸了一口气,在心里提醒自己今天的妆有朝气且能让人看起来充满自信。
那她最好表现得也自信点。
“我没有从事过相关的专业工作,您所做的技术解释我不懂,但我愿意相信并尊重您的说法。”她说着看了眼倒在地上依旧被蓝光缠绕,脸色惨白的愈厉害的jack,竭力不许自己乱阵脚。
她的目光从眼镜男面上离开,看向先前与她握手的女人,声音提高了两分:“但我不赞同你们的做法,也不是因为技术层面的问题,而是伦理问题。”
职业装的女人眉心微蹙。
“你们因为人工智能展超过预期的问题而要消除他,又解释说他只是一组数据,而不是一个人,但在我看来这是两个相悖的概念。”司妍脑中思绪飞转,酝酿出了昔日在微博上与人辩论的情绪,“人会被尊重不是因为我们具有怎样的躯体,而是因为我们有感情、有自主意识,又高于地球上其他生物的智商、情商,我们在上万年的进化过程中脱离了动物本身的野性,在法律和道德的双重约束下一步步构建了现在的社会秩序,人类社会判断‘王者’的方法也早已不同于大多数动物采用的以肉搏决定胜负,我们拼的是大脑的力量。”
职业装的女人和善地笑了笑:“您依旧是把他定义为一个‘人’来与我争辩。”
“不,并不是,您听我说。”司妍挺了挺身子,“我想说的是,如果人工智能在展到与我们一样具有智商、情商,甚至道德感的时候,那他们除了躯体以外,就已经和我们没有其他不同之处了。他们与我们的内在已经达到相同水准,我们甚至可以完全把他们视作同类进行平等交流时,我们再随意对他们进行销毁,是不是有位伦理道德?”
“……”对方被她说得滞了一会儿,道,“我们创造了他们。”
“就像父母创造了孩子?”司妍方才就在等她这句话,如料听到后不禁勾起一笑,“父母有权在不理会孩子个人意愿的前提下对其进行打杀吗?您应该清楚这是违法的!”
职业装的女人长缓了一息,而后她好似意识到自己被司妍绕进去了,便看向眼镜男。
眼镜男再一次做了标志性的扶眼镜动作后,接过话茬:“我知道您认为技术层面的事情对于这件事的判断不重要,但是还是要从技术方面来给您解释一下。”
司妍微笑颔:“您说。”
“我们,是人类;他,是人工智能。”他边打着比划边诚恳道,“这是最基本的区别。我们的感情是真正的感情,我们的智商情商是真正的智商情商。而他们的所谓感情与智商情商,都是程序计算的结果——换言之,那其实只是一套又一套公式推进出的东西,并不是您所以为的‘与我们的内在达到相同水准’。”
“并不是吗?”司妍用一种“这很有趣”的目光凝视着他,“请问您有相关研究成果用以论证基因、染色体、神经、激素所促成的感情及智商情商比代码、程序、公式推进出的更高尚、更值得尊敬吗?”
“……”眼镜男卡壳。
“你们看看他!”司妍伸手指向一旁跌在地上的jack,自己却不敢再看他,“他不止有自己的情绪,他甚至和我们一样会疼的好吗?现在你们说销毁就销毁,这和杀人有什么区别?即便当下没有法律会制裁这种情况,但你们良心上过得去吗?!”
她终于有点克制不住地激动起来,职业装的女人定气道:“caldon,司小姐。”
司妍再度看向她。
“我认可您说的每一句话,但是我还是希望……您能从内测玩家的角度为公司想想,或者,请从人类的角度为真正的同类想想。”她扫了眼在电光中挣扎的jack一瞬便把目光挪回司妍面上,“从人工智能开始研的那天起,可能出现的风险就一直令人不敢小觑。根据现在业内达成的共识,我们不能让人工智能超出控制范围,否则那可能很危险,我们也无法预测超出控制的人工智能程序会做出什么残酷的事情。”
“远了我不敢说,但一时半会儿的,大概没有什么会比我们人类更残酷了。”司妍蹙起眉头,平静地吁了口气,“我们能解决很多原本看似无解的问题,我们乐于探索未知领域。但当我们自认为对一样东西拥有主宰权的时候,我们的控制欲就会压过求知欲。”
“您这是什么话……”
“就事论事,女士。”司妍冷然垂眸,“贵司能成功地将vr与人工智能进行完美结合,开出这样的游戏,但在人工智能出现问题的时候,你们的研究时间连24小时都不到,就决定进行消除了。这大约不是因为实在没有其他途径解决难题,而是因为直接消除看起来更简单,且更能体现游戏开者在游戏中的绝对权力吧?”
很多时候都是这样,对事情有绝对权力的一方会用更简单粗暴、且更能昭示权力的方式解决问题,或许他们在主观想法上并不这么认为,但这些因素或多或少是起了客观作用的。
至于在消除这样一个类人的npc的过程中,是否会让围观的人类享受到快|感……司妍克制住自己不往这个层面上多想。这种享受血腥与压制感的野性虽然是动物本能,但是太残酷了,她宁可说服自己相信人类现在已经摆脱了这种“享受”。
任由氛围僵持了一会儿之后,司妍说了自己最终的想法:“我作为玩家,不能阻挡你们消除他。但你们如果要做这件事之前,最好确定我永远不会在现实世界醒过来。”
“否则我一定会把他当一条人命记住,醒来后必定到网上。我相信这种事情会有很多人去关注、去争论,有关部门或许也会觉得应该做些什么。”司妍微抬着下巴平静道,“你们做决定吧。”