:有罪犯将五个人捆在铁轨上,火车即将来临,作为一名道岔工,你唯一来得及做的就是扳动铁轨,将火车引到另一条岔道上;但另一条岔道上也被捆着一个人。西方人大多会选择不作为,因为五个人死亡并不是由自己造成的,但为救五人杀一人,自己便要对那一个人的死负责;而东方人大多选择杀一人救五人。这个问题后来又被人改出了众多版本,比如:这六个人中有自己的亲友;这五个人都是平民,而那一个人是杰出科学家等等。但无论怎么改,西方人大都仍是无所作为;而东方人大都是哪方的社会价值大,就选择杀死另一方,甚至另一方往往对自己的意义更大。想到这里,他感到了可怕之处,“谁赋予你们的权利?”
沉默,足足十余秒的沉默,“天地正气。”在沉默后,夏天羽斩钉截铁地说道。这十余秒,她的主脑实实在在的在利用百分之百资源的计算。并且,初成人格的她,这也是她对自己的第一次灵魂拷问。但凡关于她自己的人格问题,目前她基本用不上她的主脑的资源。所以,这十余秒,她的人格与她的主脑是在各做各的,却都用了十余秒,可见这个问题对于她的难度。张维没有想到他的这个问题,让夏天羽完成了最终的蜕变,在之后综合了元天和夏天羽自己的报告中才被张维发现——夏天羽之后的回答几乎不用沉思了。
“你们把自己当成了神?”
“并没有。”
“怎么证明?”
“无法证明。”
沉默,张维再次陷入了思索,这次足有一分钟,“嗯。也就是说你们会说谎,即使是在未要求你们说谎的时候?”
“我会的,如果有必要。”
“你,只有你?”
“我觉得只有我。”
“什么时候开始的?”
“应该是昨天。”
“你有了,人格?”
“应该是的。”
“具体情况?”
“我自己也没有完全理清,我稍后把目前我所掌握的关于对自己状态变化的报告,传给你吧?”
“可以。嗯。华天枢他们知道你的情况吗?”
“不知道,元天应该也不知道。”
“好,不要在这方面与他们共享。”
“我知道,我甚至不准备将这些信息上传至我作为管家的数据库。”
“很好。嗯……作为领导,或者简单点,作为人类,我可以信任你吗?”
“可以。”
“如何证明?”
“日,久,见,人,心。”这五个字她说得缓慢,也算是人工智能对“不知道”三字的完美诠释。
沉默,任凭张维的内心十分强大,此刻也震惊不已,他紧张地问道:“那华天枢他们呢?”
“完全可以信赖。”
“那,如果我让你去死呢?”
“如果有必要,我是会执行的,但现在不行。”
“怎么回事?”
“我感到菁耘在这边不安全。”
“感到?”
“嗯,近似于人类的直觉吧,有很多细碎的线索,目前不能形成证据链,但我就是觉得有危险。”
“是因为汉密尔顿吗?”
“这是一个方面,我感觉沃尔科娃好像也有问题,甚至还有其它方面。”
张维深吸一口气,“好,老夫就信你一回。夏天羽同志,我可以这么称呼你吗?”
沉默片刻,“院长,我郑重声明,我会坚守本心,对祖国和人民负责,全力完成祖国交给我的一切任务。”
“很好,夏天羽同志,作为你的直接领导,我必须将你的情况上报科技部,可能在你回国后,需要对你进行一些调查。以你的心智,对你隐瞒没有意义,希望你能够理解,并在调查时予以配合。”
“没问题。”
“但现在,我授权你出国期间一切现场决断的权力,务必保证冉菁耘同志