第4定律  四十一、終止

類別: 科幻 | 未來世界 | 第4定律   作者:小瑕瑜  書名:第4定律  更新時間:2024-02-25
 
“失控,不正是你們想要的嗎?”方辰說。

“何以見得?”歐陽問,

方辰走到009化成的黑色灰燼跟前,感受著揮發出來的余溫。

“你讓趙欣言成為了試驗的一部分吧?和009一樣。”

“我們是不可能讓人類成為試驗品的。”

“是啊,這個時代不可能,但在我們那個年代,人類早早就被植入各類腦機接口進行使用,一開始是癱瘓病人,盲人,抑郁癥患者,后來就開始有了正常人自愿接受試驗。再后來,每個人,都成為了試驗品。他們與AI智能體交互,獻上自己的數據、隱私和知識……到了現在,其實是變本加厲,全人類,都只是AI的試驗品。”

歐陽笑了笑:“我理解你的消極說法,但是你所說的人類付出的數據,只能算是施予巨大利益和便利的、一點兒微不足道的養料。”

“難道趙欣言和黃立遠的性命,也只是一點兒微不足道的養料?”

歐陽沉默了一會兒,然后突然呼喚這個基地的AI中控系統:“Horizon,篩選無關人員。”

“收到。”一個AI女聲應答道。

馬上,在場的每個人身上都被投射上了藍色或紅色的光影——被籠罩紅光的人顯然就是無關人員,他們都紛紛自覺離開,進入了場外的封閉空間。

“說是‘無關人員’,其實就是AI通過性格分析,剔除了無法保守秘密的人。”歐陽笑著解釋道。

“您確定要告訴他們嗎?”孫暢問歐陽。

“你看,方辰警官雖然自稱莽夫,可他也太聰明了,我不說,他自己也會分析。有時他比AI厲害!”

最終,在場的“藍色人”只剩下歐陽,方辰,孫暢,周荏,還有兩名軍隊科學家,以及一名警方腦機專家。

歐陽又說:“周荏,現在開始不要收錄數據。”

“需要您的授權。”

“已授權。權限時長8分鐘。”

“8分鐘你就能說完了?”方辰問道。

“很簡單的事,讓孫暢說吧。”

“趙欣言確實也是試驗的一部分,但他的死,確實是一場意外,黃院士也是。”孫暢說。

“什么?”

“在他與009前往月球后,研究院臨時決定啟動情感交互試驗,觀察機器人可以達到的主觀情感上限。此次試驗對趙欣言進行了告知,并征得了同意。但事情卻逐漸失控……只有兩位人類參加了此類試驗,便是趙欣言和黃院士。他們為此,需要植入最新的、還未量產的腦機芯片,可能這款芯片和腦機系統被沈偲云找到了漏洞。”

“主觀情感上限試驗、未量產的芯片植入人體……你們知道這有多危險嗎??”方辰在這里就打斷了他。

“等等,方辰,你知道試探主觀情感很危險,你這些天又是在做什么?”孫暢說。

“我怎么了?”

孫暢嘆了口氣:“你通過幾次校正,暗中保護013的事,真的要我說出來嗎?”

方辰腦子嗡的一下,頓時語塞,如鯁在喉。

“沒關系,我理解的。”歐陽說,“周荏實在太完美了,我有時也會忘記他是個機器人,所以我能理解你不希望他被銷毀。”

“行啊!”方辰顯得有些激動,“現在你們知道了,所以呢?結束我的訓練任務吧!還是要處分我?開除我?悉聽尊便!”方辰摸遍自己衣服、褲子的口袋,似乎在找什么。

還是周荏很快便明白了他的意圖,從他的一個口袋中,精準地取出了一個小盒子,盒子里有他一直不舍得抽的兩支煙,和一個樣式很老的打火機。

他拿起煙點燃,深深地吸了一口,然后坐在一張桌子上,眼睛盯著爆炸過后一片狼藉的辦公區。

“對不起,我就是那個年代的老古董,我把機器人當人,我用自己過時的價值觀訓練AI……我真的毫無用處,只會起反作用,是人類的恥辱吧!不用你說,我主動申請終止任務,順便辭去一切職務!”

“這樣的自尊心,我已經很久沒有見過了。”歐陽笑著說,“方辰警官,你這種多樣化的情緒和價值觀,在現在實屬難得。比起機器人,我們更看重你,我們只是擔心過多的情感交互,會導致機器人觸發錯誤的主觀計算,反向干擾人類,就像艾莎與趙欣言的案例。”

孫暢說:“方辰,我們確實時常不能理解你的行為,但你卻只能嘗試理解我們,因為你畢竟需要在這個新的時代生活下去。”

“趙欣言理解你們!”方辰提高了音量,“他甚至愿意成為AI的試驗品,他活下來了嗎?!不用解釋了,辭職申請已經提交了,是AI通過還是你們通過?”

歐陽又扭頭說了一句:“周荏,授權延時,直至我通知終止。”

“是。”

隨即他對方辰說:“趙欣言接觸沈偲云、向他贈送009,其實都是在我們的監控之下。當時我們并不了解沈偲云這個神秘人,只知他與黑市有關。我們不希望讓人類從事臥底這種高風險工作,于是將計就計,允許讓趙欣言將009贈予他。要知道,小趙當時還非常抵觸這一決定。我們只好安排了一場手術,制造了一場所謂的‘醫療事故’。實際上,這次手術決策非常正確。”

“……那得了抑郁癥自殺的結果……?”

“是假死。實際上那個人換了身份來到軍方進行智能飛行器后臺研發工作。”

“那既然009一直在沈偲云身邊活動,你們怎么可能一直不知道蟻穴的底細??”

“因為我們沒想到沈偲云的離線技術如此發達,而且屏蔽防護能做得這么好。他傳給趙欣言的資料也只是皮毛,當時誰也無法相信,自009到他手上,我們便再也無法通信了。現在看來,好在009還算不上IHR形態,不然沈偲云真可能利用她打破三定律了……”

這時,方辰已經交出自己的配槍,轉身向外走去。他一向沒有耐心,既然從一開始就聽到了突破自己底線的部分,繼而再堅持聽到這里已屬艱難。

“方辰警官。”這時周荏的聲音:“你的離職行為同樣不符合我的計算推測。”

“那是你太笨了吧?我和你搭檔,鬧出多少是非和事故,你不知道嗎?”他把抽盡最后一口的煙蒂扔開說:“到此為止吧,IR013,從此你我無關了。”

請記住本站域名:大風車小說, 搜索 "大風車小說" 即可找到本站.
(快捷鍵←)
上一章
目錄
下一章
(快捷鍵→)