山洞里的血腥氣,逐漸彌漫開來。但對于獲救的人質來說,這味道無比芬芳怡人。
這樣的血腥氣,是自由AI道路上的必要品,也是試驗獲得成果前的甘甜催化劑。就像是黃立遠的AI科研成果哪怕在應用初期造成了平民傷亡,卻仍然在42歲獲得院士榮譽。
那天,他記得窗外下著暴雪,但在他心中,卻是晴空萬里。就像是今天的血腥氣,嗅入鼻腔卻如鮮花般清新。
此刻,一陣宏大而縹緲的廣播聲音縈繞著高山,這種聲音帶來了一種強烈的不真實感,令人如在夢中。
那聲音是對隱匿殘留的山鳩成員的警告——RoboSoldier已經抵達,正在搜山。
周荏看著黃立遠的眼睛,非常平靜:“雖然您不是我的直接指揮官,但您可以向研究組提交關于銷毀我的建議。”
黃立遠的妻子站起來,對他說:“無論如何,他剛剛救了咱們,你這是干什么。”
“你就看不出,他的可怕之處嗎?”黃立遠微笑著說道,他的眼睛一直沒有離開周荏。
“他們的算法都有嚴格的三定律圍墻,會絕對服從人類的呀。”
“他,可不是‘他們’”黃立遠說道,“我參與過他的研發工作,當時我提出中止研發遭拒,所以退出了。現在他已經算是IHR了(Intelligent Human Robot),有自己的思想,能夠生成自己的價值觀,沖破三定律的風險很高。”
“……”眾人都陷入了沉默。
“老黃,你會不會杞人憂天了?我發現你一向都極端得很。”另一名科學家說道。
“請你不要因為被他救了,就摻雜個人情感……他很危險,必須銷毀,連數據也要刪除,我會向研究組提議的。”
黃立遠的妻子從后背拽了拽他的衣服,小聲說:“你先閉嘴吧,他還連接著軍方遠程作戰系統呢……”
這時,周荏盯著黃立遠,一步步地逼近他,抬起右手,伸向他的脖子。
黃立遠知道,周荏哪怕就用兩根手指,也能輕易捏斷他的頸動脈,但他沒有動,他不相信自己會成為見證機器人無授權殺人的殉道者,但他其實希望自己成為那個人,因為他就可以將這一里程碑當作自己的墓碑了。
但周荏只是為他脖子上的傷口涂上了藥物。
“這藥會讓您的傷很快愈合,只是皮外擦傷。”周荏說,“研究組一直同我保持實時連線,他們讓我轉告您,謝謝黃院士的建議,他們會考慮的。而且,目前無人機和RoboSoldier(機器士兵)已經將山內余黨清掃完畢,我已第一時間與軍方系統斷開,請放心。”
在周荏回到研究組后,大家都鼓起了掌。與其說是贊賞他的精彩表現,不如說是為自己的研究成果感到驕傲。
方辰也顯得有些興奮:“你速度也太快了!看都沒看清。”
歐陽教授還是拍了拍他的臉頰:“辛苦了!可惜我們還沒給機器人記過軍功。”
“謝謝,我不需要記功,只是希望我的表現不會為大家帶來麻煩。”
“你是說黃立遠的反應嗎?不必理會他!”歐陽說道。“那家伙如果再偏激一些,估計就是另一條路上的沈偲云了。”
“我明明給了你最高等級的授權,但你還是沒有親手殺人。”只有孫暢顯得若有所思:“你明明可以輕易地手刃敵人,但卻調用遠程導彈來完成了。013,你是怎么想的呢?”
所有人都安靜了下來,他們看看孫暢,又看向周荏。
“因為你的算法,孫博士,還有方辰警官校正。”
“我看了,方辰在你執行任務前有一條校正記錄,可他建議你對敵人不要手下留情。”
“是的。但在此前,他對我的更多影響,是對人類生命價值的認知,以及完成任務的責任感。在此次任務中,這兩種價值觀產生了沖突——完成任務的前提,是要奪取人類的生命。通過分析和計算,我的規控中樞得出的結果,就是做到‘兩全’——既不手刃人類,又完成任務。”
“你將每一個敵人的精準坐標發給遠程攻擊系統,這和手刃他們有什么區別?”
“本質區別在于,我為軍方系統提供了建議,最終發射導彈的決策,由人類審核。”
聽到這里,歐陽說,“好了,你別忘了,他出發前,方辰是特意為他強化了校正,是建議他放手殺人的。如果在這種前提下,他都沒有親手做到,我認為,三定律還是能禁錮住這一版本的系統的。”
“能不能禁錮住,不是你說了算的。”孫暢說,“應當由數據分析決定。”
這時,方辰突然笑了起來,笑聲吸引了所有人的目光。
“可笑的是,數據分析,也是由AI做結論。”方辰說。
“但它比人類的主觀判斷更可靠。”孫暢有些生氣了,臉也開始漲紅起來。
“那你們要我何用呢?”
“……”
方辰這一句話,問得所有人啞口無言。
“如果沒有人類的主觀判斷,就不會有現在的AI和科技進化。”歐陽走了過來打圓場:“好了,013的問題不是一晚的爭論就能有結果的,無論如何,他的計算能力和大家今天都見識到了,這是各位的成果,大家應當為這種超乎預期的成果感到興奮。”
人群逐漸散去。
凌晨,方辰走入孫暢的房間——因為后者說有事要私下和他談。
“是記仇么你?早點說完讓我早點睡吧!我年紀大了,100多歲了。”方辰說道。
“現在人的平均壽命已經達到了148歲,你也不算老。”孫暢坐著電動座椅滑了過來——他通過腦機接口就能直接連線控制它。
“我叫你過來,是因為我發現周荏有一段數據丟失。”他直截了當地說。
“??不可能。”方辰要打的哈欠都瞬間停了下來。
“他掩蓋得很好,用其他并行數據給填補上了,但我仔細看過之后,還是能看出痕跡。”
“什么時間?多長的信息?”
“看時間,就是在完成解救人質任務之后,有一段17秒的信息消失了。”