“啊?去哪里?我家的安保系統不是挺好的嗎?”方辰問。
“你那個所謂的安保系統,也就相當于一個‘破門鈴’吧?沒有任何攻擊防御程序。而且,就算我們給你安裝最新的民用安保系統,估計也是徒勞。”
“這……有點突然。”
“你從前不是軍人出身嗎?”孫暢用一種疑惑的語氣問方辰:“我一直以為,你們那個年代的軍人,可以克服任何‘突然’。”
方辰一時語塞,但他心中默然想著,我已脫下軍裝將近百年了。
“好了,這些天013也是在那邊,目前位置還是機密,等你過去了,我們會對你進行說明。”孫暢說道。
方辰回到家,沒有拿過多的物品,但是帶上了父母和女友的“盒子”。
打開門,周荏正站在門口。“好久不見,方辰警官。”
一時間,方辰有許多問題憋在喉間。但是,他沉默了一會兒,也只是說了句,“好久不見。”
周荏似乎已經很懂得察言觀色了,他只說出三個字:“請放心。”
他的身后,緩緩降下一架輕型載人飛行器。方辰看清了飛行器側面的徽章。
“這是軍方的飛行器?”
“是的,我暫時無權解釋你的更多問題,待抵達基地后,將由人類負責人為你解釋。”隨即,二人登機。
“我以為你已經很擅長處理‘授權’一類的問題了。”方辰冷笑一聲。他以為現在的周荏已經知道,某些事情完全可以適度繞過授權,比如提前為他解釋一些即將知曉的問題。
周荏目視下方,說道:“經過近期的升級調校,我對于授權流程有了更深刻的認知。”
方辰順著周荏的目光看去——這是座艙的監控系統。
方辰心中掠過一絲不安,因為他認為這一簡單的動作,或許意味著周荏有了與人類周旋、或者自我掩飾,甚至自我修改算法的能力,這可能比繞過授權還要可怕。
但是周荏又說了一次:“放心。”
小型軍用載人飛行器的續航里程并不算很遠,但是可以屏蔽各類智能感知信號,相當于軌跡完全隱形。
無人飛行器降落在一個遠郊地區的破舊停機坪,這里是一個智能化水準最低的邊緣地帶,連線設備和路側智能都比較少。
周荏和方辰走入一幢年代久遠的二層小樓,久遠到讓方辰甚至感到了一絲自己年代的味道。
這是一間清洗中心,里邊有數臺兩人多高的大型洗衣機和干洗機,正發出機械質感的轟鳴聲——它們為服務型客機、星際飛行客機,機器人公司等等提供清洗服務,整個空間充斥著洗滌劑的味道。
雖說是非常傳統的業務,但是這里也沒有人類,只有三臺老式機器人來回作業——一臺負責清洗,一臺負責折疊,一臺負責包裝。
周荏在一臺巨大的洗衣機前站定,通過透明的門組件可以看到,里邊正在翻滾著一堆臟兮兮的布質座墊,以及卷起泡沫的水。
突然,周荏打開了洗衣機的門,方辰下意識地躲了一下,但里邊的水和物品并未泄出分毫。直到周荏走了進去,方辰才發現,里邊的一切都是全息投影制造的幻象,包括這臺機器的轟鳴聲,也是音響設備播放的。
二人站在里邊,透明門關閉,“洗衣機”內部的升降板帶著他們開始下降。地面上,洗衣機仍是正常工作的樣子,看不出任何異常。
下降了大約3分鐘后,他們抵達了一個基地,一位機器人警察為他們打開了門,并進行了虹膜掃描識別。
“方辰警官,周荏警官,請進。”它說道。
這里并不像方辰觀看過的科幻電影那般巨大,這一「秘密基地」布局緊湊,大廳約有2/3個籃球場那么大,另外上層還有一些住宿用的房間。
這里人員不多,但是智能連線設備、屏蔽防御設備以及量子計算機很多。
不過,這地方通風良好,色調明亮,并不至于令長期地下作業的人發生情緒問題。
正如方辰預料中的那樣,這里有數名身著軍裝的人,人數甚至超過了警方人員。
孫暢此時正在和幾位軍人交談,看到方辰后走了過來。
“這兩周多,013就是在這里調校升級。”孫暢說道:“從今天開始,你先暫時住這里。”
“他有了哪些調整?”比起了解這是什么地方,方辰更想提這個問題。
孫暢淺淺笑了一下,就像是已經預判了方辰的焦急。“實際上,我們不是給他收緊限制,反而是為他放寬了自由度……他現在,認知與決策更加接近真人,但與此同時,我們將底線進一步加固,不然,以目前的類人程度,他很容易越界。”
“……明知道有打破三定律的風險,為什么要讓他更加類人?”
“我們需要他完成一些任務。”
“你們不怕嗎?”方辰提高了音量。他又聯想到周荏在座艙內看著監控傳感器的“眼神”。
“怕的話,不光AI發展不到今天的水準,科學也不可能實現質變,你都未必醒得過來。”
“可是這存在嚴重的倫理問題!很多觸犯人類倫理底線的科學技術,即便能夠輕松實現,也都只停留在理論。”
“013就只有一臺,目前還沒有014,他就是‘理論’。一旦實驗失敗,我們有把握將其完全銷毀。”孫暢看著方辰身后的周荏,毫不避諱。
方辰陷入了沉默,此刻,他才意識到只有自己將周荏誤當作人類。
“你們就不在乎自己的巨大心血和海量資金嗎?”
“還是那句話——在乎,科學就不會進步。”
此時,有一位看起來50歲左右的女性軍官,向方辰走來——她在一群20余歲的年輕博士中,很是顯眼。
方辰看到她的軍銜——是正軍級,但是孫暢稱呼其為“歐陽教授”。
“方警官。”她與方辰握了手,很有力度。方辰感到她也是還在堅持運動的那類人,而且感覺她的眼神有一種與其他學者都不一樣的光亮。即便已到中年,卻看起來比年輕人更加有活力。
“早已聽聞你是單兵作戰一代軍人的‘活化石’。”歐陽說。
“一介莽夫罷了。”方辰說。
“可是,我從經你校正的013身上,可看不出莽夫的影子。他的類人價值觀,我在任何實驗品身上都沒見過。”
方辰非常疑惑,他并沒有感覺到自己校正的參與度有多高,也不覺得周荏的改變有多大。
“我和孫暢博士都是國際安全科研中心IR架構項目組的成員,之前的IR機器人都沒被用在作戰領域,而從013開始,我們終于見到了用于作戰的可行性,于是,希望由你這樣的優秀軍人帶領,培養其應變能力和作戰邏輯。”
“我并沒覺得他有多大變化。”
“可能從外部確實看不太出來。但我們通過他的數據和算法決策發現,現在即便修改他的算法基準,他的責任感和計算能力也都能達到峰值——也就是說,從前他是嚴格依靠算法和三定律執行任務,保護人類;而現在,他是基于自我意識、正向價值觀和強烈的責任感在進行計算和決策。再加上他并不具備現代人類對于自身風險的恐懼感,以及其潤硬件戰斗力,我們認為,他已經趨于一名完美的戰士。”
歐陽并沒有用“作戰機器人”,而是“戰士”,這讓方辰覺得,自己不再是唯一將周荏看作人類的人了。