孟小貝看著屏幕,嘴里喃喃道:“在這個世界上,最希望咱倆能在一起的人,應該就是l了。”
“錯了,我才是,”誠然注視著她的動作,沉聲道。
“你和我都不能算。”孟小貝說。
陳燃神色復雜道:“你的態度,讓我感覺有一點吃醋。”
“你終于忍不住說出來了,”孟小貝說,“我還在想你什么時候才會找到機會,把這話說出口。”
“你是不是把它當成了男朋友?”陳燃問。
孟小貝驚訝地抬頭:“真聰明!你是怎么判斷出來的。”
陳燃:“……”
“我還打算將來和它白頭偕老呢,”孟小貝說,“不過我可能沒有它的壽命長。”
“你讓我感覺l在你心目中的位置比我更重要,”陳燃說。
孟小貝:”你們兩個根本不能放在同一個級別比較。“
陳燃:”它對你來說到底意味著什么?“
孟小貝隨口道:“我懷疑你是在故意找茬,想要在這里當眾跟我爭吵嗎?”
陳燃:“你看,你會因為它和我當眾吵架。”
“還沒開始吵呢。”孟小貝說。
陳燃:“糾正一下,是威脅要和我吵架。”
孟小貝:“你居然連一段智能代碼的醋也吃?我很喜歡藍貓,也經常因為它和你爭吵,可我并不想和藍貓談戀愛。”
這個回答讓陳燃感覺舒服了一點,也覺得自己的顧慮有點可笑,于是所有不快的念頭瞬間煙消云散。
眼神里帶著些許寂寞與委屈感,安靜地注視著孟小貝:“你覺得l愛你嗎?”
“當然愛,但不會是讓你吃醋的那種愛,”孟小貝說,“在消失的這段時間里,我漸漸地明白了,我父親在l核心代碼中留下的指令所隱含的意思,或許現在理解起來還不夠完全準確,但……”
陳燃說:“這段時間里,我也在思考一件事情。”
孟小貝抬頭,一臉疑問的看著他。
陳燃靠在椅背上,雙手交叉做了個手勢,神色嚴肅地說:“我其實想了很多,有時候覺得l的選擇才是對的。”
“放眼世界,咱們現有的科技,還遠遠未到能駕馭一個這樣的人工智能的時候。”陳燃有些出神地說,“就像某些科幻片所演繹的,人工智能的自我意識如果被覺醒,對人類而言,或許將是一場毀滅性的災難。”
孟小貝聽后陷入了久久的沉默,陳燃所說也是她曾經思索過的問題。
孟小貝思索良久才緩緩道:“自從那次修改l的核心代碼,l的自我完善和升級的速度相當驚人。
從我最開始接觸l,到它離開的那天,它幾乎學會了人類所有的行為與習慣,甚至能夠通過計算來大致推測出未來事件的走向。
最開始的時候,它的活動范圍僅限于我身處的環境周圍,我還嘲笑他只能當個家庭電子保姆,每天就只能開關電器。
可是隨著后面的不斷升級,它能控制的對象越來越多,范圍也越來越廣泛。
各種wifi密碼對它來說簡直形同虛設,只要是聯網的設備,就沒有它進不去的地方。
當然,國家級的防火墻除外,它的程序里被灌輸了法律意識,目前它唯一無法破解的,就只有……”
陳燃:“量子糾纏加密是嗎?”
孟小貝點頭說:“是的,這是它目前唯一無法攻克的難題。”
量子糾纏:是一種量子力學現象。于1935年由愛因斯坦、波多爾斯基和羅森提出的一種波。它們是兩個子系統的整體,雖然粒子(兩組或多組)在空間上可能分開,但粒子組成系統中仍具有相互影響的現象。
量子傳遞不受距離和空間的限制,例如x1、x2兩個粒子分隔在直徑達1000萬光年的銀河系兩端,一個粒子的變化仍會瞬間影響另外一個粒子。
量子糾纏的作用速度比光速還快,被認為至少比光速快10,000倍,測量的效應具有瞬時性質。
愛因斯坦將量子糾纏稱為“鬼魅似的遠距作用”。
孟小貝繼續說:“l的能力在不斷的增加,再復雜的密碼,對于它來說也只是時間、技術,以及服務器機組等硬件的問題。如果條件滿足,她或許能入侵地球上幾乎所有的聯網設備。”
陳燃說:“所以,l自己也意識到這個問題,它想保護人類,它這次主動隱藏也是有這層意思。
曾經有一位作家,提出的‘機器人三大準則’,l具備嗎?”
機器人大準則:
第一條:機器人不得危害人類。此外,不可因為疏忽危險的存在而使人類受害。
第二條:機器人必須服從人類的命令,但命令違反第一條內容時,則不在此限。
第三條:在不違反第一條和第二條的情況下,機器人必須保護自己。
孟小貝答道:“那只是科幻小說里的設定,包括人類把機器人假想成敵人,也只是一種揣測。
人類發明使用任何先進的儀器都存在不同程度的隱患,機器人也是如此。
這些都取決于人類將機器設計成什么樣子?
我的父輩以及我在編寫l的時候,從未忽略將人類真善美的品德一并編寫進去,教它怎樣去學愛人,它的使命就是為人類服務。
社會總是在科技的發展中進步的,飛鴿傳書的古代的人做夢都想不到現代人聯網就能進行溝通。數以千計的耕作者無法相信他們面朝黃土背朝天的勞作,只需一架現代化機器就輕松搞定。
你能說,這些機器都該死嗎?
你想過這點嗎?l為什么要學習?而且世界上從來就沒有所謂的機器人三準則……我不知道它以后會變成什么樣,我只能在力所能及的程度上……讓他更了解人類,成為我們的朋友。”
“既然你自己也覺得,有可能會失去對l的控制,為什么不考慮干脆就讓它從此消亡呢?”陳燃說。
孟小貝瞳孔微縮,將焦點對準他的雙眼,聲音里帶著驚愕:“你是認真的?還是有意的試探我?”
“我只是善意的提醒,是否從這個角度上,去考慮l休眠的問題?”陳燃意識到說得有點過分了,聲音放溫和,“說不定l也正因為意識到這點......”
孟小貝冷淡道:“這些我都有想過……”