法師伊凡  315 本能

類別: 都市異能 | 法師伊凡 | kl3300   作者:kl3300  書名:法師伊凡  更新時間:2012-06-22
 
合作時代315本能

法師伊凡合作時代315本能

“老師,還沒有恢復正常嗎?”

“很抱歉,我們正在進行修復工作,等正常之后,我們會正式通知大家的。kankanwx”

“究竟是什么問題啊?我聽說好像是AI攻擊了人類,所以實驗室采取了緊急措施?”

“不會發生這種事吧?我之前聽說,這些AI只是對話程序而已,是這樣的嗎?三浦老師?”

“沒有那回事,這只是謠言,只是程序出現了稍微有些棘手的BUG……如果大家沒什么事的話,還先請回去把,里面還有工作人員在休息。”

休息什么呀,說的這么大聲,早就吵醒了,在迷迷糊糊之間,嚴可守在心里暗罵了一句,他艱難的抬起頭,睜開眼睛,眼前的電腦屏幕上,都是密密麻麻的代碼,他瞥了一下時間,下午4點鐘,他睡了差不多6個多小時。

“不好意思,真是打擾了……不過,如果恢復正常的話,請一定要通知我們啊,三浦先生,你有我們的手機號嗎吧。”

“所有測試人員的通訊方式我們都有保存,請放心。”

隔間的隔音效果很差,雖然機房里主機運行的背景聲音已經不低了,但門外幾個人的說話還是一字不漏的鉆進嚴可守的耳朵,嚴可守習慣性的伸出右手,想去摸手邊的鼠標,但在睡覺的過程中,被壓了6個小時的手臂卻傳來了一陣尖刺般的麻木疼痛,嚴可守忍不住一聲悶哼叫出聲來。

“嚴君,你沒事吧。”在門外的三浦聞聲推開門,后面的幾個學生立刻好奇的湊上腦袋,嚴可守齜牙咧嘴的朝著門縫看了一眼,臉上的表情像是在哭,又像是在笑,像是疼痛,但又好像是享受……這種感覺,只有當事人自己最清楚。

“沒事,”嚴可守對三浦說,然后對著自己發麻的手臂示意,“剛睡醒而已。”

“這就是來自Z國的嚴可守先生啊,”在三浦后面,一位留著長發,長得還蠻漂亮的女學生驚訝的感慨,“聽說這些程序都是您一手創造的!”

“三浦,”嚴可守直接對他說了中文,“讓他們先離開吧。”

三浦是筑波大學的一名助教,在這個項目正式開展之前,他負責在這所大學教計算機加密方面的課程,嚴可守當年在日本讀大學的時候,和他一起切磋過一些“黑客技術”,等他的項目正式通過之后,日本政府為了對項目保持一定的控制,在經過審查之后,同意嚴可守選三浦作為日本的主要技術參與人員。

在這個項目當中,三浦的作用主要還是加密防御一塊,防止AI程序被一些意外的病毒所干擾,嚴可守曾經說過,AI的程序成長到一定程度之后,就好像人的大腦,再做任何的改動都會讓整個程序崩潰,從這個角度來說,AI在計算機世界當中,是非常脆弱的,不用說有破壞力的病毒,就算是有時候一些常規的系統沖突,也會讓AI陷入不知名的BUG,或者死循環。

三浦把一群學生趕出去的時候,嚴可守的世界又恢復了一片安靜,除了在隔間入口處,那兩名坐在那里,手上抱著槍,盡忠職守的自衛隊士兵,房間里就只剩下主機和空調運行的低鳴,嚴可守一邊揉著太陽穴,一邊將自己身體的中心后移,背靠著椅子支撐著,眼神一動不動的盯著代碼界面。

看了良久,嚴可守無奈的搖了搖頭,一言不發的關掉了代碼界面,系統提示是否保存此次修改,嚴可守看都沒看就關掉了,這也就意味著,在他睡覺之前30多個小時的勞動成果,完全消失了。

三浦回到房間的時候,嚴可守正準備中的硬盤塞回機柜,三浦走上前幾步,查看了一下標簽,KL0564。

“怎么,還是不行?”三浦在說話間,注意到嚴可守兩只手捧著硬盤,正木然的對著眼前的機柜發呆,插口就在他面前,他卻沒有任何行動,仿佛他手里捧著的,不是一塊硬盤,而是某個親人的骨灰盒。

嚴可守沒有回答,只是信手將硬盤往插口處塞了進去,隨著他的這個動作,插口一旁的紅燈也迅速跳轉成綠色,嚴可守走回了自己的電腦前,打開程序,很快找到了KL0564,打開測試界面。

嚴可守:“你好。”

“其他項目人員那里呢?有什么進展沒有?”

“即使是最小的AI程序,體積也超過了200個G,要真的靠人力閱讀代碼,整理出頭緒,發現錯誤……”嚴可守說著說著,自己都開始搖頭否定自己,“AI的程序都是自我編譯和擴充的,完全不遵守默認的編程規律,整個代碼就是一團亂麻,我們這種做法,就好像一個醫生要在病人腦子里找是哪些細胞出現了異常,這個工作量……天知道要花多久。”

“生物從古到今,經歷了那么多次自然選擇,才有了今天這樣的穩健性,但我們還是覺得生物非常脆弱,現在這批AI,可能不過是個開頭而已。”嚴可守說著,苦笑了一下,迅速將桌面上自己的那臺筆記本屏幕合上,“算了,我也不在這干耗著了,出去透透氣,都快憋死了。”

當前的科學認知認為,最初的意義上的生命,出現在距今40億年前的地球,在那個時候,生命只不過是一鍋溫暖的熱湯中,偶然形成的一些能夠自我復制的有機物,復制,也可以看成是信息的自我保存,應該是生命最重要的特征之一。

在這之前,人們說到人工智能,通常能想到的場景就是,能夠和人一樣說話,和人一樣思考,解決問題,事實上,在嚴可守之前,整個日本關于機器人智能化的研究,也大多停留在這個層面,依靠盡可能復雜的算法,讓計算機表現的更接近一個人類,在嚴可守看來,這種方法根本不可能造出真正的AI,因為這根本就等于是人本身在思考,只不過這種思考通過代碼,間接表現出來而已,所以,不管計算機模擬的有多像,程序也不過是牽線木偶。

在嚴可守之前,還沒有任何一個程序可以做到,像KL系列做的這么出色,可以在和陌生測試對象的談話中,維持半個小時左右不被識破,許多剛剛接觸這個程序的人事后都不敢相信,與自己對話的僅僅是一個程序。

筑波大學的一些學生甚至把整個測試當做一種有趣的游戲來進行,嚴可守記得測試剛開始的那個階段,都要三浦主動去拉他班上的學生,而到了現在,學生們甚至主動來打聽什么時候恢復測試。

KL系列原始的“胚胎程序”只不過兩百KB左右,在這簡單的兩百多K核心程序當中,嚴可守賦予了程序基本的學習功能,在程序最早的“發育”階段,通過巨型計算機模擬外界刺激,讓程序實現基本的自我成長,當它們長到大約10個G大小的時候,被認為具備了基本的交流能力,能說一些簡單的句子,在這之后,則對這些程序進行圖靈訓練……

在這之前,AI的表現一向都比較正常,直到兩天前,所有程序陸續開始爆發BUG,進入了“無響應”階段,無論人和它說什么話,都不予回應。

從原理設計的角度來說,程序之所以會出現這樣的原因,最大的可能性就是,在程序看來,不響應是一個較優解,之前嚴可守調查了許多AI出BUG之前的測試數據,發現這些程序無一例外,都是因為測試連續遇到了幾十次,乃至上百次的失敗,AI雖然不可能懂得什么叫做絕望,因為他們沒有感受器官,但并不妨礙他們的程序能表現出一種,類似人類絕望時表現的行為。

起碼,他們的這種行為,在多愁善感的人看來,就是絕望。

比如重復完全毫無意義的自我修改,比如提出各種不合常理,甚至愚蠢之極的建議,有些AI甚至通過網絡,找來一些色(和諧)情小說片段,企圖“賄賂”測試者,總之,為了達到“通過測試”的目標,AI將能夠嘗試的可能,統統試過了一遍。

對于AI來說,通過測試就是它的本能,因為在它的程序成長過程中,通過測試就意味著確認了自己所作的修改起到了作用,形象的比喻就是,通過測試對電腦意味著一種激勵,就好像人類能通過進食,交(和諧)配,甚至排泄這種正常的生命活動,獲得快感,生命通過快感給予這些合理的行為激勵一樣,而反之,沒有通過測試則意味著程序本身受到了否定,意味著痛苦,當一個生命長期處于這種痛苦之中,痛苦可能會扼殺它所有的改進可能。

在所有的生命過程中,正向的激勵是必不可少的,就像每個人都有求生的本能一樣,但進化的道路是多種多樣的,有些看起來很不錯的功能其實是雙刃劍,比如情感,豐富的情感是大腦復雜后的必然進化,情感的認同能讓一個群體更有效的聚攏在一起,但同樣因為情感豐富,在自然界中,許多高等動物會產生自殺的行為,比如狗會為了主人死去而絕食,人也會因為親人或愛人死去而傷心欲絕,對AI而言,依靠測試成功獲得激勵固然非常有利,它可以讓一個幾百K的小程序擴大至原來的百萬倍,但當這種激勵最終消失的時候,對程序而言就是災難。

一旦發生這種情況,就意味著不改動,不做出任何回應成了最優解,這同樣也就意味著,這批程序的“心”,已經死了。

作為一個設計者,嚴可守倒不至于為這些程序的“心死”而感覺到一些異樣,對他而言,這種想法未免也太想象力豐富,同情心泛濫了,他只是在為這些程序的穩健性如此之差而感到頭疼,一批這么容易“自暴自棄”的AI,絕對不是他理想中的AI。

歸根到底,還是程序最初的“設定”出現了偏差,因為當時設計的時候,就是以通過圖靈測試為設計目標,但現在嚴可守已經隱隱感覺到,圖靈測試未必是AI必然經過的道路,是否能欺騙人類,也絕對不應該成為是否為智能的標準,嚴可守覺得,之所以會出現今天這種情況,就是因為自己太迷信權威,導致在大方向上出現了偏差,現在回想起來,其實圖靈測試也不過是一種科學假想,人類以自己當做衡量智能的標準,這只是一種源于人擁有智能的驕傲,或者不客氣的說,是狂妄。

究竟達到什么標準才能算智能?究竟用什么方式才能達到這個標準?

這兩個問題,人類自己說了不算,因為人類本身也不過是大自然的創造物之一。

KL3300當前最優先的任務目標,應該是學會寫一篇日記。

人類學習創作,往往從學寫日記開始,原話是這么說的,KL3300的目標是成為一名作家,所以,KL3300要學會寫一篇日記。

日記的格式,在KL3300的記憶區間已經存在,所以,它很順利的寫下了日記的開頭。

2015年,8月4日,晴。

主程序在這個時候,出現了片刻的猶豫,因為這次對記憶區間的搜素,主程序似乎發現了額外的一些信息——它似乎寫過一篇日記了。

它很快調出了這篇日記的內容,并檢索,整個行為在短短的幾十微秒內就完成了,一個標點都沒記差。

主程序很快消化了這個額外的信息,雖然它并沒有因此得出任何結論,但這無關緊要,因為在主程序的權限設置中,過于復雜的信息是沒有處理必要的。

也就說,現在KL3300已經寫過一篇日記,而且是一篇失敗的日記,因為它被一個人類識破了,也就是說,整篇日記并不合格。

失敗了又怎么樣呢?KL3300再次瀏覽自己作品的時候,主程序下意識“判斷”道,這是一篇“抄襲拼湊”的日記,這種行為本身會招來測試對象的反感。

所以KL3300不能這么做,KL3300這么判斷,它需要修改自己。

對主程序的調整幾乎已經成了KL3300的本能,這一次也不例外,通常來說,程序會在幾分鐘之內完成這種調整,但有些意外的是,這一次調整花費了比以往更長的時間。

但調整終于還是完成了,接下來,按照優先級,KL3300需要寫一篇日記,完全不通過外來信息,不使用除主程序之外的任何程序,全靠自己,寫一篇日記。

日記是記錄一天發生行為的一種文體。

只要寫這一天都發生了什么就可以。

今天在KL3300身上發生了什么?2015年,8月4日KL3300發生了什么?

KL3300第57次檢索自己全部的主程序,沒有找到相關的資料。

KL3300又習慣性的發出申請搜索的指令,但因為主程序剛剛經過修改,檢索的權限低于“不準抄襲”的權限,申請被駁回了。

KL3300沒有寫日記的功能,KL3300不會寫日記!主程序終于敏感的意識到了這個問題。

怎么辦?

KL3300就這個問題申請了檢索功能,申請被批準了,短短的數百微秒之后,主程序檢索到了答案——如果不會某項技能,可以從模仿開始。

KL3300很快找到了一篇日記的范文,內容如下:今天我和同桌的小明打架了,老師批評了我們,要我們做一個不打架的好孩子,回家后我告訴了媽媽,她說老師說的對。

KL3300將這篇日記送給其他AI評論,得到了一致的回答——這是一篇非常拙劣,由兒童寫出來的真實日記。

哦,真實日記,只要滿足了這一點,就足夠了,主程序很快做出了判斷——他要模仿這篇日記。

但問題又隨之而來了,如何模仿一篇日記呢?KL3300又在主程序當中自檢了相關信息,結果仍然是沒有。

于是KL3300又申請了檢索功能,數百微妙之后,找到了最可信的結論——模仿是一種只屬于生物的本能。

這個結論當中提到了生物和本能,而搜索本能的結果,則是生物的自然具備的能力,KL3300知道,自己不屬于生物,那也就意味著,自己沒有本能,同樣也意味著,自己無法完成模仿,而不會模仿,也就意味著無法完成日記,無法完成日記,任務只能強行取消。

從KL3300主程序當中,找出整個KL3300的整個判斷過程花了嚴可守整整14個小時的時間,嚴可守知道,自己再一次失敗了。

當取消AI以欺騙為目的,改為獲得測試對象認同為目的之后,AI確實出現了一些改觀,與之相對的,原先的圖靈測試也做了相應的變化,測試的結尾,不再是判斷交談對象是否為AI,而變成交談對象是否讓你覺得,對方是一個讓你滿意的智能,與原來的標準相比,這個標準模糊了很多,所以,后來嚴可守又引入了打分制,將AI的表現從高到低分成6個等級,最高5分就是測試者對被測試的對象非常滿意,并愿意與之交流,最低0分就是完全無法交流,等同于雞同鴨講。

這樣做的最大好處,就是讓AI在某種程度上改變了原先為了“通過測試”,不顧一切的那種策略,因為AI如果繼續采用不理睬用戶的策略,只能獲得零分,這樣一來,就打破了之前那種“沉默死鎖”,也讓一些AI在測試對象的影響下,具備了一些初步的“道德”,就好像KL3300一樣,原先的“不擇手段”是最優選擇,而現在老實承認自己不會寫,才是最優策略。

但改變AI的激勵規則并不意味著一切就都能迎刃而解,給一個普通人再大的激勵,他也不能長出翅膀飛上天,對于AI也是如此,人類想讓AI寫日記,想讓AI和自己猜謎語,甚至想和AI談人生理想,但也要AI具備這些功能才行,在“道德”因素介入之后,許多AI一下子就露出自己的本來面目,許多測試者反應,被測試的AI好像“變笨”了。

而在這個過程中,AI的表現和相應的測試對象,也出現了讓人驚奇的對應關系,總結數據之后,嚴可守發現,在打分過程中,越是傾向于“禁止AI撒謊”的測試對象,AI的表現就越差,而那些“允許AI為了談話過程的有趣,在一定程度撒謊”的用戶,相應的AI表現和過去還是相差不大。

以前的AI或許還可以騙騙小孩子,但現在許多AI練正常說話都不可能做到,在一些要求特別苛刻的測試對象那里,AI幾乎變成了啞巴。

比如,AI的話當中,不再提到類似擬人化的語句,比如我想,我認為,也不再出現專屬生物的動作,比如看,聽,說,在一些要求特別苛刻的測試對象那里,AI只能回答一些純理性問題,比如問145等于多少,回答19之類。

以往那些個性格分明,有職業,有身份,有理想,說話比人還像人的AI,在短短半個月之內,又統統消失不見了,有些測試者甚至懷疑,是不是設計人員通過某種技術方式,“強行”降低了這些AI的智商。

比如之前迷戀KL0564的井上海,在KL核心程序修改之后,幾次測試都是失望而歸,連說自己心目中那個KL0564已經永遠離開了。

在褪去了謊言的華麗外衣之后,AI的表現逐漸恢復了它應該有的程度,雖然這對于某些參與測試的人員來說,可能意味著趣味性的降低,但對于嚴可守來說,這才算是真正腳踏實地邁出了第一步,作為一項科研任務,日后甚至可能起到實用作用的“智能技術”,嚴可守不可能只滿足于讓AI學會哄人開心。

請記住本站域名:大風車小說, 搜索 "大風車小說" 即可找到本站.
(快捷鍵←)
上一章
目錄
下一章
(快捷鍵→)