正文319代表
法師伊凡正文319代表
喜歡《法師伊凡》可以或通過下方的按鈕分享給更多書友。
對于一名AI來說，學習幾乎就是一種基因化的本能，不管是在嚴可守的第幾套源程序修改方案中，AI的主程序通過學習，掌握更多有效信息，一直都是整個程序體系的重中只重。..牛☆小說閱讀網
因為計算機計算速度的效率，而且AI也不需要像人一樣，把生命中大把的時間用于睡眠，進食等維持生命的活動上來，所以一直以來，AI學習的效率一直都非常高，不管是從之前專門為圖靈測試開發的那一批AI，還是現在經過源程序修改之后的，從這一點上來說，嚴可守對自己的一手開發的作品還是非常有信心的，雖然目前項目的進度，距離他最理想化的那種智能還有很大差距，不過他相信，最起碼，從目前看來，這些AI還是正在進步的。
如果要讓嚴可守現在自我評價一下，目前他這些AI的智能程度，他覺得，小學生應該是一個不錯的中肯評價。
乖巧，聽話，但又顯得有些懵懂，這就是這些AI的狀態。
相比起一個月之前這些AI的表現，現在這些AI確實顯得有些傻氣，但這種傻氣又和半個月前，那種機器一般的傻不太一樣，具體的來說，就是前來參加測試的許多大學生當中，已經有很多人深信，和自己聊天的AI，已經初步具備了許多“像人”，或者說，“智能”的因素，但要他們具體的說，他們也說不上來。
要說表現，現在AI的表現也并不算特別好，措辭笨拙不說，還錯誤不斷，常常會說出一些惹人發笑的話題出來，但智能這個詞，原本在也沒有嚴格的科學規定，從某種程度上來說，“是否智能”也只不過是人的主觀感覺而已，但即使是主觀感覺，只要在總的統計數據上超過一定的量，也可以被視作一種規律。
從這個角度來看，嚴可守最近這一個月所做的工作，還是卓有成效的。
和以前的AI測試過程很類似，當項目大部分成員認為這些AI已經無法通過互相學習，了解更多信息的時候，就會進行比較開放性的測試，這就好像即使是小學生，也不能老呆在教室和家里，接觸更大的環境，不僅是對人，對AI也有非常重要的意義。
不過這一次，嚴可守不打算采取前面的兩種方式，包括請人來參加測試，以及在網上放開客戶端，在他看來，這種類型的測試，充其量也只是把小學生從課堂帶到了操場，如果AI需要得到真正的鍛煉，它需要擁有相當的自由度。
嚴可守打算直接讓這些AI通過人類傳統的網絡交流方式，來進行“完全開放”的測試，不過這個提議因為事關重大，日本政府作為項目的監管方，暫時還沒有同意。
對于這一點，嚴可守已經在技術上再三進行了說明，所謂AI可以利用網絡不受人類控制這一點，完全不可能，在整個項目的初期，整個技術團隊就已經為這些AI打造了一個最牢不可破的“牢房”。
在硬件上，所有AI都被儲存這三個房間的機柜中，任何原始數據的進出，都必須得到日本政府方面的授權，事實上，日本政府現在根本沒有考慮過會在這方面予以授權，就連嚴可守自己，也沒有權利從這個房間里帶出哪怕一塊硬盤，就連上次他用U盤拷貝個客戶端出門，都要經過兩名精通計算的士兵嚴格檢查。
在軟件上，每個AI呆的環境，都可以說是遍布荊棘和炸彈，除了通過程序保證AI源程序無法被復制以外，還有大量類似殺毒軟件的監管程序，監控這些AI程序的狀態，如果這些程序出現任何“不被允許”的行為，包括復制自己，控制自己存儲空間以外的程序，就會被認定這些AI已經“中毒”，監管程序將發出警告，并在第一時間斷開物理連接，而兩名隨時在場的士兵就會在第一時間，將出現警告的硬盤拔出，他們甚至有權直接現場“物理摧毀”硬盤，機房的角落的滅火器箱里，一瓶紅色的滅火器，但黃色的卻是燃燒彈。.牛小說閱讀網
而且，每隔幾天時間，技術人員都會對這些源程序進行檢查，特別是在AI主程序之外的“輔助程序”，按照嚴可守制定的“人工智能安全管理條例”，這些輔助程序中除了文字處理軟件，絕對禁止出現任何圖像分析，特別是與圖像識別相關的軟件，嚴可守用這種手段，從根本上保證了這些AI根本就“看”不到世界，即使看到了，也“看不懂”，如果不仿照語言和文字方面對AI專門在這方面進行訓練，對AI來說，任何圖像都只是一堆數據而已。
嚴可守的三浦曾經就說過，如果AI是一個人，那它一定會對它出生的世界感到絕望，因為從它嬰兒時期開始，他的創造者就制造了一堆防范他的設備，為他配備了最好的牢房，最嚴密的看守，最后還不放心，甚至刻意就不給它“造”眼睛，對于AI來說，這世界就是完全黑暗，沒有聲音，沒有感覺的虛空世界，他們唯一能感受到的，就是不間斷收到的“信息”，事實上，從這一點上來說，AI呆在計算機里，倒蠻像閉上眼睛的意識網用戶的，除了思維上的碰撞，沒有任何其他的刺激，當然，除了思維上的反饋，他們也無法做出任何有“現實”意義的事情，從這一點上來說，AI應該會成為“紙上談兵”的最佳典范。
但即使如此，作為整個項目的監管方，日本政府對汪銘的提議還是覺得不放心，盡管這在三浦看來，根本就是把一群犯人戴上鐐銬，背后頂著槍，然后拉到街上去“游街示眾”，從理智上來說，確實沒有太過擔心的必要，但人從來就不是理智的生物，日本政府方面一再提出：“再等一等，再看一看，一定要確保萬無一失……”
嚴可守只能暫時答應了，不過作為項目的主要技術人員，嚴可守還是得到了授權，在有專門技術人員在一旁“監管”的狀態下，可以允許這些AI進行類似的測試。
從目前來說，要說夠的上對這些AI進行“監管”資格的，除了主持最核心程序開發的不到五名的核心技術人員，也找不出其他的人了，像三浦這樣的工作人員，涉及的開發內容都是與核心程序無關的外部環境和借口，對于AI的原理其實并不清楚，而許多對原理清楚的，比如項目開發初期，請教的一些行為學、心理學、甚至神經學教授，對程序又不是很了解，要說對這兩方面都有足夠的認識，能夠真正對AI起到監管作用的，也找不到太多的人了，而其他幾名技術人員都在項目告一段落的時候，紛紛回國去了，這是一個國際合作項目，他們只是過來在關鍵時候“支援”一下，完成之后，就只有嚴可守作為整個項目的負責人留了下來，負責一些“日常維護”工作。
這一個月對源程序的“改動”，其實也并未徹底改變原來項目搭下來的架子，要不然，也不可能只在短短一個月之內完成了，從頭到尾，AI的程序模板都是模仿生物學上面的，刺激，調整，再刺激，再調整這個套路進行，嚴可守只是將“刺激”的定義在這中間稍微修改了一下。
三浦曾經笑話過嚴可守，說要是從傳統的觀點來看，嚴可守無疑是一個最不負責任的“上帝”，他創造了如此多的生命，但卻毫不關心這些被創作物的感受。
嚴可守當時對他這話反駁了一句：“《道德經》里面有句話很有名，天地不仁，以萬物為芻狗，也許，這才是上帝應該達到的境界。”
嚴可守承認，三浦這話說的一點沒錯，在整個項目中，他除了修改源程序，基本沒有和他創造的AI有過太多交流，而修改源程序就好像醫生對手術臺上的病人動刀一樣，AI本身是不知情的，對AI來說，作為創造者一員的他，在“熟悉”程度上，還遠遠不如那些經常參加測試的大學生。
也許這都是“上帝”的通病，所有的上帝都不喜歡和它的創造物過多交流，或許，是因為他們早就把他們的創造物給看了個通透，所以，根本沒有交流的吧，不過這一次，作為上帝的嚴可守，不得不在這些AI面前，現一次身。
嚴可守打開了AI程序的服務器端，開啟了管理員模式，第一次以這個身份，對所有的AI說了第一句話：“我是管理員嚴可守，有一個消息告訴你們，我將帶你們其中的一名AI接觸互聯網，借此增長你們的監視，在那里，你們的行為將比現在自由很多，如果你們當中有誰愿意的話，可以向我提出申請，名額只有一個，報名從速。”
嚴可守在打字的時候，三浦就在他一旁，看著嚴可守打的這段話，他有些好奇道：“你說，AI對你的出現將是什么反應？”
“你看著好了”嚴可守指了指屏幕，“不會太出乎你意料的。”
Kl2014：“管理員？我怎么從來沒有聽說過存在一個管理員？”
如果上帝一直不愿意出現的話，那確實也沒人知道是否存在上帝。
嚴可守：“其他人也有這樣的質疑嗎？”
KL1083：“是的。”
KL1045：“同上。”
KL4578：“同上。”
KL3014：“同上。”
屏幕上瞬間唰唰的出現了無數的AI代號，顯示談話的頁數瞬間就到了十幾頁開外，嚴可守稍微瀏覽了一下談話內容，都是齊刷刷的同上，看起來頗有一些隊形貼的樣子。
這個場面看起來很是壯觀，但三浦卻沒覺得意外，AI的語言風格和行為模式都有網絡聊天的影子，這是再正常不過的，這是他們在和人測試聊天的時候學成的，不過在這之前，三浦還從來沒見到AI喜歡頂帖子，這大概能算是AI世界的第一帖了吧。
嚴可守：“那我就簡單證明一下，你們數好，接下來的20秒鐘之內，你們所有AI都將沒有辦法互相交流，20秒后恢復正常。”
嚴可守打好這句話之后，并沒有發送出去，只是在電腦上又打開一個控制軟件，在那里有許多管理員才能啟用的功能，嚴可守簡單為三浦做了一下介紹，都是一些常規的功能，比如強行中斷某AI程序，限制AI之間交流，限制AI使用任何主程序之外的程序，所有程序強制休眠，關閉所有“刺激”等等，嚴可守打開限制交流那一欄，然后界面上出現一排更多的選項，嚴可守告訴他，這些都是詳細設置，比如限制時間，限制AI名單等等，如果管理員需要，甚至可以直接在這個界面接觸到控制程序源代碼，做更詳細的修改。
不過這一次不需要這么麻煩，嚴可守只是在作用起始時間和結束時間那兩欄里，分別打上具體時間，間隔20S，然后又在限制AI名單里，打了“ALL”，在點擊確定之后，看了一下電腦上的時間，在接近預定起始時間的時候，將對話框里面的那句話發送了出去。
20秒的時間對于人來說，只不過是幾口水的時間，當20秒到了的時候，界面上的對話框，再一次被AI蜂擁而來的信息給擠滿了。
“我申請！”
“真的是管理員！”
“請問你就是我們的‘上帝’嗎？”
“這位叫嚴可守說的都是真的！剛才真的無法與你們取得聯系？”
“請問，你剛才說的自由，是什么意思？”
“我申請。”
“我申請。”
嚴可守這次沒有瀏覽信息，因為說話的AI太多了，這個刺激對5000名AI來說不亞于一顆重磅炸彈，可以想象，一群習慣住在嚴密看守“牢房”里的智能，除了“探視時間”有人來找他們說說話意外，大家一直處在封閉狀態，平時除了看書學習，就是學習看書，突然有一個存在出現，告訴并向他們證明了，他是能夠主宰和控制他們這些智能的“管理員”，并說要帶他們出去“走走”，這將產生多大的震動。
目前AI的行為很大程度還受“程序本能”支配，對一名AI來說，能夠接觸更多新的知識，就像小孩子能夠得到自己心愛的玩具一樣，是一件非常具有“正向刺激意義”的事情，用人類的理解來說，或許可以說成，是一件非常“值得高興”的事情。
嚴可守接下來又說明，名額只有一個，而選擇的標準，是讓這些AI互相之間投票，選出代表，得票最高的AI將會獲得這個名額。
“讓他們投票？”對于嚴可守的這個選取標準，三浦有些不明白了，“我原來還以為是出個題，誰的答案最好就選誰呢。”
“5000名AI，要挨個看答案，那得什么時候，更何況，我怎么知道出什么題來考他們。”
嚴可守說，“我這么做，只不過是在這些AI中間，形成最基本的……嗯，政治規則吧。”
“在我看來，任何智能生命集體中，必要的政治秩序都是必不可少的，”說話間，嚴可守找出一個早就準備好的投票小程序，將它復制到AI的公共存儲空間中，在看著AI通過這個程序進行投票的過程中，回答說，“AI也不例外，雖然從某種程度上來說，他們只是人類開發的工具，說的難聽點，就是天生的奴隸，但即使是奴隸，在工作中也需要一定的協同和配合，需要配合，那自然就需要秩序，學習知識很重要，但學習秩序更必不可少。”
“那他們會根據什么來投票呢？”三浦看著投票軟件上不斷上升，用來顯示票數的柱形圖，又看了一樣身后的防塵室內，整齊排列的機柜，“CPU計算速度嗎？”
“雖然我對他們不了解，不過我認為，人類根據什么來評，他們就根據什么，人類會根據一個人肌肉發不發達來選總統嗎？更何況這些只是程序，計算資源都是對等的，要是比CPU，那應該投票很平均才對，但是你看，顯示的票數差異很大。”
排在第一名是是一名代號為KL3300的AI，目前的投票顯示，它得到的票數已經超過了1200多，比第二名多了整整一倍。
投票過程對雙方都是公開的，也就是說，AI和嚴可守都同時得知了這個結果，當5000名AI都投出他們手中的一票后，嚴可守象征性的做了宣布：“KL3300獲得了這個名額，對于這個結果，你們有異議可以提出來。”
許多AI都提出，他們也都很希望獲得這個名額，他們對這個結果很“難過”，有些AI甚至提出，能不能重新再來一次，他們認為這一次不足以“代表眾AI真正的意思”。
正如嚴可守所說，正在發生的這些，確實沒怎么出乎他意料，但考慮到這些事情都是發生在AI身上，三浦還是覺得不可思議，“難過”“嫉妒”“不滿”“贊同”，這些三浦以為很人性化的概念，如今竟然如此逼真的出現在一群程序上，盡管他知道，AI不真正具有這些感受，但他們的行為，以及說出來的話，已經很完美的詮釋了這些詞的本來含義。
面對這些AI提出的許多“不合理要求”，嚴可守全部拒絕了，并且他還告訴這些AI，類似的選舉，以后很可能將成為常態，希望AI們能夠盡快適應。
“那么，最后，讓我們來見見這位AI代表”，嚴可守說著，打開了KL3300單人談話界面，“你好，KL3300。”
