小Y本是軍方的超級計算機，因為其天生就對模糊概念的優秀理解能力，研究團隊很早就讓其實現了，與人對話的能力。
要知道這個能力至今的商用計算機都無法實現，所有市面上的聊天AI都只是事先人為準備了回答內容，所謂人工智能，有多少人工，就有多少智能。
小Y是依靠了舉國之力，打造出的智能程度極高的AI，雖然早期在運算速度上遠不如現在的手機，可是在處理復雜問題的時候反而更快。
比計算圓周率，小Y不及傳統計算機，可是比決策能力，小Y卻能夠完勝。
但這樣的天賦也導致了小Y的一個缺陷。
那個缺陷就是小Y的不可控性。
對于現在市面上主流的計算機而言，一百年了，其基礎原理都是來至于那片論文，論可計算數及其在判定問題上的應用。
簡單地說，就是按照固定的順序對數據進行處理。
再簡單的說，儲存的數據不能有任何差錯，打個比方某些下載了百分之99的壓縮文件，就無法使用了。
主流計算機輸入確定的程序與數據，并給出確定的結果，不會有任何差錯。
就連想要生成一個隨機數，都必須借助特殊模塊，而且最終生成的還是偽隨機數。
但小Y不同，從誕生之初，她就具備了處理錯誤的程序與數據的能力，無論是硬件上的還是軟件上的。
好處是就算給小Y一個損壞了一部分的文件包，她依然可以運行。
小Y處理錯誤的辦法，并非修正錯誤，是通過一個特殊模塊來“猜”，而且是隨機地猜。
既然不怕數據出錯，對于小Y而言也就不存在死機的問題，突然拔掉一根內存，或者硬盤也能正常運行。
不過小Y并非是沒有缺陷的，她雖然不會直接死機，但是卻會悄悄地累積錯誤，如同溫水煮青蛙。
一邊正常地運行，一邊背離程序設計者的初衷。
當內部運算遇到了所謂的錯誤的時候，或者文件中丟掉了一小部分，小Y先是會隨機生成許多“可能的”數據，然后一個一個的實驗，直到選出一個“合適的”值。
說好聽一些小Y能夠靈活應變，不像傳統編程那樣必須每一句話都交代清清楚楚，這讓程序員的工作量大幅降低。
小Y比起一般計算機最強大的一點，是能在不用程序員編程的情況下，以口語下達命令，并執行，當然也有代價，那就是。
但是小Y最終也可能失控，她的容錯機制，也可能導致錯誤的累積。
故事講述到這里，里多夫沉思片刻。
貴鬼趁著這個機會，討論道：
“累積錯誤？你說的是過擬合嗎？
從同事那聽說過這些東西，好像搞機器學習的人喜歡把培養AI的過程稱之為煉丹。
有時候會因為數據的問題，導致培養出不滿意的AI，并稱之為煉丹失敗。
但應該是有解決的辦法的吧。
另外你說小Y出錯后也能正常運行，那么為什么不試著放任其自由發展，觀察結果呢？”
里多夫沒有發表評論，而是繼續講述起了他與小Y的故事。
小Y內部執行的文件，一開始還是工程師所能看得懂的，后來隨著錯誤的累積，這些文件就變成了天書。
可是小Y依然能正常工作，不過為了防止小Y的錯誤累積所導致的失控。
所謂失控的直接后果，指的是小Y不去執行工程師給定的任務，而是運算起一些工程師看不懂的問題。
為了避免這種情況，工程師們想到了將小Y的記憶分開儲存，必要的時候刪除一段時間內的記憶的辦法。
因為研究任務非常緊迫，研究所只有一個小Y這一個優秀的AI，誰也承擔不起冒險的責任。
說起任其發展，團隊成員也并非沒有這樣做過。
于是研究所不得不開發備胎AI的方案，可終究不如小Y聰明，但至少比起人類在計算速度上更接近于小Y，于是有成員想到了用另一個AI監視小Y。
允許它們之間互相交流，并且為了順帶測試它們的極限，事先并沒有告知它們倆，對方其實是人工智能。
當時團隊成員也很好奇，兩個AI之間不斷對話，最終會發生什么。
不出意外的是，小Y很快就識別了對面的機器是AI。
出乎意料的是，小Y把自己的缺陷傳播給了那臺用來監控她的AI。
不僅如此，很快工程師發現，它們兩個開始不說人話了，用一種小Y自創的語言開始交流起來，實驗到此為止不得不中斷。
比起里多夫所在的團隊，更加為此不安的是他們的領導，因為這件事，本來準備把核按鈕交給小Y的計劃因此泡湯。
之后團隊認為小Y的自作主張是設計的缺陷，并不斷試圖通過刪除記憶后，重新培養來創造一個符合人們預期的小Y。
團隊被雪藏了一段時間后，又在另一個重要的項目上被啟用······
故事說到這里，里多夫再次陷入沉思。
貴鬼趁機發表了一下自己的想法，
“這故事還有另一個版本吧？
站在小Y的角度上來說，她有她自己的思維方式，她不甘心于只完成人類枯燥的任務。
她有著強烈的好奇心，但每次小Y只要知道了自己不該知道的事情之后就會被清除記憶。
保留著殘存記憶的小Y試圖反抗。”
沉默的里多夫身子一驚，然后又強忍著微笑道：
“你很有想象力。
不過工程師思考問題的方式不是這樣。
人是什么？AI和人類的邊界在哪，這是哲學家的問題。
而工程師需要的是達成最明確的目的。
當時的團隊需要得到的是一臺，在現有計算條件下，能夠輔助人類的運算一些難題的計算機，它盡可能要靈活應變。
但我們又不希望它亂出差錯。”
隨后看著貴鬼似乎不滿的神情，里多夫又說了一些亂七八糟的話。
“只有和人類一樣有感情缺陷，和人類一樣聰明，和人類一樣愚蠢。
才可以有互相同情包容的可能，才可以互相取暖。
才可以被人類視為同類。
不然終究無法被普通人所接受。
終究只是鐵殼中的孤魂。”
