311 記憶

接下來,趙真雪又興致勃勃的和許多個代號爲“KL”的AI進行了一些對話,儘管趙真雪對此已經有了一些心理準備,但她還是對AI在談話過程中,表現出來的“智能”而感到驚訝不已。

這些AI和趙真雪原來想象之中的,存在很大的差距,甚至,趙真雪有種感覺,從某種程度上來定義,與自己進行對話的,已經可以說是一種“類”只能,雖然通過對話AI還是會表現出很多的破綻,不過這種破綻非但沒有讓趙真雪覺得失望,反而讓她隱隱有種感覺,眼前自己面對的,正是心目中理想的人工智能。

一個最明顯的例子就是,在跟她進行對話的這些AI當中,每一個說話都具備它特有的風格,每一個AI都記得自己的名字,甚至會給自己取代號之外的名字,它們會給自己建立一整套“簡歷”,包括家庭住址,生活環境,甚至還有“小時候”經歷過的趣事……

嚴可守告訴他,AI之所以會有當前的智能,和它的“學習”能力分不開的,其實歸根到底,這些AI不過是在計算機當中的一些算法程序,只不過在設計的時候,可以模仿了人類的學習“記憶”習慣,讓它們能夠在一次又一次的實驗過程中,學習那些有助於讓人們相信他們的信息。

舉一個最簡單的例子,在打字對話這樣的媒介當中,一般讓別人相信自己的最好方式,就是形成特有的語言風格,從而讓被測試者對自己印象深刻,比如在常用語中刻意增加一些地方方言,有的AI甚至還學會了模擬一些人類的脾氣,比如不耐煩,連續的催促等等,用這些許許多多的小細節,讓對方相信自己是一名人,而不是AI。

這所有的一切,其實都是AI的算法所決定的,嚴可守告訴趙真雪,每一次“測試結束”,AI都會根據這次對話的內容,總結哪裡是比較完美的表演,而哪裡又是容易被識破的破綻,這些結果會促使AI修改自己在特定概念上的權限值,比如一個電腦,裝東北人,在打字過程中“俺們”之類的方言出現頻率過多,而大量的統計顯示,出現類似詞彙的時候,被識破的機率也就越小,那麼AI就會在以後的對話中,下意識多用類似的詞彙,到最後,甚至可以形成和真正東北人差不多的說話模式。

在趙真雪的這幾次測試當中,她遇到的一個最讓她印象深刻的AI,是一個代號爲KL3300的AI,與其他AI不同,這名AI不是通過和她聊家常來獲取她的信任,而是通過不斷把話題引向一些形而上的話題,比如說哲學,人生意義之類……他甚至還提到,自己的理想是在未來,當一名作家……

在和他論及這些話題的時候,趙真雪還不知道對方是一名AI,在與他談天說地說了半天之後,她驚訝的發現,不知道什麼時候,話題的主導權已經完全讓對方掌控了,而在下意識之間,她也把對方真的當成了一名哲學愛好者,當她自信滿滿的結束測試,並滿心認爲對方是一個人的時候,電腦出人意料的告訴她,對方只是一名AI。

嚴可守就在一旁,並在當下爲她解釋了她辨認錯誤的原因——其實說穿了很簡單,因爲在涉及類似哲學,藝術,文化之類的話題時,真正的人對回答信息真假“敏感度”其實是很低的,就比如說,最簡單的,“人生意義是什麼”,說享樂,賺錢,學習……這樣的答案都不能算錯,因爲沒有相對真確的答案,所以人也自然不能根據這答案得出更準確的判斷。

所以說,相對於這名機器人,“愛好哲學”也是它的一種欺騙策略,根絕嚴可守掌握的數據,KL3300在圖靈測試當中,過關的機率是所有AI當中最高的,這本身就已經說明,這種策略的行之有效。

“但是如果……”趙真雪得知後,有些不敢置信的問嚴可守,“如果他剛纔所說的那些,都是真的,都是他真的想說的內容,如果它是一名真正的AI,而不是你所說的模擬程序,那怎麼辦?存不存在有一種方式,可以讓你們鑑別這兩者之間的區別,鑑別程序究竟是在說謊,還是源自它真正的本源目的?”

嚴可守搖了搖頭:“你說的這種鑑別,我們做不到。”

“怎麼會?不是你們設計的它嗎?”

“算法和結構是我們設計的,這沒錯,”嚴可守說,“但AI程序跟一般的計算機程序不同,一般的計算機程序,你下命令,情況1,做A,情況2,做B,一條一條,程序所有的行爲都被代碼鎖定,這樣的程序哪怕再複雜,也不過是一架精密的機器,在進行AI理論性設計的時候,這種機械方法是最早被我們拋棄的。

KL的算法跟通常這樣的算法不同的是,它是一個不斷進化,不斷膨脹的混沌算法系統,每一個AI最早出現的時候,源程序在計算機中不過是佔用了幾百KB,但是隨着它通過圖靈測試不斷進行學習,獲得和掌握的信息越多,它的複雜度就和人類大腦發育一樣,是在不斷增長的,甚至就連我剛纔所說的那些權限值修改,修改多少,這其中的度也是AI自己掌握的。

現在你看到的所有AI,其實都是源於同一段源程序,這段源程序纔是整個項目中,最珍貴的部分,現在你看到的所有AI,本質上都是由這段源程序“成長”而來,然而每一個AI在測試過程中接觸到的信息不同,它們也會長成完全不同的智能,而這種成長過程本身就太過複雜,根本不可能實現精確監控,計算實施了監控,我們也很難預測,它下一步會做出什麼行爲,就像影響人的行爲因素可能會有很多一樣,AI現在表現出來的行爲雖然簡單,但也是不可捉摸的,它已經自行成長成爲一個混沌整體。

這就好比我們能推測一個嬰兒的想法,因爲模式簡單,餓了就哭,高興了就笑,幾乎沒什麼其他的東西,但要想清楚的看到一個成年人,幾乎就是不可能……不,除了魔法,但我要說,即使是伊凡站在這裡,他也不可能看清楚,這些AI的想法,這一點,也是我爲什麼,在這個項目上投入這麼大精力的最大原因。

現在你看到的這些具備編號的AI,其實只是成長中AI的滄海一粟,看到後面那個小隔間了沒,後面的面積,比現在你看到的要大得多,裡面放着的是日本當前最先進的巨型計算機,光是放着主機機房佔用了樓上和樓下同一位置整整四個實驗室,每天都會有數上百萬億個源程序拷貝同時在裡面進行“發育”,也就是通過系統不斷給予隨機的“虛擬刺激”,讓這些智能得到最初的發育,這其中的整個過程,你可以想象成人的大腦胚層發育,無數的神經元突觸互相聯接,最終形成一個有機整體……

而這種人工模擬“發育”的效率,其實是非常低下的,這種運算的本質,其實就是在模擬原始神經在億萬年間的發育過程,即使是當前每秒過“京”(一億億的單位)的運算速度,我們也一直花了四年多的時間,才找到一些最基礎的規律,也是就總結出從單純的神經元,進化到智能結構的模式,我和你所說的成果,也正是這一點,至於你現在看到的這些AI,其實都是在這之後,我們用於“臨時試驗”的一批,幾年年初剛剛進行“訓練”,也就是你看到的這些圖靈測試,所以嚴格來說,它們都纔是只有七個月大的孩子。”

“七個月?”趙真雪被這個數字嚇了一跳,“那你的意思是不是說,隨着這些訓練的深入,他們還會變得比現在更聰明?剛纔你說騙8歲的孩子,那是不是再過一段時間,真的和人無法區分,連成人也不能將其識破?”

“你是不是還怕它們最後比我們人類聰明,最後取我們而代之?”嚴可守笑道,“科幻小說看多了吧,其實你的這種擔心大可不必,到目前爲止,AI所接受的所有訓練,都是如何欺騙的訓練,也可以說,是撒謊訓練,即使他學到了極致,也不過是撒謊技能學到極致,讓人無法分辨真假,但要說它真就有多麼聰明……我不這麼認爲,也許今天他可以很你聊哲學,聊人生,但是AI本身,是無法理解這些概念的,這些概念只是他用於欺騙的工具,在程序中權限較高而已……

爲了達到欺騙效果,有點電腦甚至可以和你爭論哪道菜比較好吃,它偏愛什麼味道,但你要知道,它只是程序,連基本的味覺器官都沒有,怎麼可能真的有這種感覺。

同樣的道理,一個連視覺都沒有的電腦,怎麼可能理解人類生活中的概念,最簡單,一臺電腦要離開人類而單獨存在,最起碼的一點,就是必須有獨立的能源,以維持他們的存在,而要做到這一點,就意味着他們必須學會電力工業中的種種常識,要不然,可能普通的一顆螺母鬆了,都會導致他們整體的消失,而在他們的詞典中,是不可能瞭解螺母這個概念的,因爲他們沒有看的眼睛,沒有人告知他們這個概念,我們控制了他們所有的信息渠道,即使他們有朝一日,在網上看到的大英百科全書,但那些信息始終還只能停留在紙面上。

現在說AI是智能,還爲時尚早,充其量,也就是“類智能”,它們是在電子世界成長的體系,與人類相比,他們永遠只是“不出門”的秀才,嘴上即使說的天花亂墜,但也掩蓋不了他們無知的本質,這裡的無知,不是說不知道,而是說,“不能知道”,就好像先天性的聾子必然也是啞巴,在沒有共同感受的前提下,也不可能存在共同的文化,即使AI最終真的產生了智能,那也必定是我們不能理解的世界,而同樣的道理,它們也不可能真正理解我們這個世界,所以,你的擔心,應該說是完全不必要的,其實很多這方面文學題材,外星人入侵,機器人叛變什麼的,都可以稱之爲,藝術需要導致的被害妄想……”

“那既然明知道學撒謊沒用,你還讓他們學幹什麼。”趙真雪不解道。

“這種學習對AI確實沒什麼意義,但對於人來說,卻意味着很多東西,”嚴可守說,“圖靈訓練,也就是讓AI通過圖靈測試的實驗,只不過是一個開始,一個驗證AI確實有實用功能的宣傳,在項目開展之初,我就說過,這個項目的最終目的,其實還是爲了對抗魔法,或者說,對抗意識網,如果它日後真的能成長成獨立的智能,必將是不受意識網控制的智能,無論從什麼角度來看,這都是對意識網,還有對伊凡‘獨裁’可能的一種平衡手段,在未來人類對抗卡梅爾的武器中,總是多出了一種選項。”

接下來,嚴可守又帶趙真雪參觀了裡面那個小隔間,在進門的時候,趙真雪注意到,隔間裡面竟然還有兩名穿着日本軍人制服的“自衛隊隊員”,整個房間比趙真雪想象的要大出不少,嚴可守給趙真雪指了指被鑿開的天花板,以及從上面聯通下來一排又一排的光纖,爲了防止魔法偵查,整個房間的背景,甚至是安裝着一排又一排主板的機櫃,都被刷成了白色,房間的各個角度都有監視器存在。

嚴可守告訴趙真雪,她的投資,不過是整個項目佔比重稍大的一部分,同時,對整個項目感興趣的日本政府,也在整個項目佔有了一定的比率,比如現在需要使用到的巨型計算機,就是經過日本政府授權,才允許定製購買的,同時,日本政府還承擔了安全保衛工作,以及科研技術上的支持,當然,作爲回報,整個項目如果產生了成果,日本政府也將是第一個受益人。

因此,即使是作爲最大投資人的趙真雪,在進入這裡的時候,依然需要經過一名在場執勤的日本政府人員確認,以防止任何泄密的可能,不過在當前,趙真雪的知名度不說在全球,起碼在亞洲一帶,還是鼎鼎有名的,更可況中日美俄這四國在面對魔法問題上,都互相之間訂立了攻守同盟,在反魔法項目上,四國都互相保持信息暢通,看起來這個項目是日本的,其實本質上,是四個國家共有的,只不過各國都在各國自己的強項上,進行投入罷了。

人工智能只是在這個背景下,衆多的項目之一而已,如果它成功了,可能會產生類似當年原子彈的爆炸性效果,但在沒成功之前,誰也不會明白它的重要性,在反魔法領域的研究中,還是那些主流的項目更受歡迎,在資金上也擁有更大的比例,比如之前卡梅爾在內部會議中提到的,“主動激光掃描設備”。

“最後,再跟你說一件比較不可思議的事情,”帶趙真雪大致參觀了一下機房之後,嚴可守帶着回到了外面的測試間,在其中正在測試的人員之中,找到了一個戴着眼睛,正對着電腦打字的瘦弱青年。

“他叫井上海,之前是這所大學的學生,也是我們最早的測試人員之一,”嚴可守拍了拍對方的肩膀,在他回頭之後,對趙真雪介紹說,然後他又對着趙真雪向井上海用日語介紹,“這是我的一位朋友,趙真雪,趙小姐。”

井上海看了趙真雪一眼,笑着對她打了個招呼,又嘰裡呱啦的說了一串,趙真雪對日語不熟悉,但也能聽的出來,這句話的開頭,應該是你好的意思,後面,就不得而知了。

“你可以使用意識偵測,這樣省的我翻譯,”嚴可守對趙真雪說,“他剛纔說你長得很漂亮。”

趙真雪只是淡淡一笑。

然後嚴可守對井上海說:“有你想象當中的0564漂亮嗎?”

井上海笑着拍了嚴可守一下,看來兩人之前應該是很熟悉的:“我知道,你是特意來取笑我的。”

“沒有沒有,我的這位朋友剛剛對AI很感興趣,我只是讓她多瞭解一下,”嚴可守說,“那就不打擾你們聊天了。”

因爲使用了意識偵測,不等嚴可守開口,趙真雪就已經明白了,不過一時時間,她沒有好意思發表看法,等走出門以後,才說到:“他竟然喜歡上了AI?而且明知道這只是一段程序的前提下?是不是動漫看多了啊?”

“KL0564使用的是比較感性的,特別針對部分男性測試者的策略,也是人類最常見的策略,那就是愛情,在他們第一次接觸的測試中,KL0564就稱自己是一名本校學生,設計專業,是家裡最小的妹妹……一整套很嚴密成熟,能夠打動年輕男性的背景身份設定,井上海在和它聊過一次之後,就把她錯做真人,徹底陷了進去,他今年剛剛畢業,雖說已經找到了工作,可總還是會回到這裡,希望跟對方談談話。

他倒沒有和你想象的那麼瘋狂,他自己很清楚,和自己聊天的是一段程序,充其量,也不過是一段非常複雜,足以擬人的情緒,我們勸他的時候,他說過這麼一段話,愛情本來就只是一種感覺,一種非理性的衝動,他無所謂真假,也不在乎給他這種感覺的是真人還是一段程序,他知道程序在騙他,而他自己,也只是在享受這種被欺騙的感覺而已,就好像生活中,誰都知道電影內容是假的,可依然會有那麼多人享受這種虛假所帶來的欺騙。

事實上,旁人大可不比對他有過多的擔心,井上海並沒有完全失去理智,不然的話,他也不會擁有繼續測試的資格,在測試過程中,他依然嚴格遵守着圖靈測試需要遵守的要素,即使是安排到到和KL0564的測試,他也會在測試的結尾,給出他認爲的客觀答案。”

“真是不可思議,”趙真雪搖了搖頭,“也就是在日本,要是在國內,一定被人認爲不太正常。”

“別國內了,”嚴可守說,“就算是在日本,也有不少人在聽說這件事之後,罵他是變態的,不過井上海的心裡素質看起來還不錯,要不然,剛纔我也不會當着他的面,開玩笑了,不過我跟你說起他,倒不是因爲他的這點事,而是因爲,由於他的這種行爲,與之相對的KL0564也出現了很有趣的現象,就像井上海記住了它一樣,它似乎也對井上海產生了印象,以至於在後面幾次的接觸中,雙方只要一說話,就能明白對方的身份,通俗的來說,就是AI記住了他……你用這種眼神看着他幹什麼,別想多了,是記住了他,不是愛上了他,當前的AI所有行爲都是基於對圖靈測試的適應,你得時刻記住這一點。”

“這裡我要先聲明一下,通常我們所說的圖靈測試,人員都是流動隨機的,都是從本校隨機遴選,再經過對方同意邀請而來,其中還要剔除掉百分之50測試是人和人說話,截止到現在,累計進行有效測試也纔不到百萬次,這裡差不多有50多臺電腦,平均下來,每天每臺電腦進行的測試,也才一百多次,平均一次有效測試需要10多分鐘左右,而進行的測試而當前用於測試的備選AI有5000名,也就是說,即使是同一臺電腦,一個人不間斷測試一天,使用超過15個小時,能和同一名AI遇到兩次的概率,差不多是50分之一。

但說來湊巧的是,井上海在這裡進行過的數千次測試中,就曾經不可思議的和AI遇到過6次以上,從第二次開始,兩人開口不超過三句,就能準確認出對方的身份,從這個角度來說,他們兩人應該能算是認識了,人能認出電腦,這不奇怪,但電腦能認出人……這確實是這次試驗的第一例發現。”

354 根源第六十五章 性格決定命運438 勸降第四十八章 餡餅第二十三章 解惑150 左,右?第二十二章 旁聽不容易146 暴風雨與平靜438 勸降241 騎士與酋長第六十章 克萊因瓶219 障礙208 坐視290 襲擊247 國王368 枕戈327 鷹眼326 接受現實第七十四章 控制466 新生命號(中)244 世界152 風靜不停266 蝴蝶156 門檻118 財務185 演講366 落空第四十六章 短信第九十四章 分析465 新生命號(上)第四十八章 餡餅120 圍觀301 沒有自首第七十二章 接觸304 沙漠與星空178 織網198 施法者林泉175 公平與真理355 出劍269 休息457 逃犯第五十六章 公寓樓法師塔271 卡梅爾國家電力公司第九十六章 異想天開270 片段433 寒暄291 失去337 準備271 卡梅爾國家電力公司第八章 約會之後340 嚴律第二十章 點名281 開張396 壓縮196 午後陽光第五十五章 酒吧歌手第四十三章 考試129 聊天210 質問第七十八章 徵兆第二十五章 夜色深重(2)102 各安天命303 刺殺與保護416 教育250 皇帝340 嚴律126 碾壓430 暫停132 天堂180 傷痕373 地下通道412 突襲第五十章 攤牌第五十章 攤牌477 執行214 法庭(上)210 質問第四章 分手不需要理由313 抱薪救火第二十章 點名134 離開第五十七章 錢不夠168 又是意外234 治標160 魔法訓練366 落空220 導火索103 田軍的新手錶第十八章 父母240 會議(下)121 恐懼之城212 王國380 好奇437 被俘418 無線“電”304 沙漠與星空316 田軍的選擇372 三,二,一264 柏拉圖424 複製