接下來,趙真雪又興致勃勃的和許多個代號爲“KL”的AI進行了一些對話,儘管趙真雪對此已經有了一些心理準備,但她還是對AI在談話過程中,表現出來的“智能”而感到驚訝不已。
這些AI和趙真雪原來想象之中的,存在很大的差距,甚至,趙真雪有種感覺,從某種程度上來定義,與自己進行對話的,已經可以說是一種“類”只能,雖然通過對話AI還是會表現出很多的破綻,不過這種破綻非但沒有讓趙真雪覺得失望,反而讓她隱隱有種感覺,眼前自己面對的,正是心目中理想的人工智能。
一個最明顯的例子就是,在跟她進行對話的這些AI當中,每一個說話都具備它特有的風格,每一個AI都記得自己的名字,甚至會給自己取代號之外的名字,它們會給自己建立一整套“簡歷”,包括家庭住址,生活環境,甚至還有“小時候”經歷過的趣事……
嚴可守告訴他,AI之所以會有當前的智能,和它的“學習”能力分不開的,其實歸根到底,這些AI不過是在計算機當中的一些算法程序,只不過在設計的時候,可以模仿了人類的學習“記憶”習慣,讓它們能夠在一次又一次的實驗過程中,學習那些有助於讓人們相信他們的信息。
舉一個最簡單的例子,在打字對話這樣的媒介當中,一般讓別人相信自己的最好方式,就是形成特有的語言風格,從而讓被測試者對自己印象深刻,比如在常用語中刻意增加一些地方方言,有的AI甚至還學會了模擬一些人類的脾氣,比如不耐煩,連續的催促等等,用這些許許多多的小細節,讓對方相信自己是一名人,而不是AI。
這所有的一切,其實都是AI的算法所決定的,嚴可守告訴趙真雪,每一次“測試結束”,AI都會根據這次對話的內容,總結哪裡是比較完美的表演,而哪裡又是容易被識破的破綻,這些結果會促使AI修改自己在特定概念上的權限值,比如一個電腦,裝東北人,在打字過程中“俺們”之類的方言出現頻率過多,而大量的統計顯示,出現類似詞彙的時候,被識破的機率也就越小,那麼AI就會在以後的對話中,下意識多用類似的詞彙,到最後,甚至可以形成和真正東北人差不多的說話模式。
在趙真雪的這幾次測試當中,她遇到的一個最讓她印象深刻的AI,是一個代號爲KL3300的AI,與其他AI不同,這名AI不是通過和她聊家常來獲取她的信任,而是通過不斷把話題引向一些形而上的話題,比如說哲學,人生意義之類……他甚至還提到,自己的理想是在未來,當一名作家……
在和他論及這些話題的時候,趙真雪還不知道對方是一名AI,在與他談天說地說了半天之後,她驚訝的發現,不知道什麼時候,話題的主導權已經完全讓對方掌控了,而在下意識之間,她也把對方真的當成了一名哲學愛好者,當她自信滿滿的結束測試,並滿心認爲對方是一個人的時候,電腦出人意料的告訴她,對方只是一名AI。
嚴可守就在一旁,並在當下爲她解釋了她辨認錯誤的原因——其實說穿了很簡單,因爲在涉及類似哲學,藝術,文化之類的話題時,真正的人對回答信息真假“敏感度”其實是很低的,就比如說,最簡單的,“人生意義是什麼”,說享樂,賺錢,學習……這樣的答案都不能算錯,因爲沒有相對真確的答案,所以人也自然不能根據這答案得出更準確的判斷。
所以說,相對於這名機器人,“愛好哲學”也是它的一種欺騙策略,根絕嚴可守掌握的數據,KL3300在圖靈測試當中,過關的機率是所有AI當中最高的,這本身就已經說明,這種策略的行之有效。
“但是如果……”趙真雪得知後,有些不敢置信的問嚴可守,“如果他剛纔所說的那些,都是真的,都是他真的想說的內容,如果它是一名真正的AI,而不是你所說的模擬程序,那怎麼辦?存不存在有一種方式,可以讓你們鑑別這兩者之間的區別,鑑別程序究竟是在說謊,還是源自它真正的本源目的?”
嚴可守搖了搖頭:“你說的這種鑑別,我們做不到。”
“怎麼會?不是你們設計的它嗎?”
“算法和結構是我們設計的,這沒錯,”嚴可守說,“但AI程序跟一般的計算機程序不同,一般的計算機程序,你下命令,情況1,做A,情況2,做B,一條一條,程序所有的行爲都被代碼鎖定,這樣的程序哪怕再複雜,也不過是一架精密的機器,在進行AI理論性設計的時候,這種機械方法是最早被我們拋棄的。
KL的算法跟通常這樣的算法不同的是,它是一個不斷進化,不斷膨脹的混沌算法系統,每一個AI最早出現的時候,源程序在計算機中不過是佔用了幾百KB,但是隨着它通過圖靈測試不斷進行學習,獲得和掌握的信息越多,它的複雜度就和人類大腦發育一樣,是在不斷增長的,甚至就連我剛纔所說的那些權限值修改,修改多少,這其中的度也是AI自己掌握的。
現在你看到的所有AI,其實都是源於同一段源程序,這段源程序纔是整個項目中,最珍貴的部分,現在你看到的所有AI,本質上都是由這段源程序“成長”而來,然而每一個AI在測試過程中接觸到的信息不同,它們也會長成完全不同的智能,而這種成長過程本身就太過複雜,根本不可能實現精確監控,計算實施了監控,我們也很難預測,它下一步會做出什麼行爲,就像影響人的行爲因素可能會有很多一樣,AI現在表現出來的行爲雖然簡單,但也是不可捉摸的,它已經自行成長成爲一個混沌整體。
這就好比我們能推測一個嬰兒的想法,因爲模式簡單,餓了就哭,高興了就笑,幾乎沒什麼其他的東西,但要想清楚的看到一個成年人,幾乎就是不可能……不,除了魔法,但我要說,即使是伊凡站在這裡,他也不可能看清楚,這些AI的想法,這一點,也是我爲什麼,在這個項目上投入這麼大精力的最大原因。
現在你看到的這些具備編號的AI,其實只是成長中AI的滄海一粟,看到後面那個小隔間了沒,後面的面積,比現在你看到的要大得多,裡面放着的是日本當前最先進的巨型計算機,光是放着主機機房佔用了樓上和樓下同一位置整整四個實驗室,每天都會有數上百萬億個源程序拷貝同時在裡面進行“發育”,也就是通過系統不斷給予隨機的“虛擬刺激”,讓這些智能得到最初的發育,這其中的整個過程,你可以想象成人的大腦胚層發育,無數的神經元突觸互相聯接,最終形成一個有機整體……
而這種人工模擬“發育”的效率,其實是非常低下的,這種運算的本質,其實就是在模擬原始神經在億萬年間的發育過程,即使是當前每秒過“京”(一億億的單位)的運算速度,我們也一直花了四年多的時間,才找到一些最基礎的規律,也是就總結出從單純的神經元,進化到智能結構的模式,我和你所說的成果,也正是這一點,至於你現在看到的這些AI,其實都是在這之後,我們用於“臨時試驗”的一批,幾年年初剛剛進行“訓練”,也就是你看到的這些圖靈測試,所以嚴格來說,它們都纔是只有七個月大的孩子。”
“七個月?”趙真雪被這個數字嚇了一跳,“那你的意思是不是說,隨着這些訓練的深入,他們還會變得比現在更聰明?剛纔你說騙8歲的孩子,那是不是再過一段時間,真的和人無法區分,連成人也不能將其識破?”
“你是不是還怕它們最後比我們人類聰明,最後取我們而代之?”嚴可守笑道,“科幻小說看多了吧,其實你的這種擔心大可不必,到目前爲止,AI所接受的所有訓練,都是如何欺騙的訓練,也可以說,是撒謊訓練,即使他學到了極致,也不過是撒謊技能學到極致,讓人無法分辨真假,但要說它真就有多麼聰明……我不這麼認爲,也許今天他可以很你聊哲學,聊人生,但是AI本身,是無法理解這些概念的,這些概念只是他用於欺騙的工具,在程序中權限較高而已……
爲了達到欺騙效果,有點電腦甚至可以和你爭論哪道菜比較好吃,它偏愛什麼味道,但你要知道,它只是程序,連基本的味覺器官都沒有,怎麼可能真的有這種感覺。
同樣的道理,一個連視覺都沒有的電腦,怎麼可能理解人類生活中的概念,最簡單,一臺電腦要離開人類而單獨存在,最起碼的一點,就是必須有獨立的能源,以維持他們的存在,而要做到這一點,就意味着他們必須學會電力工業中的種種常識,要不然,可能普通的一顆螺母鬆了,都會導致他們整體的消失,而在他們的詞典中,是不可能瞭解螺母這個概念的,因爲他們沒有看的眼睛,沒有人告知他們這個概念,我們控制了他們所有的信息渠道,即使他們有朝一日,在網上看到的大英百科全書,但那些信息始終還只能停留在紙面上。
現在說AI是智能,還爲時尚早,充其量,也就是“類智能”,它們是在電子世界成長的體系,與人類相比,他們永遠只是“不出門”的秀才,嘴上即使說的天花亂墜,但也掩蓋不了他們無知的本質,這裡的無知,不是說不知道,而是說,“不能知道”,就好像先天性的聾子必然也是啞巴,在沒有共同感受的前提下,也不可能存在共同的文化,即使AI最終真的產生了智能,那也必定是我們不能理解的世界,而同樣的道理,它們也不可能真正理解我們這個世界,所以,你的擔心,應該說是完全不必要的,其實很多這方面文學題材,外星人入侵,機器人叛變什麼的,都可以稱之爲,藝術需要導致的被害妄想……”
“那既然明知道學撒謊沒用,你還讓他們學幹什麼。”趙真雪不解道。
“這種學習對AI確實沒什麼意義,但對於人來說,卻意味着很多東西,”嚴可守說,“圖靈訓練,也就是讓AI通過圖靈測試的實驗,只不過是一個開始,一個驗證AI確實有實用功能的宣傳,在項目開展之初,我就說過,這個項目的最終目的,其實還是爲了對抗魔法,或者說,對抗意識網,如果它日後真的能成長成獨立的智能,必將是不受意識網控制的智能,無論從什麼角度來看,這都是對意識網,還有對伊凡‘獨裁’可能的一種平衡手段,在未來人類對抗卡梅爾的武器中,總是多出了一種選項。”
接下來,嚴可守又帶趙真雪參觀了裡面那個小隔間,在進門的時候,趙真雪注意到,隔間裡面竟然還有兩名穿着日本軍人制服的“自衛隊隊員”,整個房間比趙真雪想象的要大出不少,嚴可守給趙真雪指了指被鑿開的天花板,以及從上面聯通下來一排又一排的光纖,爲了防止魔法偵查,整個房間的背景,甚至是安裝着一排又一排主板的機櫃,都被刷成了白色,房間的各個角度都有監視器存在。
嚴可守告訴趙真雪,她的投資,不過是整個項目佔比重稍大的一部分,同時,對整個項目感興趣的日本政府,也在整個項目佔有了一定的比率,比如現在需要使用到的巨型計算機,就是經過日本政府授權,才允許定製購買的,同時,日本政府還承擔了安全保衛工作,以及科研技術上的支持,當然,作爲回報,整個項目如果產生了成果,日本政府也將是第一個受益人。
因此,即使是作爲最大投資人的趙真雪,在進入這裡的時候,依然需要經過一名在場執勤的日本政府人員確認,以防止任何泄密的可能,不過在當前,趙真雪的知名度不說在全球,起碼在亞洲一帶,還是鼎鼎有名的,更可況中日美俄這四國在面對魔法問題上,都互相之間訂立了攻守同盟,在反魔法項目上,四國都互相保持信息暢通,看起來這個項目是日本的,其實本質上,是四個國家共有的,只不過各國都在各國自己的強項上,進行投入罷了。
人工智能只是在這個背景下,衆多的項目之一而已,如果它成功了,可能會產生類似當年原子彈的爆炸性效果,但在沒成功之前,誰也不會明白它的重要性,在反魔法領域的研究中,還是那些主流的項目更受歡迎,在資金上也擁有更大的比例,比如之前卡梅爾在內部會議中提到的,“主動激光掃描設備”。
“最後,再跟你說一件比較不可思議的事情,”帶趙真雪大致參觀了一下機房之後,嚴可守帶着回到了外面的測試間,在其中正在測試的人員之中,找到了一個戴着眼睛,正對着電腦打字的瘦弱青年。
“他叫井上海,之前是這所大學的學生,也是我們最早的測試人員之一,”嚴可守拍了拍對方的肩膀,在他回頭之後,對趙真雪介紹說,然後他又對着趙真雪向井上海用日語介紹,“這是我的一位朋友,趙真雪,趙小姐。”
井上海看了趙真雪一眼,笑着對她打了個招呼,又嘰裡呱啦的說了一串,趙真雪對日語不熟悉,但也能聽的出來,這句話的開頭,應該是你好的意思,後面,就不得而知了。
“你可以使用意識偵測,這樣省的我翻譯,”嚴可守對趙真雪說,“他剛纔說你長得很漂亮。”
趙真雪只是淡淡一笑。
然後嚴可守對井上海說:“有你想象當中的0564漂亮嗎?”
井上海笑着拍了嚴可守一下,看來兩人之前應該是很熟悉的:“我知道,你是特意來取笑我的。”
“沒有沒有,我的這位朋友剛剛對AI很感興趣,我只是讓她多瞭解一下,”嚴可守說,“那就不打擾你們聊天了。”
因爲使用了意識偵測,不等嚴可守開口,趙真雪就已經明白了,不過一時時間,她沒有好意思發表看法,等走出門以後,才說到:“他竟然喜歡上了AI?而且明知道這只是一段程序的前提下?是不是動漫看多了啊?”
“KL0564使用的是比較感性的,特別針對部分男性測試者的策略,也是人類最常見的策略,那就是愛情,在他們第一次接觸的測試中,KL0564就稱自己是一名本校學生,設計專業,是家裡最小的妹妹……一整套很嚴密成熟,能夠打動年輕男性的背景身份設定,井上海在和它聊過一次之後,就把她錯做真人,徹底陷了進去,他今年剛剛畢業,雖說已經找到了工作,可總還是會回到這裡,希望跟對方談談話。
他倒沒有和你想象的那麼瘋狂,他自己很清楚,和自己聊天的是一段程序,充其量,也不過是一段非常複雜,足以擬人的情緒,我們勸他的時候,他說過這麼一段話,愛情本來就只是一種感覺,一種非理性的衝動,他無所謂真假,也不在乎給他這種感覺的是真人還是一段程序,他知道程序在騙他,而他自己,也只是在享受這種被欺騙的感覺而已,就好像生活中,誰都知道電影內容是假的,可依然會有那麼多人享受這種虛假所帶來的欺騙。
事實上,旁人大可不比對他有過多的擔心,井上海並沒有完全失去理智,不然的話,他也不會擁有繼續測試的資格,在測試過程中,他依然嚴格遵守着圖靈測試需要遵守的要素,即使是安排到到和KL0564的測試,他也會在測試的結尾,給出他認爲的客觀答案。”
“真是不可思議,”趙真雪搖了搖頭,“也就是在日本,要是在國內,一定被人認爲不太正常。”
“別國內了,”嚴可守說,“就算是在日本,也有不少人在聽說這件事之後,罵他是變態的,不過井上海的心裡素質看起來還不錯,要不然,剛纔我也不會當着他的面,開玩笑了,不過我跟你說起他,倒不是因爲他的這點事,而是因爲,由於他的這種行爲,與之相對的KL0564也出現了很有趣的現象,就像井上海記住了它一樣,它似乎也對井上海產生了印象,以至於在後面幾次的接觸中,雙方只要一說話,就能明白對方的身份,通俗的來說,就是AI記住了他……你用這種眼神看着他幹什麼,別想多了,是記住了他,不是愛上了他,當前的AI所有行爲都是基於對圖靈測試的適應,你得時刻記住這一點。”
“這裡我要先聲明一下,通常我們所說的圖靈測試,人員都是流動隨機的,都是從本校隨機遴選,再經過對方同意邀請而來,其中還要剔除掉百分之50測試是人和人說話,截止到現在,累計進行有效測試也纔不到百萬次,這裡差不多有50多臺電腦,平均下來,每天每臺電腦進行的測試,也才一百多次,平均一次有效測試需要10多分鐘左右,而進行的測試而當前用於測試的備選AI有5000名,也就是說,即使是同一臺電腦,一個人不間斷測試一天,使用超過15個小時,能和同一名AI遇到兩次的概率,差不多是50分之一。
但說來湊巧的是,井上海在這裡進行過的數千次測試中,就曾經不可思議的和AI遇到過6次以上,從第二次開始,兩人開口不超過三句,就能準確認出對方的身份,從這個角度來說,他們兩人應該能算是認識了,人能認出電腦,這不奇怪,但電腦能認出人……這確實是這次試驗的第一例發現。”