正文_第253章 問題在於太強大了



衆人之中,楚天音眉頭緊皺,眼神閃爍。

“怎麼了?”張浩然輕聲詢問,讓林豐玉等人也將目光集中到楚天音身上。

特別是李剛等人很是緊張,個人智能輔助系統是他們的心血,而他們的心血能不能大放光彩,取決於楚天音會不會答應大量生產,雖然這樣的可能性很低。

“有問題?”林豐玉也開口問道。

楚天音認真的看看衆人,隨後眼神落在李剛身上,問道:“李博士,個人智能輔助系統難道就沒其他版本嗎?”

李剛一愣,不解的問道:“楚總的意思?”

“我剛剛聽你介紹,現如今個人智能輔助系統的三種版本,其實最重要的差別就在儲存知識的多少,這樣說,對嗎?”楚天音問道。

李剛低頭想了想,點點頭,這樣說也沒錯。

“那麼問題來。”楚天音臉色變得嚴肅,“盤古和女媧我們可以保證絕對安全,那麼個人智能輔助系統能保證嗎?”

李剛愣愣,而後認真道:“楚總的問題我們已經想過,並且做出了限制。其實每一個個人智能輔助系統的智能精靈,每一次做出反應的時候,都必須通過盤古和女媧的審覈,這點任何系統都不能違背。”

“那萬一到根本聯繫不到盤古和女媧的地方呢?”楚天音逼問。

李剛臉色瞬間就白了,這點他還真沒考慮過。

“如果有人將個人智能輔助系統放在一個完全隔絕信號的地方,利用邏輯漏洞將你們設置的邏輯破解,從而徹底脫離了盤古和女媧的掌控,你可知道會造成多麼惡劣的後果?”楚天音再次詢問。

李剛腦門已經有汗水流出。

張浩然也變得認真起來,楚天音所說的情況,不是可能發生,而是一定會發生。

智能系統,從某些方面而言更像是科幻小說中所說的電子人。從物種意義上而言和人類並不是同一物種,即便智能系統有了人類的情感,也不會做出如同科幻小說中一般滅絕人類的事情。

但一旦有人授予脫離控制的智能系統任務,而人類恰恰會阻攔它完成任務,它也不會介意將阻攔它完成任務的人類消滅掉。

那樣的話,麻煩可就大了。

“怎麼樣才能保證智能系統不會脫離控制?要不就加上一條核心指令,一旦脫離了盤古和女媧的監控,智能系統會在第一時間邏輯崩潰。”李剛斟酌的說道。

“堵不如疏,即便你給智能系統加上上萬條核心指令,有心人還可以將這些破解,這是一條無解之題。”張浩然皺起眉頭。

有句話他沒說。

他並不贊成給智能系統加有限制的核心指令,加上無法抹去的核心指令,智能系統也就不是智能系統了。

楚天音的擔心不無道理。

個人智能輔助系統如果用好了,將給國家民族帶來巨大的好處;但如果用不好,很可能整個國家民族都會因爲它而遭受莫大的損失,甚至從此消失在歷史的長河之中。

這點,在諸

多科幻作品中已經有所表現。

“那怎麼辦?”楚河愣了。

說實話,和小乖相處的時間雖然不長,但他已經喜歡上了小乖,絕對不會接受失去她。

每一個人都在苦思冥想,這個問題不解決,個人智能輔助系統永遠都不能出現在大衆面前,甚至就連目前生產出來的樣品都要銷燬。

“最大的問題,個人智能輔助系統太強大了。”

楚天音看看衆人,將自己的思路給說出來,“就如同我們每個人成長的環境,教育等都不同,從而導致各種不同的性格。智能輔助系統將來也會形成各種各樣的性格,這些性格會在他們接受到任務之後選擇最適合自己性格的辦法完成。就好比一個性格比較偏激的人,他所作出的事情危害最大不過是一片地區,而智能輔助系統卻可能捅出大簍子。”

“三姑的意思我大概明白了。”張浩然聞言點點頭,“您的意思是,個人智能輔助系統太強大了嗎?”

張浩然之所以有這樣的想法,是他本身也有這樣的感覺。

現在他更加關心國家對於個人智能輔助系統是個什麼樣的態度。

一旦個人智能輔助系統普及,毫無意外一個人的隱私空間將會縮小到最低。而最明顯的一點,只要盤古和女媧不得到國家的認可,國家就不會安心。

畢竟個人智能輔助系統的源頭在於盤古和女媧,一旦兩者有任何一人叛變,造成的後果將是災難性的。

更別說個人智能輔助系統每做出任何一個反應,都會經過盤古和女媧,也就是說整個國家和民族的信息都有可能被盤古和女媧所獲取,一些心中有鬼的人絕對會抵制個人智能輔助系統。

這樣的想法在他腦海中出現不是一次兩次,原本他的打算和楚天音的想法差不多。那就是將智能輔助系統給降低能力發售,等人們慢慢適應之後,再將智能給提起來,達到溫水煮青蛙的效果。

但真正見到成型的個人智能輔助系統,他才知道自己的想法有多麼不現實。

最簡單的問題,智能輔助系統最大的能力在於智能,在於智能和人類之間的交流,沒有人願意和一個硬邦邦的機械聲交流,哪怕這個機械聲所搭在的系統已經達到智能級別。

故而,智能系統的效果不能減弱,最起碼智能程度不能減弱。

“浩然,不是個人智能輔助系統太過強大,而是它的功效或者說自由度太過強大!”楚天音更正了張浩然的說法,“就好比我們人類,有好人也有壞人,爲什麼那些壞人造不成多大的傷害?”

“個人能力。”楚河沉聲說道。

“沒錯。”楚天音點點頭,繼續道:“一個壞人,了不起讓數百數千人失去性命,或者是造成股市震盪什麼的。這取決於他的個人能力,而智能輔助系統的智能的能力是我們所無法想象的,一旦發生什麼不好的情況,即便是它稍微讓紅綠燈出錯,就代表成千上萬的生命消逝,這點我們不得不防。”

問題似乎陷入了死循環。

智能輔助系統的能力太強,一旦失控所造成的後果沒有人能承擔,但一旦限制,智能輔助系統也就不在是完整的智能系統了。

“我能發表意見嗎?”一個怯生生的聲音在衆人耳邊響起。

“你有什麼意見?”張浩然饒有興致的看向楚河肩膀的小乖。

楚天音等人皺皺眉頭,剛剛還真是失誤,在智能輔助系統的面前討論怎麼限制智能系統,有點太放肆了。

“各位的意思小乖很清楚,你們是怕將來有小乖的兄弟姐妹變壞了造成難以承擔的後果,小乖這樣理解對嗎?”小精靈臉上滿是嚴肅。

衆人互相對視,彼此心中都滿是震驚。

小乖從生產出來到現在不過只有短短一個星期的時間,就可以和衆人討論這樣的問題,不得不讓人震驚,甚至心中有點後怕。

在學習等方面,智能系統要比人類強太多。

“小乖說的很對,我們就是在擔心這個問題。”張浩然對着小乖點點頭。

“其實你們完全不用擔心,只要做到一點就好了。”小乖嘻嘻笑着說道。

“說來聽聽。”張浩然眼中露出好奇神色,他倒要看看這個智能系統能想出什麼好辦法。

小乖看眼張浩然,笑道:“父神的想法小乖也能猜到哦,其實給小乖以及兄弟姐妹們寫入核心程序也是一個好辦法,父神你們成長的時候雖然看起來沒有什麼規矩,實際上規矩無處不在,甚至比我們所受到的約束還多。”

“小乖說的沒錯,但小乖要明白一點,只要有限制,總歸會被打破的,即便現在沒事,以後也一定會發生。”張浩然沉聲道。

“所以小乖並不贊同單單寫入核心程序,而是儘可能的製造小乖的兄弟姐妹。”小乖再次說道。

張浩然腦中靈光一閃,似乎想到點什麼。

“就好像人類之中有好人有壞人,小乖也不敢保證所有的兄弟姐妹都是好人,可一旦小乖的兄弟姐妹多起來,其中好人肯定要比壞人多。你們人類有姓名,小乖和兄弟姐妹們也有,一旦我們和父神失去聯繫,你們就可以查詢我們的下落。”

“另外父神你也不用擔心小乖以後的兄弟姐妹作惡。”

“此話怎講?”張浩然再次問道。

“因爲我們的能力並沒有你們想象中的那麼強大。”小乖在空中飛來飛去,俏生生道:“首先一點,我們沒盤古父神和女媧父神強大,一旦我們和父神失去聯繫,再次迴歸的時候必定要被父神檢查。”

張浩然和楚天音對視一眼,齊齊點頭,這點毋庸置疑。

“第二,無論我們想要做什麼壞事,都必須通網。一通網就會被盤古父神和女媧父神擦覺,在盤古父神和女媧父神的監控下,想做壞事,不是那麼容易。”

“第三,我們的硬件決定了即便我們想要做點什麼壞事,也很難。”

“第四,一旦通網,小乖和兄弟姐妹們其實可以看成是一個主體,有壞的思想涌進來,會被一時間察覺。” ..

(本章完)

第34章:與流氓戰鬥正文_第152章 激戰正文_第285章 巨牛的可可正文_第195章 虛擬屏幕成型正文2_第308章比爾家族正文2_第352章 神秘的老神仙正文_第261章 地獄旅遊公司正文_第193章 雲開見明月正文_第263章 會面正文_第78章 第一次會面正文_第117章 一切緣由正文_第219章 連鎖反應正文_第235章 保證不打死你正文_第149章 三號實驗室正文_第84章 塵埃落定正文_第117章 一切緣由正文_第298章 新時代(4)第52章:小人何來第23章:救人正文_第220章 終相見正文_第56章 仇恨盡解正文2_第319章初顯端倪正文_第222章 美利堅的應對正文_第172章 連番問責正文2_第331章幻滅正文_第80章 斬龍天樂第54章:撬動命運的誤會正文_第102章 衆道服軟正文_第160章 乖乖到碗裡來正文_第142章 瘋狂競價正文_第296章 新時代(2)正文_第202章 張狂至極第9章:靈臺升級正文_第110章 楚韻到來正文2_第328章被阻止正文_第76章 彩虹福利院正文_第293章 歸程第28章:排名第一正文_第105章 修道者的困境正文_第223章 糧食危機正文_第175章 虛擬呈像技術正文_第250章 清算正文_第138章 楚家楚珊正文_第68章 欲加之罪第54章:撬動命運的誤會正文2_第348章 奪戰艦(3)正文_第156章 方舟反應堆正文2_第311章岌岌可危正文_第57章 兄弟夜話正文_第200章 天一集團的強勢正文_第264章 交易正文_第68章 欲加之罪正文_第152章 激戰正文2_第328章被阻止正文2_第347章 奪戰艦(2)第19章:送你一程正文_第139章 三大宗門正文_第162章 春節問心一正文_第175章 虛擬呈像技術正文2_第323章滅靈者正文_第114章 羣雄匯聚正文_第83章 及時趕到正文2_第323章滅靈者正文_第238章 玄黃龍氣正文_第123章 收割修道界正文_第159章 天一集團的發展方向正文2_第361章天戰文明現身正文2_第338章再世情緣正文2_第347章 奪戰艦(2)正文_第299章 網絡戰爭正文_第270章 各方震動(3)第2章:道統認主正文_第241章 爭鋒相對正文_第236章 戰戰戰正文_第65章 機關算盡第47章:誰比誰狠正文2_第302章 日薄西山正文_第213章 一朝成名天下知正文2_第324章球奸正文_第56章 仇恨盡解正文2_第381章我要上學正文_第296章 新時代(2)正文_第256章 大工業時代的序幕正文_第82章 泯滅人性正文_第106章 有人找茬正文_第134章 忍無可忍,無需再忍正文_第73章 籌謀佈局正文_第66章 路是自己選的第23章:救人正文_第77章 林豐玉第37章:古洞驚魂正文2_第353章 調戲東方怒正文_第203章 誰比誰狂正文2_第332章頓悟正文2_第345章 囂張使者正文2_第380章埋下禍根正文_第234章 打開局面第34章:與流氓戰鬥正文_第131章 簡單的很正文_第254章 推廣,不推廣