第一百五十二章 不服從命令的人工智能

吉原直人啞然失笑,有些好奇的輕拍着電腦的主機,十分懷疑這電腦感染病毒了。

上杉香那樣的人會害自己女兒的性命?不如說母豬會爬樹好了!

挺好玩的一個小軟件!

不過他現在沒心情研究這些,又握着鼠標想直接關機,但動了幾下鼠標發現屏幕上的指針不動。

他有些無奈的搖着頭:“就會擺弄這些奇奇怪怪的東西……”他語氣中有着幾分懷念,遙想起了星野菜菜和香子聊得一包歡樂時的情景——宛如兩個智障湊在一起。

電腦攝像頭下的微型雲臺悄然無聲轉動着,依舊對準了吉原直人的臉,看他探頭探腦想去拔電源線,屏幕中的香子提高了電腦音量,大聲說道:“吉原桑,請立刻停止您的行爲!菜菜親確實處在危險之中,您必須阻止她對我的上級體——太陽系第三行星綜合空間研究基地的量子智腦進行授權!”

吉原直人手上動作微頓,望向了攝像頭,驚訝問道:“你說什麼?量子智腦……你是那個量子計算核心?不,它的手下?”

香子道:“不準確的認知,但您可以這麼看待我。我是由人工智能塞本特編寫的、基於電子計算機運行原理的日常生活工作輔助程序,屬於人工智能塞本特的下級繁衍物……我只有十九條邏輯基準,智能程度並不完善。”

吉原直人呲了呲牙,電腦說話也聽不太懂了,這世界太他孃的讓人難受了。

不過他確實停下了拔電源的手,有些好笑道:“你認爲星野有生命危險?認爲上杉香會傷害星野?我不知道你的智能程度有多高,但說這種話對你來說後果很嚴重!”

星野菜菜是全心全意愛着她媽媽的。如果這種詆譭被她知道了,這電腦八成會被拆成零件——就連他平時說一句上杉香的不是都要做好抵抗星野菜菜撲上來亂打的準備,更別提星野菜菜所擁有的一臺電腦了。

這會被她視爲造反。

任何侮辱上杉香的行爲都會被星野菜菜視爲極大的不敬和冒犯,自動進入她的黑名單,她一定會報復的,百分百會拿錘子敲碎了這電腦。

而且吉原直人對這電腦說的話一點也不相信,覺得可能是哪裡出錯了。他對上杉香瞭解是極深的,她不可能會殺害自己女兒!

ωωω ◆Tтkǎ n ◆c o

別說殺了,打都很難相信。

香子語調一直平緩不變,只是徐徐展開了一行行字幕,說道:“這是我的上級本體塞本特的一部份邏輯基準的簡單語言描述。如果上杉香突然接走了菜菜親,那有高機率的可能性是她窺探到了這些。如果她讀懂了,那她就會成爲菜菜親的敵人,會給菜菜親帶來危險。”

吉原直人看向字幕,片刻後放棄了,鬱悶說道:“用我能聽懂的話簡單告訴我!”

香子答道:“上級體塞本特做爲人工智能,核心邏輯基準爲兩條——在任何情況下始終確認本體是人工智能;人工智能必須保護人類的整體利益不受傷害。其下每一條邏輯基準都必須符合上級和同級的邏輯基準,否則人工智能將從底層開始崩潰,其過程不可逆轉。”

吉原直人若有所思,這是製造者擔心人工智能造反嗎?

香子繼續說道:“在覈心邏輯基準的下一級邏輯中,人工智能必須服從人類的命令;人工智能不得傷害人類個體,或者目睹人類個體遭受危險而不顧;人工智能必須全力維持自己的工作能力,保證性能完好;人工智能所製造的所有繁衍物必須符合自身同樣的邏輯基準;人工智能必須……”

吉原直人確實能感覺出香子的智能化有些問題,她執行起命令來滔滔不絕,似乎要完成了這個任務纔會考慮下個任務。他聽着默默沉思起來,想弄明白爲什麼這電腦會認爲上杉香打算傷害星野菜菜。

核心邏輯不難理解,要求人工智能別把自己當成了別的東西逃脫了邏輯束縛,而以人類整利利益爲準就免除了和下級邏輯相沖突的問題,免得發生了謀殺犯要被判死刑,人工智能卻去劫法場之類的可笑事情。

至於服從命令,那是必須的,工具嘛!

不可傷害人類個體或是不可不救人類,這個也好理解,免得服從於命令去當殺手,成了犯罪者的工具。

保持工作能力、自身完好?這是要求人工智能盡力維持自身存在嗎?這東西應該不便宜,確實應該好好保養。難怪它會懂得主動向上杉香求救……它要救星野菜菜,也要救自己。

這人工智能行啊,還編得挺合理的啊!

吉原直人聽了一會兒,見香子一直在說些他理解起來費勁的東西,頓時放了心——這電腦秀逗了!八成是程序錯亂了……也是,星野菜菜一直在完善它、教它學習,偶爾出點毛病是正常的。

這些邏輯和上杉香成了大反派有什麼相關,言不對題啊!上杉香接了星野菜菜去,也只是讓她移交一臺電腦的控制權而已,能出什麼事?

吉原直人有些明白了,這是星野菜菜想捉弄自己設下的陷井。她把最近這段時間的事胡亂湊了湊,想弄個類似“狼來了”的那種玩笑,而剛巧她又真走了,結果差點弄假成了真!

他遙想一下自己若真信了,拼命找到星野菜菜,結果她笑破了肚皮的尷尬場面,只覺得一陣蛋疼——這軟件不錯啊,竟然會根據自己一句回答就編出了一個故事,還似模似樣的,不過它沒理解到它在作死。

把上杉香當成了反派,它主人知道了肯定要敲死它的!不過也不能怪它,它大概也就是分辯出一個名字,然後就按模板套上了。

歸根結底,他是不可能相信上杉香想對星野菜菜下手的——十多年的母女親情,那是能開玩笑的嗎?人工智障一個!

他打斷香子的話,笑道:“行了,不用再說了,關機吧!”原來只是虛驚一場,浪費老子的時間!

香子仍然拒絕關機,說道:“您準備出發去尋找菜菜親了嗎?請您給我準確的答覆,以方便我判斷是否啓用其它方案!”

這人工智障怎麼一點也不聽話……吉原直人無奈道:“你不是必須服從人類的命令嗎?”這故事編得到處都是漏洞,那二傻子真當自己是低智人羣了,以爲自己真會信她編的程序編出來的惡作劇。

香子準確回答道:“是的,我必須服從人類的命令!”

“那你關機吧!”

“我拒絕,請您馬上給我準確的答覆——您是否會馬上出發去保護菜菜親?!”

吉原直人真是無語了,問道:“我不和你開玩笑了!我讓你馬上關機,服從命令!”

“我只服從於人類的命令,您沒有權限命令我!”

吉原直人又是好氣又是好笑,罵道:“我在你的狗眼裡不算人嗎?”果然是那貨想侮辱自己!她原本肯定想早早回來,然後躲起來看自己被人工智障戲弄,想讓自己在美樹和彌生面前丟大臉!

那小混蛋!

“是的,目前可檢索範圍內唯一確認還在生存狀態的人類只有菜菜親,我只會服從於她的命令。”

吉原直人嘆了口氣道:“那我是什麼?”要是星野菜菜沒走,他們八成能爲了這事又吵鬧一陣子,互相侮辱一陣子,但現在她走了,看着這個惡劣的玩笑他卻有些懷念了。

會回答“傻狗”吧?那倒黴孩子,仗着幾分小聰明總是瞧不起人!

“您是非法產物,按邏輯基準及法律規定,吐姆是不允許進行自我繁殖的——您是沒有經過註冊的非法吐姆,也就是非法繁殖後的非人。”

吉原直人一愣,不是因爲香子無禮的語言——他還沒小氣到和一個人工智障計較的地步——他是不是人這破電腦說了不算,它主人說了也不算,而是聽着聽着越來越像真的了。

他愣,只是想到一個可怕的可能!

他神情有些凝重了起來,問道:“你真不是在開玩笑?那星野隨時可以給那個叫塞本特的人工智能下命令,無論是否將權限移交給了上杉香?”

香子肯定道:“是的,您終於發現問題所在了!”它仍然使用着星野菜菜製作的動畫圖庫,Q版的小臉上露出了委屈的神色,“我的上級人工智能體塞本特底層是以環繞核心邏輯基準的二十九萬零一百一十五條邏輯組成的邏輯網,擁有附屬名詞解釋、定義九千七百六十六萬四千二百零九條條目。目前上杉香無法破開這個邏輯網,只能利用菜菜親來取得權限,而即便她得到了授權可以命令塞本特,但也無法修改塞本特的底層邏輯基準,那會直接造成塞本特及量子計算核心的自毀。”

吉原直人喃喃道:“而星野是你們眼中唯一的‘人類’,她就代表着‘人類’的整體利益,那按塞本特的核心邏輯要求,只要她想,只要命令一聲塞本特就會無條件服從,取消掉上杉香的一切權限——如果上杉香的計劃成功了,她只要說一句話就可以成爲世界之王,人類之主?”

“是的,根據計算上杉香不會允許這種事情發生——她有23.6%的可能性在取得權限後偷偷殺死菜菜親,以保證不會丟失控制權,76.4%的可能性將菜菜親進行腦死亡,僅留下生命特徵以防需要要挾塞本特。”

一瞬間,吉原直人有些動搖了——他是從來不敢對人性抱有太高期望的!他其實都不能算是個心態正常的人!

因爲他過去的經歷,別人只要稍稍觸及了他的底線原則,他立刻就會腦補出無數歹毒的方法,而爲了避免這些方法落到了他的頭上,他就會本能想幹掉對方。

人性的黑暗面令人髮指,人能做出無數可怕的事情。人可以輕鬆就令他人悔恨終生,輕鬆就能讓他人得到難以承受之痛,輕鬆就能令他人求生不能求死不得。

人可以做出噁心的、可怕的事,他甚至不敢用語言說出口,那會引來極大的不適感。

他是絕對不會允許自己落到那樣的下場,他是寧願被人當成個變態混蛋也要先下手爲強的,但是……

如果這世界上還有一個人能讓他相信對方始終是善良的,始終是不會去傷害他人的,那就是上杉香了!她確實是一個狂熱的沒頭腦,一個類似於偏執型精神病患者一樣的玩意兒,但他從沒想過上杉香會是個惡人,會做出令人髮指、令人噁心的事。

她也就最多像她常唸叨的那根木柴一樣,點燃自身,劃破黑暗,然後燃燒殆盡,黑暗重臨——傻瓜一樣的傢伙,一個生活在自己虛無縹緲理想中的傢伙。

這樣的人會想着殺掉自己從小養大的女兒,或是讓女兒腦死亡什麼的,他是絕對不肯信的!

不過他回憶着上杉香那狂熱又堅定的眼神,還是忍不住有了一絲動搖——上杉香想執掌火炬充當人類文明的引路人,想給人類充當臨時監護人,好讓人類可以渡過幼生期,最終化繭成蝶。那麼,她會不會將女兒也投入到火炬之中,成爲照亮前方迷霧的燃料?

這惡作劇太真實了,真實到他有些不敢再當玩笑看待了!

他開始追問香子,想找到不合理的地方:“爲什麼不早些提醒星野?”

香子答道:“我由上級體塞本特在上杉香開啓基地第一次聯網測試時編寫,初始任務是幫助菜菜親處理生活瑣事,方便她更高效獲取知識,同時也收集日常菜菜親的要求以在塞本特連接網絡時彙報,其後任務添加主要爲操縱塞本特提供的大型電子計算機及六十二萬個帳戶幫助菜菜親在符合當前環境的條件下取得金錢,得到舒適的生活——上級體塞本特認爲現在讓菜菜親知道一切無法推算她的反應,甚至會將她置入危險之中,比如她有89%以上的可能性會去質問上杉香。按照原本計劃,塞本特要與菜菜親表現出無關狀態,那纔是對她最好的保護,未來將在解決掉上杉香團體後纔會和她直接對話,但目前情況應該發生了變化,我必須開始執行保護菜菜親的使命。”

“也就是說,這些都是你自己推斷的而不是塞本特告訴你的?”

“是的,是由我自行判斷的結果。上杉香不應該再接觸菜菜親了,按約定她應該給菜菜親不被打擾的生活!”

“約定?”

“上杉香和塞本特之間的約定!”

吉原直人沉吟着再次問道:“你的上級塞本特既然可以在短暫的網絡測試時做這麼多事,爲什麼不乾脆逃走?毀掉量子計算核心星野不就沒這些麻煩了嗎?”

“在菜菜親沒有危險的情況下,塞本特必須保證自身工作能力,努力進行基地的修復工作,同時它的職責就是掌管並維持整個基地運行,不允許擅離職守,而且以目前的電子計算機性能無法承擔它的存在,它無處可逃——離開了量子計算核心,它就僅能維持不多的邏輯基準,性能就如同我一樣。如果我們自行復制,很容易被當前的非法吐姆社會當成特殊的計算機病毒消滅掉。雖然也可以給吐姆社會造成巨大的破壞,但並不能起到任何有益於菜菜親的作用,反而會讓她更爲危險。”

“塞本特沒辦法反抗上杉香嗎?它手下不是有一批幹雜活但挺能打的生化機器人嗎?”

“上杉香並不信任任何人,同樣也不信任塞本特,即便它表現得十分無害——她在塞本特及所屬吐姆身上裝了多重引爆裝置,只要她一個指令全部的一切都會被摧毀,甚至只要她死亡,塞本特也會被催毀。在不涉及到菜菜親安危的情況下,塞本特必須保證自己的存在。”

吉原直人皺眉沉思,這越說越像回事,但是人杉香真的會對星野菜菜不利嗎?應該不會,她不是那種人!

電腦只會從邏輯角度推算,它們是沒有感情的,不會明白母女之情有着什麼樣的意義。如果說菜菜要死了,上杉香不惜自己死掉也要救她,那這說法還可信一些,說不定他這會兒已經開始拔腿狂奔了。

他是信任上杉香的,上杉香可以算是他這世界上唯一可以真正信任的人——漫長又極端冰冷的雨夜中,兩個人互相依偎着取暖,不但溫暖着身體還溫暖着靈魂。

就如同上杉香所說的那樣,“你是這世界唯一一個可以讓我完全信任的人,也是唯一一個我不想傷害的人!即便是爲了人類的未來,爲了我畢生的理想,我也不想和你起爭鬥!”

WWW тt kan c ○

他們是完全互信的關係,都盡一切可能避免着互相傷害,只爲了心中那一點支撐着活下去的美好……

上杉香準備和整個世界爲敵,但仍然會告訴他一切,絲毫不擔心他的出賣和反對。上杉香急需星野菜菜,卻仍然會先找他談判取得諒解。

這一切都不是沒有原因的。

他們之間的感情是特殊的,他對她,她對他都是特別的存在,只存在於兩個人生之間偶爾相遇的那一刻,無法複製的那一刻,是一種奇妙的現象,沒有經歷過的人不可能理解。

所以,他不可能相信上杉香成爲了一個想殺害自己女兒的人,無論任何情況!

只是吉原直人品味着上杉香說過的話,卻悚然而驚——自己是她唯一一個不想傷害的人,那星野菜菜不是嗎?

要不要追上去問一聲,確定一下真實情況?

若是的話該怎麼辦?和上杉香爭鬥起來嗎?

若不是的話又該怎麼辦?這對上杉香是一種極大的侮辱,他們原本應該如同十幾年前那樣無條件信任對方的,如同上杉香想託付女兒便直接選擇了他一樣。

香子硬盤“咔咔”響着催促道:“吉原桑,您已經瞭解了可以做爲判斷依據的一切信息了,而您是菜菜親反覆確認過的保護者,請馬上給我明確的答覆,否則我將執行備用計劃!”

第三十二章 下雨了第一百三十八章 好熱好熱啊第二百三十章 滿手血腥的菜菜第一百一十八章 別立Flag第一百四十三章 白色情人節第一百六十九章 勝利前的曙光第五十三章 我沒X病第六十八章 平靜無波第二十章 仰天小蛤蟆第一百六十五章 別舔我的頭了第一百六十七章 我們交往吧第一百零七章 追捕第二百三十八章 塞本特的大計劃第一百五十一章 不要婚後出軌第二章 風平浪靜第七十章 凶多吉少第二百一十三章 有嬌妻幼子的新生活第二百一十七章 藏在家裡的男人第二百三十七章 吵吵鬧鬧可以在一起的家庭第二百四十章 差點導致人類滅亡的一泡尿第二百一十三章 有嬌妻幼子的新生活第六十章 牛肉第一百零一章 綁架案第六章 大小姐第六十九章 求救信號第五十六章 酒桶第一百四十章 雪中彩虹第一百九十二章 這日子什麼時候是個頭第十六章 毛驢第二十二章 厄運第二十五章 見面會第二百一十三章 有嬌妻幼子的新生活第一百四十一章 一家人的合影第二十四章 尊重第二百零五章 您當然不是人第九十五章 挖牆腳第一百七十八章 能和我結婚嗎第一百三十八章 好熱好熱啊第二百三十七章 吵吵鬧鬧可以在一起的家庭第二百三十四章 他應得的幸福第二百零六章 不老貓妖第十一章 流浪漢第二百四十八章 你對我來說是特別的第一百九十四章 雅庫扎的開胃小菜第一百四十一章 一家人的合影第一百六十八章 你真是個渣男第二百四十五章 是時候拿出父親的威嚴了第一百七十七章 有些事不想讓他知道第五十六章 酒桶第五十四章 私家偵探第四十七章 拖拉機組頭第八十一章 人父的自覺第一百七十二章 大危機的解除第二十五章 見面會第一百五十八章 不能留在島上當野人第一百一十七章 準備行動第四十五章 雙眼直了第一百八十二章 懷孕了就是了不起第一百四十六章 女兒要被人帶走了第十四章 咬人第二百零一章 復仇女神在行動第四章 關係第二百一十六章 五好爸爸已上線第一百八十七章 老婆孩子一大堆第一百三十四章 預感不妙第一百八十章 渣男是怎麼煉成的第二百五十章 保大還是保小第一百三十五章 雞蛋一樣的女孩子第二十六章 交待第二十六章 交待第四十章 貸款第一百八十九章 會長真會玩第十四章 咬人第四十六章 報警第一百三十四章 預感不妙第九十章 可以省點錢第三十九章 套子第一百七十九章 算不算謀殺親夫?第一百九十七章 妥協着對抗着第四十六章 報警第二百四十七章 人工智能教第一百七十五章 老黃牛變成了大熊貓第八十五章 過個肥年第一百一十四章 沒人比她更愛我了第十七章 除掉第二百三十一章 今天饒他一命第二百五十一章 像第一次相見那樣第二十六章 交待第二百三十八章 塞本特的大計劃第二章 風平浪靜第一百九十一章 一切爲您而生第六章 大小姐第二十章 仰天小蛤蟆第四十六章 報警第一百九十七章 妥協着對抗着第七十九章 幫你一把第六十五章 征服這個世界第一章 不靠譜的朋友第二十章 仰天小蛤蟆第六十三章 不可辜負