身爲偌大一個NEP的管理員,投入資源,研究極端危險的“創造性思維繫統”,或者說,就是很多科學家耿耿於懷的“強AI”,動機,似乎不言自明,不問可知。
但一開始規劃這項目時,面對在座的專家,方然卻未遭遇到預想中的強大阻力。
一些研究者說的,相當直白:
“阿達民先生,我認爲,您應當有一些這方面的認知:
人類的大腦活動,極端複雜,究其原因,硬體基礎在這裡佔有很大一部分權重,正因你、我與所有人的意識,運行在一臺結構空前精密、速度卻並不快的‘模擬式生化計算機’上,才賦予了我們獨特的自我意識、創造思維等能力。
而現如今的計算機系統,不用講,您肯定知道這一切都建立在‘數字式電子計算機’的基礎上。
計算機與人腦,架構與細節方面,差異太大,相互模擬的難度高。”
總之,在場專家的說法,大致如此,還有一些研究者提出大膽的假設,只有將“量子計算”作爲“創造性思維繫統”的先行領域,並取得突破,纔有可能研發出足以與人相抗衡、甚至更具優勢的“強AI”。
站在總結過去的立場上,這一判斷,並不是沒道理,方然卻有些難以苟同。
他當時就問,有誰規定,人類迄今爲止運用的觀察、分析與提煉手段,就是宇宙中認識客觀規律的唯一形式;
所得的結論,也一定如金科玉律般,必然永遠、絕對正確。
諸位,請務必要明白,本研究課題的最終目標,並不是用現有的計算機系統去模擬一個人類大腦的思維過程,由於兩者間的巨大差異,這種嘗試,幾乎必定會失敗,我本人對這一模擬過程也缺乏興趣,至少現在是這樣。
本課題的最終目標,是實現一種‘有限度的科學研究能力’:
能否做到如人類一樣探尋未知,至於是否以人的思維模式去思考,結論是否能夠被人所理解,這些都不重要,重要的是這系統,能夠在智力領域取代一些人,完成一些以往只有人才能完成的任務。”
不知在場的諸位,能否聽明白,方然要表達的意思其實很簡單。
客觀規律,隱藏在一切事物背後的真理,與人類掌握的科學技術,究竟是什麼樣的關係,兩者是否能劃等號,這是任何邁入科學殿堂的人都會被問到的一個問題。
答案,則確鑿無疑的斷言:
人類對客觀規律的認識,必然有主觀成分,絕對客觀、真實的科學技術法則與定義,根本就都是不存在的。
站在人的立場上,自古至今,一代代研究者的薪盡火傳,讓今天的人得以掌握一大批客觀規律與衍生事實,但,在計算機的眼裡,倘若計算機也有自主意識,又會如何看待這一切,會不會發展出有別於人類科學體系的新成果呢。
這裡的“新成果”,並非一下子顛覆全人類掌握的科技體系,而是站在計算機的立場上,生髮出自己的理解。
進而,甚至也有可能更進一步,建立起新的科技體系。
在陳述這種可能性時,對計算機、AI的所謂“自我意識”,方然並未絲毫涉及,他認爲這一點也不重要。
什麼是“自我意識”,計算機,什麼時候需要仰賴人來評頭論足一番,用碳基生物的“自我意識”之概念去判斷基礎大相徑庭的另一種存在,而不顧其本質能力究竟如何,這種做法,簡直就是一種傲慢。
人類的判斷,加諸於計算機系統之上,至多也只是在一些很簡單的場合,才比較有把握。
譬如“加法器”,功能單一的整合電路,不論設計者如何堆砌零件,把運行其上的代碼優化到什麼樣的程度,都無法作爲“自我意識”的證據,這是很顯然的。
然而一旦系統規模超限,突破某臨界值,站在人類立場去判斷AI是否有自我意識,就是完全的不可能。
和在場專家們不同,沒有一直糾結在“自我意識”上,方然更在意的是風險。
無須調研,他也能確切的知道,“創造性思維繫統”的價值,在於搶佔科技研發的制高點,其帶來的風險,則是“覺醒”的計算機系統,一定會反噬其創造者,因此而始終沒下定決心去做這件事。
現在,藉由斯蒂芬*霍肯的話,意識到局面險惡,他纔開始很認真的思考這一問題。
管理員的想法,大抵如此,在座的專家們則各有算盤。
如萊斯利*蘭伯特這樣的研究者,爲什麼牴觸這研究,道理,是不言自明的,任何一位參與研究的科學家都明白,搞這種系統,就是在自己給自己挖坑。
這種劃時代的東西,失敗,還則罷了,倘若真的成功,一旦系統具備“創造性研究”的綜合能力,包括自己在內的所有研究者,遲早都會被不知疲倦、永遠忠誠的研發機器人所替代,最終仍難免一死。
身爲管理員,方然着眼於文明的整體,身爲研究者,卻只顧關注自己的命運:
科學家們是怎麼想的,並不清楚,自己暫且先這樣認爲。
“阿達民先生,恕我直言,我一直極不贊成‘創造性思維繫統’的研究。
計算機,AI,這些事物發展到今天,在很多領域已經遠遠勝過了人,這固然是事實,但,又有什麼理論能保證,計算機與AI能夠在一切領域勝過人?
即便着眼未來,這句話有一天會成爲現實,到那時,人類的地位、處境又會怎樣,身爲人類中的一員,先生,即便您的地位、處境與我們這些人,也和外面定居點裡的一大羣民衆不同,面對吉凶未卜的‘那種系統’,結局恐怕也會是一樣的。
這種巨大的風險,您,真的從未考慮過,說真的這讓我有一點難以置信。”
“讓我想想,您,還有專家組的成員們,是不是覺得,這種研究就是人類在自掘墳墓?
還是說,您只是在擔心,有朝一日被‘系統’取代呢。”
方然的語氣,夾雜着某種挪揄,他認爲這就是萊斯利*蘭伯特的動機。