洪小文：AI並不可怕 做壞事那得怪設計他的人

本站科技訊8月28日，由中國中文信息學會和中國計算機學會聯合主辦的首屆語言與智能技術高峰論壇（Language & Intelligence Summit）在北京召開，主題爲“語言與智能的未來”。

清華大學計算機系教授、中國科學院院士張鈸，中國科學院院士、計算機軟件專家懷進鵬，微軟亞太研發集團主席、微軟亞洲研究院院長洪小文，香港科技大學教授、美國人工智能協會（AAAI）Fellow楊強，美國卡耐基梅隆大學邢波，百度副總裁王海峰，科大訊飛輪值總裁胡鬱等人工智能領域專家及學者到場參會並發表主題報告。

會上，洪小文表示，今天的AI很大程度，基本上的雲能力等於數據，今天大家看到的數據都需要大數據。所以它們的交集，雖然可能不是百分之百，但也有98%以上。

談到目前進行的人與機器對戰，洪小文表示：如果要比賽，那麼一定是算法和計算的比賽。如果人要比計算不要和計算機比，計算機是我們造來幫助我們做計算，我們是把算法放進去讓計算機去算，今天所有都是這樣的做法，所以計算機真的是一個最好的左腦。

同時，針對人工智能對人類有無危害時，洪小文稱，AI很可怕，但經過他的報告，其實AI沒有那麼可怕，計算機就是最好的左腦，很能計算，他的算法全部來自於人，所以最好和最壞的事都是來自於人，要怪設計他的人，而不是怪機器。還有人談機器人六大定律等等，就像法律一樣，法律是要規避人的，人可以做大炮、做飛機、做汽車，大家覺得飛機是好東西，但是恐怖分子用飛機去殺人。你最後怪的是飛機嗎？不能說飛機違法，違法的是人，最重要的是限制人。

以下爲洪小文全部演講內容：

洪小文：尊敬的李老師、各位領導、各位嘉賓大家好，今天很榮幸參加盛會，和大家談一談AI的時代、人工智能的時代。剛纔高老師、懷老師都講了今天AI是無所不在的，今天在座的大家都是媒體，媒體每天幾乎都有AI的文章，就是一般的媒體。而且今天做AI的人有點像明星，大家追捧，因爲AI代表着未來，所以AI is everywhere。一方面AI非常火，有的人可能過火，但AI真的很火，所以我想用短短30-40分鐘的時間跟大家分享一下，AI未來在工業界和學術界繼續往下走到底會是怎麼樣的情形。

首先跟大家回顧一下AI的應用，跟中文信息學會最有關的就是語言跟語音，人類社會用語言和語音做很多的溝通交流和思考，這裡不僅是大家所想的自然語言處理，語音，實際上網絡社區本身就是一個語言問題。大家可以看到今天很多做微軟包括搜索的公司在AI領域都是領軍人物，你打幾個字就可以找到很多東西，這本身就是很智能的東西，在座做中文信息處理的就不用我說了，做自動翻譯，在很多公司都提供免費的越來越強大的翻譯系統。

人工智能助手，這也是今天兵家必爭之地，在全球上美國有所爲的小娜，其他公司有谷歌、亞馬遜等等，中國有很多公司，百度，BAT等等類似的產品。同時還有真正助手幫助你完成O2O，整個服務，像美國的Magic（音）、中國的來也。還有Chatbot，微軟叫小冰，今天已經到了第四代，很多人都關注。社交網絡的Chatbot很有趣，從AI一開始，大家知道圖雲測試，事實上圍繞的就是這種ChatBot。圖形測試其實上是一個蠻弱的測試，事實上只要你能夠讓三分之一的用戶，分不清機器還是人就通過了。

我們以小冰爲例，我們有一個衡量的標準，我們做小冰和一般的人工智能助手是不一樣的，智能助手你不希望它太羅嗦，講一句話、兩句話就應該完成工作了，不應該再來煩你。但是Chatbot所衡量的標準是不是繼續再跟他聊下去，我們做了“一問一答”算是一個來回。兩年前小冰推出的時候是5個來回，到今天多多20個以上，我們在日本推出的“瑞娜”達到18。人們知道這是一個聊天機器人，但是願意花20個來回跟他聊，在非常大的程度上已經通過了測試，如果聊的內容沒有意義，你是不願意跟他繼續聊下去的。

除了剛纔講的語言語義以外，圍繞所謂認知Cognition Services，就是AI所有的技術包裝成API，因爲微軟是一個平臺公司，讓任何一個公司可以來簡單的寫人工智能的，包括了語言、語音、視覺、廁所，大家都可以上我們的API，非常清楚的網頁，很容易就可以寫程序。舉個例子，比如How  old.net，到了今天很多人還不知道這是微軟所推出的，事實上在一年半推出的一個東西，馬上造成了轟動。

我們推出這個的時候，有點無心插柳柳成蔭，我們推出這的時候其實是在推出Cognition Services，用這個來展示多麼簡單就可以寫人工智能的應用。How  old.net裡面的代碼不到八行就可以寫出來，因爲這個Code是Cognition Services的API，陸續我們還推出了新的Cognition Services不斷的更新，產生一些新的功能，最近加的Video的功能，也是一個新API，是Aptionbot.ai，也可以上傳任何照片，可以用自然語言來描述裡面有什麼，你們都可以試。

剛纔懷老師提到的進展，微軟很有幸有參與了，去年年底最新一屆的比賽，得到第一名，而且首度超過人，人在上面做兩千的大概會犯5%的錯誤，我們這個系統不但是深入學習，而且是更深度的，能夠做到3.5的水平。有了這個技術，我們不僅可以做照片，同時也可以做視頻，比如像Video Capitioning我們還沒有開出，我們很快就可以推出，你可以上傳一個視頻，可以用自然語言來描述這個視頻做的是什麼，當然難度比圖片高很多。

剩下的時間想跟大家探討，到底AI往前走，今天有這麼多的報道，到底需要注意些什麼？接下來研究的方向，像剛纔李老師、高老師提出的很多，我完全同意高老師所說的，就拿自然語言處理，遠遠要比所謂的下圍棋難的多，所以AI往前走會是什麼樣的？

大家也聽過AI有冬天，我從80年代學AI，也經過了冬天，到今天爆紅。今天的AI很大程度，基本上的雲能力等於數據，今天大家看到的數據都需要大數據。所以這三個東西的交集，雖然可能不是百分之百，但也有98%以上，在語音界常用的一句的話就是There is no data like more data，深度學習也好，你給他很多的數據，只要他的模型足夠正確，你就可以做出很多東西。肯定有類似的處理數據的能力，我們很快的能夠上傳到語法、語義，你還可以跟大數據來做交互，現在雖然也可以用DNA做一些本地的分析。

但是，今天有了數據之後，所有很多智能的東西都可以做，所以現在有一個新的職位叫Data Scientists/Analysts，像微軟這樣的公司，業界類似的不管是FaceBook、谷歌、百度僱的60%的人都是做這個，懷老師講的洞察，你要懂一些編程，從數據裡看出一些Insight，從控制學的角度甚至於人類整個的文明史都是一個Closing The Feedbock Loop。今天你有一個假設，你有一個實驗，你有一個想法，你把它放出去，石器時代磨一把刀來切肉，用手去撕肉不夠好，有一個想法把它造出來，造出來去搜集這個數據，拿它切肉看看，看哪個工整，哪裡不公證。瞭解出Insight以後，想辦法可以下一把刀或者加一個勾之類的，這就是你下一個Hypothesis、下一個Idea，把它放起來。人類的文明史都是這樣的，不管是有型還是無型的。今天不一樣的地方是計算機將來的物聯網，也就是現在的物聯網或者互聯網，能夠更快的時間把數據蒐集起來所謂的互聯網思維也就是這個Closing The Feedbock Loop不一樣的地方是，我們以前要花百年甚至一千年纔可以去Close一個Loop，今年可以很快的，每一次Close  loop，你就加入一些，後來精益求精，東西就優化了。所謂的DNN，AI也是這樣，蒐集數據，把系統做出來之後再蒐集新的數據，再做一個新的模型，最後把它發佈出去。

大家很擔心，今天很多文章說將來及其要超越人的智力，機器會毀滅人類，大家都看科幻電影。今天我想跟大家說的是1950年的時代雜誌封面就是這個，當年AI名字還沒有出來，是1956年纔有AI這個字眼，但是1950年主流媒體就開始擔心了。他說我們人很奇怪，可以造很多機器，火車、飛機、大炮，造很多大的機器的人，我們都不怕，事實上我個人很害怕，人通常不再害怕造大機器，但是很多造一個東西，比如計算機計算比我們快，哪一天計算機造的比我們聰明很害怕。人很奇怪，大家都在探討到底人工可不可以建設成一個的超人。

什麼叫做智能？我認爲至少有四個定義，一是功能，這個完全沒有爭議，今天買一個機器，有多少內存，可以算的多快，今天你買一個相機有多少像素，都沒有爭議。下一步就開始有爭議了，什麼叫智能，我一開始用智能電視機的時候，當時有一個珍妮斯（音）的電視，是第一次有搖控器的時候，把它叫智能TV。以前要轉檯都是要走到電視機前面轉回來看一看，不行再轉，有了搖控器就在手在坐着就可以。當年的智能TV是這樣定義的，今天智能電視的定義完全不一樣了。如果你再仔細想，算術，小時候我心裡受到很大的挫折，小一的時候沒有被選成去參加珠算隊，大家今天很少人看到過算盤，當時我覺得非常羨慕，不只是一個算盤，當時的小朋友能夠做到那種訓練，一兩年以後可以到幾段，跟圍棋一樣，可以完全不要一個算盤，在心裡算，非常大的數字，甚至於開根號都可以算，我羨慕的不得了，當時沒有被選成珠算隊。

今天沒有人認爲算術是一個智能，今天有沒有人要跟計算機比計算？比一個多位的加減乘除？沒有人認爲那是很智能的東西，甚至於下棋何嘗不是這樣？下象棋，當時機深藍敗人的時候，我對徐紅久（音）博士說，你對人的貢獻一方面打敗了世界冠軍，你也證明了下棋其實沒有那麼有智能，下棋就是比誰下的深，其實今天的AlphaGo也是這樣，基本上也是一種記憶的模式，我會深度的跟大家聊。下棋也不是很深度智能的東西，顯然智能程度沒有那麼高。

到了智力層面，就更模糊了，在座很多人都有小朋友，我們常常講中國的教育，講創造力，今天在中國說領導，領導要做很的事情，在數據不足的時候做出一個方案，這個方案本身不是很智慧，假如你有大量的數據，事實上方案也容易了，其實人的智慧最了不起的小數據，當你有大數據的時候一切都很清楚，最難的是在數據不足的情況下必須要有一個決定。

再舉一個，引力波，今年是一個很大的消息，人第一次便勉勉強強測到引力波，一百年前愛因斯坦提出引力波的時候哪有數據呢？別說小數據了，一點數據都沒有。人在沒有數據的情況下還可以做到這個程度，從石頭裡蹦出一個idea，這就是人的厲害之處。這個東西大家可以同意，今天計算機聯盟都沒有，可能哪一天會有。今天顯然還沒有。當然如果上升到智慧，那就更不用了。常常有一些長者給你點化幾句，哲學的思維，這種東西我更不瞭解，更不要說計算的東西。這種智慧是給你講一些虛虛遊遊的東西，讓你覺得受到很大的啓發，這種東西是什麼。

回過頭來講計算機，算法是人想出來的，並沒有說這個機器有算法，算法來自於人，加入有這個東西全世界所有問題都可以被解，都很有可能被解出來，這種東西顯然是一個更大的問題。

說到這裡講一下數據，到底數據、資訊本身是不是一個Intelligent，是也不是，爲什麼？首先我們說一個人，博學多文，很多資料，很多數據，這個人知道很多事情，這個人博學多聞，顯然是一個很聰明的人，我們剛纔講大數據裡最重要的是數據。舉個例子，炒股票，假如你有一些別人沒有的信息，比任何的東西都有用，但是內線交易不但違法而且要抓去關起來，所以今天有一個人有內線的數據，炒股炒得比你行，你會覺得這個人比你聰明嗎？所以數據很重要，在這裡我要講的是AI如果是以大數據爲主的，將來各行各業一定會走這條路，但是這跟人的智慧還是有點不一樣的，從學術上和工業上來看。

再分析一下人的腦，這個時代我是從心理學家、腦科學家學習過來的。兩邊相比，有左腦右腦，左腦負責邏輯，右腦負責直覺；左腦Sequential的，因爲邏輯是一步一步按部就班，右腦比較Random；左邊有分析能力的，右腦是合成能力的；左腦比較Objective，右腦比較Subjective；左腦是Detailen（parts），右腦是Big  picture（Holistic）；左腦是Digital，右腦是Analog；左腦是Directional，右腦是Creative；左腦是Rational，右腦是Emotinol；左腦是Factual和Reality，右腦常常在做白日夢，Imaginary、Fantasy（Dream）；左腦做PatternPerception，右腦做Sturtural  Perception；左腦是Math  Science，右腦是Art、Poetry；左腦是Verbal，laguage，右腦是Music、Image；左腦是FormStrategy，右腦是Present  possibilities；左腦是Control，左腦是Freedom；左腦是Practical，右腦Impetuous；左腦Coll、Routien，右腦是Fun、Vivid；左腦是Past、prensent，過去和現在，右腦是Present、Future，左腦是我知道，右腦是我相信；左腦是Acknowledge，右腦是Appreciate。

其實計算機是最好的左腦，比左腦還好，沒有人跟計算機比計算能力及這裡要計算的是什麼叫算法，我的定義是Step-by-step set of operaions to solve  problem，根據這個定義什麼是創造力？我的定義也很簡單，未解決的問題解了，比如費馬猜想，十幾年前終於被解了，現在是費馬大定理，你還沒有解以前就解了，這了不起，是很大的創造力。或者你解一個已經解的問題，你解的比他更好，本來舊的問題是NQ。

在座每個人如果有小孩兒或者是親戚的小孩兒，你教他數學，教各個東西的時候就會發現，很多時候一個東西一直教，這個學生就是不懂，突然你瞭解這個學生，換一種方法教他就懂了，你就有New argry，因爲你改變了這個事情，你一直教那個小孩就不懂，換一個教法那個小孩就懂，這就是New  argry，這就是人的創造力。

再要提，今天計算機有的是有計算，它的算法都來自於人，AlphaGo的算法來自於誰？今天講DNN這些算法都來自於我們，所以任何時候都是左腦加右腦，是算法加計算。現在仔細來看AlphaGo，每一次我的看法和其他人不太一樣，每次當機器打敗人的時候，我讚歎的並不是機器人厲害，我讚歎的是人怎麼這麼強。

舉一個簡單的例子，把1加到N，小高斯（音），小時候因爲太聰明瞭，每次問老師老師都很煩他。有一次出了1+1000，他以爲他要算30分鐘，沒有想到他用了1分鐘就回來告訴他答案。今天在座每個人都n/2×n+1，爲什麼用這個例子來比喻，假如今天把N用一個很大的數字，而且這個數字不是整數，是很奇怪的數字。你用高斯的算法，計算機有最笨的算法，誰算的快？計算機快。你會覺得計算機比你聰明，不會，因爲你的算法比較好，但是人要有一個算法，要有一個左腦去計算，所以任何東西都是算法和計算。拿AlphaGo來講，雖然李世石輸了4場，但是李世石必須自己要有一個算法，而且左腦愛計算，下圍要看時間，而且人會累，會算錯，但是AlphaGo用人的算法，用幾萬臺機器算，最後都是AlphaGo用計算機，如果用一樣的話，人和機器的比賽是以卵擊石，今天李世石可以贏一場，代表他的算法比AlphaGo的計算好，李世石的計算比我們強很多，但是比計算機的計算還是以卵擊石。任何時候一個機器達成一個高度的時候，我讚歎的並不是機器很強，是人真強，還能夠和計算機有一拼。

很多人說自動車很聰明，我說這完全是勝之不武，人開車只有兩個眼睛往前看，今天所有做自動汽車的人，前面至少放兩個計算機，後面放兩個計算機，同時還放聲納，一大堆東西，事實上無人汽車任何時候都知道跟前後左右各個物體之間的距離，毫米的精度都有，人哪有這樣的精度，隨便看一下就往前看，所以人所有的數據要比機器所有的數據小的多，人還可以開的這麼好，當有無人車的時候，無人車現在還比人開的這麼差，代表人的算法感知能力太強。

剛纔提到愛因斯坦的相對論、引力波。我們永遠要記得兩個比賽一定是算法和計算。如果人要比計算不要和計算機比，計算機是我們造來幫助我們做計算，我們是把算法放進去讓計算機去算，今天所有都是這樣的做法，所以計算機真的是一個最好的左腦，所以尤其在座每一個人，我們都會編程，我們都會做計算機，事實上每天做的東西都是左腦加右腦，我們的算法讓計算機去算，從裡面得到結果以後，要想下一個程序怎麼編，何嘗不是右腦的假設讓左腦去小心求證呢？

1980年在座的很多人還沒有出生，跟今天討論的話題自然語言有非常大的關係，就是中文房間，提出這個人的不是中國人，是美國人，1980年提出的。他爲什麼提中文？因爲當時在美國懂中文的人非常少，他就做了一個項目，今天有一個房間，關起來，每一次你有一個問題，用中文問，用一個字條遞進去，房間裡面有一個人，當時還沒有計算機。給他一個百科全書，相當於你把所有的Q&A提出來，他也不懂中文，完全不懂中文，完全看你中文的點，你問這個我就答這個，當你看到是這樣子的組合，就把下面的答案遞出去。外面人都覺得房間這個人懂中文，所以他叫中文房間。

我這樣講話大家就很清楚，今天的主流AI。比如說自動翻譯，就是相當於計算機裡面有一個人根本不懂這個語言，基本上就是中文房間。當你有很多數據的時候，可以用這個東西，包括今天的語言語義都是這樣做的。爲什麼John Seale會提出這個觀點？他說這種AI不是現在真正的AI。我們經常說什麼超過人，包括翻譯、語音識別，語音識別機器早早超越過人了，但也是勝之不武，我今天演講的內容，如果有一個機器或者讓你們講出來我今天講了哪些話，百分之百機器一定贏過你們。但是人不是這樣，我問你語義，你有沒有了解我今天的內容，你今天的理解肯定是百分之百，但是機器顯然不懂語義。跟翻譯一樣，講到翻譯我常常會舉一個例子，人做翻譯的時候，我們是聽完一段，用自己的話講出來，所以常常一段話只翻譯成一句，有時候一句話翻譯成一段話，我的老闆是美國人，每次來中國我就做翻譯，有好幾次我被他抓到，他有幾次跟我說，我到底講的那個你怎麼已經先翻了，原因很簡單，我知道會談什麼內容，實際上不用老闆在那裡我自己都可以講，這就是人的智力，但是計算機不可能做這樣的事情，而且計算機逐句翻的結果常常詞不達意。雖然中文房間是Weak AI，但很有用，因爲給他數據，今年想看一個法文的網頁，大家都看不懂，但是今天有這個自動系統，一翻譯就可以瞭解80%，也足夠了。

到底“Understandnig”，對於未來的AI瞭解的多讀讀這方面腦神經科學家和所謂的心理學家。講到心理和自覺，事實上今天對於這些的瞭解都還不夠，很多生物學家，腦神經學家也做了實驗，今天你看一個鏡子，人在鏡子裡邊知道那個人是你，事實上很多動物，大部分動物是不能夠通過這個瞭解的，包括我們最喜歡的狗、貓，你給他一面鏡子，當然這個有爭議，因爲你也不是狗，你怎麼知道它不知道那是自己，但他在你的額頭上貼一個便利貼，人一看到是自己，就知道是你的一部分，就會拿走，他們做了一個實驗，讓狗貼了以後幾小時也不會拿走，只有一些動物，某一些猩猩可以。還有海豚，能夠突破的不多。

今天非哺乳類和哺乳類，很多動作都是沒有自知之明，沒有自覺的，人是有的。笛卡爾說過我思故我在，這裡面有兩派的學者，到今天爲止，比較一派的學者是整體論，有一派學者認爲人是心和腦可以分開，人有一個腦，腦裡面有我們的心靈，當你的腦沒有之後，就沒有心靈了。實際上今天的主流派認爲這更多的是一個整體的概念，就是我們人不僅有腦，還有脊椎和神經的感知，今天我打你一下，你的痛和感覺是會影響你的思維的，所以這是更大一部分人認爲不可分的，把人分解之後事實上就等於沒了。當然我們今天還在研究人死之後到底有沒有靈魂。

最近耶魯大學有一本書出了大概四五個月，裡面他提出了一些概念非常有趣，人清醒的時候他叫做High strong（音），睡覺之前是low strong（音），他發現一些很好玩的實驗，發現我們非常有知覺的時候，這些時候需要做一些計算、需要做邏輯思考的時候會做的特別敏捷，但是low strong的時候，發現那個時候的創造力或許會更強。他提出一些例子，比如說貝多芬在做九號交響樂的時候完全聾了，也完全看不到，這時候他的S…肯定是low的，不能說他精力很集中。梵谷…把自己的耳朵切了之後，最後那一段時間他自己畫出來的畫被認爲是他作品裡很了不起的一部分。人在這麼痛楚的時候，在Low Strong的時候，能夠產生很大的創造力，還有裡很好的例子是化學家科庫樂（音），這是他自己親自講的，他就是在做夢的時候夢見一個六角形，他就是在做夢的時候夢到一隻蛇，咬住了自己的尾巴，讓他得出靈感，得出了一個六方的結構，他之後還花了很多實驗去證明。在這裡跟各位同學講，需要創造力是不是都要去睡覺，都要做夢。睡覺是重要的，但是小心求證也非常重要，大膽假設，要假設，還要求證，不能只假設一堆東西。什麼是創造力？好像可以從一個東西轉化到另外一個東西，很多人說最了不起的創造力都是在半夢半醒的時候，一些看起來不是完全相似的東西看到了相似點。

另外一個畫家也說，他爲什麼會去畫天空，像鳥等等，他覺得雲的形狀像鳥的時候就畫出來。我們意識清醒的時候經常覺得兩者沒有關係的時候，恰恰是在半夢半醒的時候覺得他們之間會有關係，這是人最了不起的東西，這個道理是什麼？我們也不瞭解，但這是人很重要的一個特質。

回到AI，講到WeakAI和StrongAI，有兩鍾定義，第一種是我剛纔講的，當你做AI達到人的能力的時候不需要了解就可以做，這叫WeakAI；另外一種是今天做的AI，比如做一個語音識別，就只能語音識別，做一個能辨認鳥的，就只能辨認鳥酸今天做一個機器人，在工廠裡可以做重複的智能工作，這叫Weak AI，StrongAI是像人一樣，能看、能讀、能思考，是全能型的，這是StrongAI，但是這不代表有一個功能可以超過WeakAI，WeakAI是專業性的，雖然沒有全能的能力，但是對專業的門類實際上比人還強，這就是這兩者的定義。

有些人認爲人如果沒有心靈，沒有自覺的話是不太可能產生StrongAI的，因爲你沒有了解，人的瞭解事實上和人類的腦、脊椎各個方面都有很大的關係，就像我講的你可能有一個想法想不出來，某一天你受傷了，某一個痛能夠激勵你，你就想出來了。所以爲什麼提出這個StrongAI的這個人，覺得這和心靈有很大的關係。

有很多問題，舉例人從哪裡來？地球的大爆炸，這些就是東西是不可以解釋的，張一唐（音）所解的東西，當年10多個問題，20多個問題，還有愛因斯坦所謂引力波這樣東西，沒有解決方案怎麼可以？根本不知道怎麼去找答案。

這就提到你要不要足夠的瞭解人，早期的AI是從瞭解人來做的，的確今天大數據的AI不見得完全是人解決問題，我們可以做很多事情，當然有不同的爭議，但如果問我個人的話，我越來越相信，假如你要做一個東西，要逼近人的智慧，逼近人的創造力，超越人的創造力的話，我覺得首先要了解人。

很多人在警告AI很可怕，經過我的報告，其實AI沒有那麼可怕，計算機就是最好的左腦，很能計算，他的算法全部來自於人，所以最好和最壞的事都是來自於人，你要怪設計他的人，而不是怪機器。還有人談機器人六大定律等等，我也覺得挺奇怪的，就像法律一樣，法律是要規避人的，人可以做大炮、做飛機、做汽車，大家覺得飛機是好東西，但是恐怖分子用飛機去殺人。你最後怪的是飛機嗎？不能說飛機違法，違法的是人，最重要的是限制人，機器何嘗不是這樣？當然有人說，“Singularity”有兩個意見，一種是我腦可以上傳就永生了，有一部電影是這樣的。我個人非常存疑，還有人說二三十年可以達到這一點。人是不可分的，而且只有腦，什麼是腦？今天一個新愛的人，你跟他失散了30年，最後他回來是一個機器人的模式，你覺得他還是同一個人嗎？更何況你跟他沒有過去這20年、30年共同的經驗以後，你還會覺得他是同一個人嗎？我比較相信人是一個全體論，所以當你的肢體改變了，兩個人的走過的經驗也改變以後，就算它有你腦裡的很多部分，也不是同一個人，這個有點太形而上學。

另外還有一個說法，當你達到一個臨界點，所有未解問題都解了，而且能夠迅速往前進。我也存疑，大家如果從算法的角度來看，當你今天解了一個問題，下一個問題事實上更難，就講NP是不是等於P？大部分人都覺得不太可能等於，但是能解嗎？有辦法證明嗎？不要說今天證明，在過去提出這個東西開始也沒有看到一個人可以去解決，當你解決了這個一個問題，下一個問題更難。

今年是AI的60年，Matrix是我的師祖，大家稱他爲AI之父，當時他就很有智慧的說，別人問他造一個機器達到人的智慧要多久？他給了一個答案，5-500年，當然今天已經超過5年了，我認爲還要500年，甚至還要更多，因爲要像人從哪裡來，爲什麼人有這個智慧，這些問題更復雜。

最後要提出來，我們去造一個機器，像我們，跟我們一個聰明，而且還有自覺，一個有自覺的人你沒有辦法控制他。我常常舉一個例子，他必須要十次給我咖啡，如果我叫我太太弄十次咖啡，十次有五次他跟我說你自己有手有腳，爲什麼自己去？我說是是是，我的意思是說造機器人，有自覺嗎？大可不必，我不想說弄一個機器人十次有五次說你自己不會去啊？所以我們造一個機器人是希望他可控，可控的意思是他沒有自覺，不可能一個自覺的人還可以可控。然後我們要講一下，就算你要造一個東西，跟我們一樣聰明，又不可控，也可以說我們有幾千人的經驗，那個叫我們下一代，我們的小孩，我們希望他比我們聰明，他可以控嗎？根本不可以控，造這樣的東西多生一些小孩兒就夠了，所以做這些東西的目的在學術上很有意義，像克隆動物，造一個有意思的機器人有法國意義，我個人覺得我是非常存疑的，從實用的角度來看，從學術的角度當然也有很大的意義。

最後我要講的是AI這個是我的師祖提出來的，今天WeakAI，這種大數據AI，雖然是WeakAI但是非常有用，是爲人類造福的，這個東西在未來跟大數據，人不可以看所有的新聞，但是可以讓他去讀所有的新聞，去找到他insight幫我做事情，都可以幫我洞察裡面的先機，這樣的東西是可以做的，人永遠是人+機器，Augment加計算，就是一個智能，所以人加機器就是超人，就是最好的組合。這是我們AI向前走的另一個意義。