朱旭峰：人工智能時代來了！
2023年4月8日
朱旭峰，全球化智庫（CCG）特邀高級研究員，清華大學公共管理學院院長。
【論道專訪】
科技創(chuàng)新：改變世界的力量
《論道》：朱院長，歡迎您。我們今天的主題是科技的力量。您這次來到博鰲亞洲論壇有沒有什么新的感受？有哪些關心的議題跟我們分享一下？
朱旭峰：今年是疫情放開以后，第一次在線下召開博鰲亞洲論壇，可以深刻地感受到全世界的各國政要、企業(yè)家、專家學者，都非常積極地來參加我們的博鰲亞洲論壇。可以看出我們中國非常需要世界，世界也非常需要中國，我們終于可以重新連接。我們這個世界是全球化的世界，多邊主義的世界，這個歷史潮流是不能阻擋的。
《論道》：說到科技賦能新的力量，當下最熱的詞可能就是人工智能了。您是怎么看待人工智能的新趨勢的發(fā)展，它給我們催生出哪些新場景、新模式、新的發(fā)展機遇？
朱旭峰：當時在準備博鰲論壇的時候，正好這個時候OpenAI發(fā)布了ChatGPT、GPT-4出世，使得我們全社會都非常關注人工智能以及人工智能它可能造成的方方面面的影響，包括對產業(yè)、對社會以及對人類未來的影響。
我的觀點是這樣的，如果我們把視野拉到全人類的幾個世紀的發(fā)展的脈絡上面去看，每100年、每50年人類都會有比較大的顛覆性的技術創(chuàng)新。當年沒有印刷術的時候，歐洲的《圣經》完全是由牧師來解讀，所以它可以控制整個這一個地區(qū)。但是當印刷術的出現(xiàn)使得家家戶戶都有一本《圣經》，他們都可以自己閱讀、自己理解圣經，所以最后使得歐洲的宗教體系瓦解，出現(xiàn)了新的宗教。印刷術的產生使得信息開放，知識的不對稱性得到了瓦解以后，整個社會發(fā)生了巨大的變化。
我們再說工業(yè)革命，瓦特發(fā)明了蒸汽機，蒸汽機的發(fā)明對世界產生了多大的影響？從英國的國內來看，農民失地成為了產業(yè)工人，英國的資產階級崛起成為了統(tǒng)治階級。對國外來說，由于蒸汽機的發(fā)明，蒸汽輪船的發(fā)明，使得英國能夠在全世界占領了很多殖民地，甚至于包括對中國的影響，鴉片戰(zhàn)爭的船堅炮利打開了中國的大門，最后大清王朝的解體。所以可以這么說，蒸汽機的發(fā)明對整個世界格局、社會政治結構等方方面面都產生了重大的影響。
如果從這個比較上面來看，我們現(xiàn)在人工智能的推進、人工智能的發(fā)展，似乎也沒有達到蒸汽機的發(fā)明對人類社會造成很大的影響。我們可以說人工智能的出現(xiàn)，包括現(xiàn)在這種語言的ChatGPT、GPT-4的出現(xiàn)，會對我們人類的很多職業(yè)，很多社會生活產生影響。但是我們如果把整個人類歷史的科技的發(fā)展和人類的進步來看，其實它的影響也就是一段時期內會產生一定的影響。
如果我們再說其他的例子，比如說電的發(fā)明，包括電信、電報、電話的發(fā)明，各種各樣的發(fā)明都是顛覆性的，都對人類社會產生了非常大的影響，包括現(xiàn)在的互聯(lián)網以及Iphone手機其實都一樣，所以我們要比較平和地去看待人類發(fā)展過程中有一個重要的技術進步，對人類社會造成的影響。
《論道》：電的發(fā)明、手機的發(fā)明、互聯(lián)網的發(fā)明都重塑了世界結構，那個時候人們是歡欣鼓舞的，覺得有新的工具，但人工智能確實讓人很多的擔憂，比如說馬斯克近期就表示呼吁暫停對AI的訓練，我看到了您也回應了說“如果他有這樣的呼吁，我拒絕在上面簽字?！睘槭裁茨粫谏厦婧炞郑?/span>
朱旭峰：不能說拒絕，是覺得沒必要去簽字，并不是說我不擔心人工智能的發(fā)展可能會對社會產生一些負面的影響，但我覺得這些負面的影響，我們可以去樂觀的觀察它，樂觀的去等待它的變化，人類會不斷的去適應人工智能的時代?？梢赃@么說，第一，從來沒有說哪一個新技術的發(fā)展，大家都一開始就是正面地去看的，只是現(xiàn)在被淹沒在歷史的長河中了。當年蒸汽機的發(fā)明，當年汽車的發(fā)明，當年電的發(fā)明，都會造成很多人的憂慮，只是100年以后我們已經把它淡忘了。當年汽車的發(fā)明，馬車車夫就抗議，他們說汽車的發(fā)明會讓我們失業(yè)。后來怎么辦？英國就頒布了一個法律，汽車的速度不能超過馬車，但是現(xiàn)在我們來看這是一個很笑話的事兒。當年正因為有馬車車夫他們的抗議，最后工業(yè)體系的重心從英國轉移到了美國，美國不怕，美國就開始生產汽車，美國的汽車發(fā)展了。
其實我們現(xiàn)在的很多擔憂，如果再過50年、100年看，其實也沒有什么特別擔憂的。當然對于我們現(xiàn)在的每個人來說，可能是要重塑自己的能力。我們對很多人工智能的出現(xiàn)，我們有很多職業(yè)肯定會受影響，但是你要想想，20年前互聯(lián)網的出現(xiàn)對很多人的職業(yè)也產生了影響。雖然有一些職業(yè)消失了，但是有更多的職業(yè)會重新建立、重新創(chuàng)造出來，大家都可以有新的職業(yè)、新的在人工智能時代能夠創(chuàng)造出新的就業(yè)的機會，所以大家不用擔心。
AI發(fā)展：加快還是放慢？
朱旭峰：我再說一下馬斯克的問題，馬斯克的擔憂跟我們很多人的擔憂都在于，人工智能的快速發(fā)展、人工智能的出現(xiàn)可能會對倫理、人類社會產生一定的負面影響。包括在博鰲論壇期間我們在討論的時候，有位科學家說，“未來可能就是碳基生命和硅基生命的競爭”，這當然是非常嚴重的一個后果。但是我們要想到現(xiàn)在的科技發(fā)明、科技的進步已經不可能只是一兩個科學家在自己的作坊里面、小的實驗室里面就創(chuàng)造出來，就顛覆了世界，已經不太可能了。現(xiàn)在大量的這種大的新技術，都是由1000個科學家、10000個工程師集合起來去做的這樣的一件事情，它是一個集體的行動，所以集體行動有集體的智慧。
馬斯克他呼吁要放慢AI發(fā)展的節(jié)奏和步伐，因為馬斯克本人也是科學家，這其實就是集體的科學家內部出現(xiàn)了一些反思。不要把馬斯克這樣的呼吁當做是中立的第三方，說這個世界不行了，所以我們要限制AI的發(fā)展，不是，它是在科學家內部的一些爭論和討論的體現(xiàn)。因此我們相信在任何的一個新的技術發(fā)展過程中，科學家本身就會思考科技發(fā)展的步伐，同時科技的發(fā)展對人類的進步到底產生什么影響？如果產生了一些負面影響，科學家的內部就會有一批人站出來降溫，來對這些新的科技的發(fā)展方向進行思考。
《論道》：我很關心AI在我們中國的發(fā)展現(xiàn)在到了一種什么樣的程度，是否有些超級應用可以賦能中國企業(yè)的發(fā)展，他們能夠把握哪些機遇呢？
朱旭峰：早在2018年，我們學院薛瀾老師的團隊曾經發(fā)布過中國第一本《中國人工智能發(fā)展報告》。從這個報告的數據上面來看，中國的AI的專利論文數其實已經和美國并駕齊驅，但是我們可以反過來看，現(xiàn)在很多人都在問，為什么OpenAI、ChatGPT在美國而不是在中國出現(xiàn)？這里面涉及到兩個問題，第一個問題就是有很多的研究創(chuàng)新的成果、專利、文章、論文是在哪個層面？有的科學家是在這種底層的大模型、底層的算法去研究，而中國更多的是在應用場合、應用領域、應用場景上面去應用AI，所以雖然可以說我們的論文發(fā)表專利其實并不少，但是對于那些顛覆性創(chuàng)新，可以說在美國還是領先的。
當然美國有它的創(chuàng)新環(huán)境，美國的創(chuàng)新環(huán)境差不多有四種模式：第一種就是研究性大學，像麻省理工這些科學家；第二種是聯(lián)邦實驗室，像貝爾實驗室這樣的，他們有大量的創(chuàng)新；第三種是美國的軍方，像DARPA這樣的，他們會檢驗哪些政策哪些創(chuàng)新市場可以做，市場可以做，他們就不做，但是他們要投資一些底層的基礎研究；第四個其實就是硅谷模式，硅谷旁邊斯坦福大學的青年人有一個好的想法，然后怎么辦？找風險投資，慢慢地培育孵化出來一個小的產品，然后變成一個小的公司，再去上市再融資，最后風險投資能夠收回回報。這種創(chuàng)新生態(tài)使得美國的很多科技型企業(yè)，它是在一個比較好的創(chuàng)新環(huán)境上得到了成長。
我們中國前三種模式其實還是比較強的，我們的科研院所，我們的高校，我們國家的舉國體制都沒問題，所以我們可以產生出兩彈一星。但是咱們現(xiàn)在比較結合市場的那部分創(chuàng)新的產品，在世界上其實并沒有占到什么優(yōu)勢，這是因為美國的第四種模式——硅谷模式在中國其實發(fā)展得并不是那么強大。當然也不是說沒有，我們有很多平臺企業(yè)其實都是屬于硅谷模式，都是拿到了風投，然后慢慢發(fā)展起來才在美國上市。
所以這種情況下我們中國怎么辦？中國一方面仍然可以說是世界上第二大科技強國，到目前至少在AI范圍內，我們畢竟有很多專利和美國并駕齊驅，但是由于在底層的基礎研究以及市場的創(chuàng)新生態(tài)沒有這么發(fā)育，所以我們中國有不少的技術產品沒有辦法和美國競爭。但即便如此，中國也是比較能夠坐穩(wěn)世界第二的經濟和技術強國。
可以看到GPT-4發(fā)布的第二天，馬上百度就非常快速的、稍有些匆忙的去發(fā)布了“文心一言”，這是我們中國企業(yè)和中國企業(yè)家的勇氣，就說我們可能沒那么成熟的一個產品，但是我們有勇氣跟你一爭高下，對，但至少我們有了，你看其他西方國家，整個歐洲日本到現(xiàn)在什么都沒有。所以從這個角度上來看，雖然美國的創(chuàng)新生態(tài)、創(chuàng)新實力仍然是世界第一大國，但中國也仍然是緊緊的跟在后頭。
《論道》：所以說它確實會重塑整個社會結構，甚至是國際秩序。在社會結構這塊，它確實也賦能了智慧醫(yī)療、智慧教育、智慧科技等等各個方面，您覺得中國在智慧醫(yī)療這些方面當中，未來發(fā)展趨勢是什么樣的？我們可以看到哪些新希望？
朱旭峰：首先所有的科技進步都是為了提高效率，無論是剛才我們說的印刷術，還是蒸汽機，還是電力、汽車，包括現(xiàn)在的人工智能，對不對？所以我們的世界會變化得越來越快，我們的學習能力，每一個新技術的迭代和生產，整個過程會非?？?。
在醫(yī)療方面，現(xiàn)在已經發(fā)展到可以通過人工智能去開發(fā)藥品，它可以通過人工智能方法去計算蛋白質的結構，去用幾萬種有機化合物去計算病毒蛋白質和哪個化合物互相之間配合了以后可以抑制病毒的復制，所以它就可以通過人工智能非常有效率的去設計出新的藥。僅僅從這件事情來講，人類技術進步的效率會比過去快得很多。過去是大海撈針，很多科學家去猜蛋白質長什么樣，然后他去找一些化合物再去做實驗，現(xiàn)在電腦上直接就可以算出來。過去需要一萬種藥、一萬種有機物去做試驗，現(xiàn)在通過人工智能它只需要試驗三四種，八九不離十，大大提高了的效率。
我們再看其他的工業(yè)機器人的出現(xiàn)，我們互聯(lián)網的很多平臺現(xiàn)在都用了人工智能，這些其實大大的提高了效率。當然很多人會擔心，提高了效率，會不會有人失業(yè)？這就是我剛才說的有了新技術的產生，使得效率提高，確實有些工作不再需要人們來做了，但是不要忘了有一件事情，無論是中國也好，還是世界也好，現(xiàn)在大的局面是勞動力短缺。我們現(xiàn)在特別在擔心，我們新生人口減少，年輕人越來越少，老年人越來越多，我們大量的其實是缺少勞動力。無論哪個企業(yè)，它在決定使用人力還是人工智能，其實都是在做成本的核算。當勞動力特別多，勞動力的成本特別低的時候，其實理論上也不會去用人工智能，人工智能畢竟也是要花錢的。但反過來講，如果勞動力特別短缺，勞動力的成本特別高的時候，它就會使用人工智能。所以人工智能的出現(xiàn)，它并不是去替代勞動力，而是解決了勞動力短缺的社會問題。
我再舉個例子，現(xiàn)在老齡化了，我們年輕人都沒有時間照顧老人了，那未來是不是家庭服務的機器人可以出現(xiàn)？部分的解決一些老年人照顧的問題。這其實就是解決了我們勞動力短缺這個社會結構上的問題，人工智能其實替代了部分我們短缺的勞動力。
人工智能的治理規(guī)則全世界會趨同
《論道》：我們現(xiàn)在對ChatGPT的這種擔心，比如擔心未來人機大戰(zhàn)，從管理的角度來講，這種未來可能會影響到公共利益、社會利益的這樣一些制度，我們該怎么樣來規(guī)范它？
朱旭峰：我們具體到來看ChatGPT這種交互式的文本的人工智能技術，當然人工智能技術有好多種，這只是一種?，F(xiàn)在這種技術通過圖靈測試，已經基本上可以達到人類的智力水平，甚至于超過很多人，所以大家會比較擔心。
到底擔心什么？它可能產生什么樣的一些問題？第一個問題，其實就是它的內容。它人工智能跑出來的文字，因為它大量的這種應用場景已經開始使用ChatGPT所生成的這些腳本和文字來應用到它自己的產業(yè)領域。那這些腳本內部會不會有問題，這是一個風險。比如說現(xiàn)在已經有人讓它來做編程，我告訴它一個目的，我告訴它一個任務，它自己幾秒鐘它就出來了一段程序。同時人工智能它還能去檢測人工智能有沒有問題，但問題是它黑箱里面轉出來的東西，我們能不能相信它？它這個程序做出來里面有沒有加一些小的漏洞，讓它人工智能能夠有個后門？我們人類不知道，因為如果這是一個大程序，幾百萬條程序，人類根本就看不出來。而且如果不是人類編出來，它一下子自動生成了，我們根本就識別不了。在這個過程中，人工智能它可以產生程序，產生算法，這些算法會不會造成一些社會的危害？這是一個風險。
第二個風險，其實這些產生大大提高了人類的效率，大大提高了人類的工作效率以后，會不會讓很多人失業(yè)？現(xiàn)在有很多人其實還是比較樂觀，比如說以后我就寫稿子省力了。但是作為企業(yè)的老板，他會說既然現(xiàn)在1個人可以干10個人的事，那9個人他就不用再聘用了，當然這是一個問題，大家很擔心。但是反過來想，會不會有一些新產生的崗位？那些不在工作崗位上的人能不能去創(chuàng)造出一些新的就業(yè)機會？我覺得到目前為止仍然可以理解，倒不用擔心，而且現(xiàn)在總的來說人工智能的產生其實是解決了勞動力的缺失的問題。
《論道》：具體而言我們在倫理方面應該如何監(jiān)管它，讓它得到一個有效的發(fā)展，而不是讓人盲目的恐慌？
朱旭峰：第一個問題，什么叫倫理？倫理其實就是價值觀。什么是對什么是錯？比如說人有一些底層的倫理，這是世界上任何國家任何時代的任何人都是遵從的，但是有些情況下倫理根據它的文化、根據它時代的進步，它會有變化。
第二個問題，就是誰的倫理？因為任何一個技術的發(fā)展，包括我們剛才說的過去早期的一些歷史上的技術方案，都會對有些人有利、有些人有害。如果我們站在世界的全人類的角度上看，可能有些技術其實是總體來說是有利的，但是對個別人群、個別階層可能是有害的。我們如何去平衡全體人類的進步和個體的損失？這個問題就是一個價值觀以及倫理的權衡問題。有一些技術的進步，它可能對某些行業(yè)肯定是有好處的，很多人擔心的其實是某些特別領域，比如說隱私、社會公平等方面的倫理問題，我們就要根據具體情況具體來看。
人工智能最發(fā)達的國家，它往往是人工智能治理最前沿的國家。為什么呢？是因為人工智能發(fā)展得最快，它就會遇到別的國家遇不到的問題。遇到了這些問題，它就要想辦法去解決，所以它就創(chuàng)造出來一些治理的機制、治理的規(guī)則，美國顯然在這方面是領先的。當然在中國，由于中國也是特別大的人工智能的市場，在各個應用領域都有各種各樣的人工智能出現(xiàn)的治理的問題，所以中國其實也不斷地在推進人工智能以及數據方面的治理規(guī)則，比如說《數據安全法》和人工智能的條例等等，這些方面中國都在積極推動。同時美國也好，中國也好，這些政策一旦發(fā)出來，那就是全世界的公共物品，其他國家都在學習，國家間就會有互相參考。我們現(xiàn)在在制定一個政策的時候，肯定會看美國怎么做的、歐洲怎么做的？歐洲、美國也一樣，他們也會看中國怎么做的？所以國家間的這種互相學習，就會使得人工智能的治理規(guī)則在全世界可能會趨同。
《論道》：全球化問題，這是全世界共同的問題。
朱旭峰：對，因為人工智能沒有邊界，ChatGPT你可以在任何一個國家使用，但同時使用者可能沒有國界的概念，這種跨境的數據的流動，不同的人在不同的國家使用同一種技術，你不能說在這個國家是合法的，在那個國家非法，最后的結果由于這種國際化全球化的、特別是技術沒有國界性，導致了很多技術的全球治理規(guī)則，其實也是在全球要通用。
抽象的來說，科技發(fā)展和科技治理到底是為什么？我覺得可以至少有4個方面的：第一個目的就是要解決短期的一些困難和困境，比如說新冠疫情，立刻我們就要想到有疫苗，這個疫苗其實就是要解決短期的問題；第二個問題是解決長期的人類發(fā)展的問題，比如說氣候變化，人類的發(fā)展等等，通過技術的進步來解決，比如說能源危機，未來我們可能有可控核聚變這樣技術的出現(xiàn)，可能會徹底解決人類的能源短缺問題，這是解決長期的問題；第三個就是科技造福人類，造福每個人，普通人能否享受科技的好處？第四個其實是國際的科技競爭，就是科技的發(fā)展背后其實是國家的力量，國家在整個世界上面其實是就面臨著很多競爭，但科技的發(fā)展其實來推動這個國家的力量和國家實力的提升，我想至少有這4個方面的問題。
科技治理是為什么？第一科技治理是要解決倫理的問題，畢竟很多科技不能野蠻生長，它不能破壞人的基本價值觀。所以反過來講，我們的科技治理是服務于科技發(fā)展，更好的科技發(fā)展，讓我們的科技發(fā)展更加健康。同時在全世界的舞臺上面能夠正當的進行科技的發(fā)展，通過國際的對話，通過科技治理界的互相學習，讓中國的科技治理的一些規(guī)則和敘事，能夠讓西方讓全世界能夠了解。
因為剛才我也說了，因為中國在人工智能科技其實還有部分是領先的地方，所以我們的科技治理的一些規(guī)則在世界上也是領先的，因為我們遇到了新的問題，在這種過程中我們能夠加強科技治理，其實也是講好我們中國故事，讓全世界能夠了解中國在科技治理方面的努力。
0—1的創(chuàng)新才是市場的第一塊蛋糕
《論道》：在今年的博鰲亞洲論壇這段時間里面，您看到那么多分論壇，這些分論壇里面，您認為未來中國的發(fā)展趨勢或者是世界的一個發(fā)展趨勢是什么？這種趨勢能夠給予我們廣大的企業(yè)家哪些啟示？
朱旭峰：這是一個非常大的問題，已經脫離了技術進步這個問題，因為這里面涉及到中國整個改革開放的步伐，中國的政府對待企業(yè)家態(tài)度以及整個營商環(huán)境，這是這一方面。同時我們從微觀上面來講，中國的企業(yè)仍然應該大力的投入研發(fā)，加強技術的投入?？偟膩碚f，目前中國的企業(yè)在應用層面的技術研發(fā)上面其實投入的不少，因為應用層面它能比較快速的短期就能看到回報，但是更加底層的基礎研究，其實我們的企業(yè)相對來說沒有那么大的投入，為什么？是因為基礎研究短期內看不到直接的回報。正因為如此，所以我們可以看到像美國有很多顛覆性的創(chuàng)新是從0—1的創(chuàng)新，但中國其實比較缺的是0—1的創(chuàng)新，中國比較多的是1—2、2—N的創(chuàng)新，為什么？中國跟進得快，一旦有一個想法以后，我們自己可以有些人才就直接就可以加入到這樣的一個產業(yè)。
但是0—1的創(chuàng)新才是市場的第一塊蛋糕，它最大的一塊切掉了以后，剩下的是很多企業(yè)跟進。當然背后的邏輯和原因，是因為中國的發(fā)展還沒多少年，美國也不是說從一開始他們就知道這個基礎創(chuàng)新能夠有巨大的收益，也是有個別的企業(yè)投入了基礎的創(chuàng)新以后，它最后成功了，獲得了巨大的回報，它嘗到了甜頭以后，他企業(yè)的文化就形成了。但反過來講，我們中國其實只有少數企業(yè)，像華為這樣的企業(yè)，它會投入很多力量去做非?；A的比如數學研究，畢竟華為它的經濟實力還是有，它已經發(fā)展到足夠大了以后，可以做一些基礎的研發(fā)。但是我們一些比較中型的大型的企業(yè)，它可能還沒有能力去投入非常基礎的領域去做一些研發(fā)。但是我覺得企業(yè)一方面是國內非常重要的經濟單元，同時也是國際上科技競爭的一個重要參與者。
如果我們的企業(yè)能夠花更大的力氣去推動一些基礎研究，10年20年以后，我們就會成長出一批掌握了0—1這些創(chuàng)新的企業(yè)。
《論道》：所以您的表達是非常樂觀的一種狀態(tài)，與此同時呼吁更多的企業(yè)，不管是超大企業(yè)還是中小企業(yè)，要能夠去投入更多的資金去做基礎科學的研究，這樣能夠幫助中國跑得更快。
朱旭峰：對，多一些從0—1的這些創(chuàng)新。
《論道》：好的，謝謝朱院長，非常感謝！
文章選自貴州衛(wèi)視，2023年4月8日
