導 讀 :
《科學四十人》系列座談第八期（左起，薛瀾、李航、張宏江、周忠和）
大家好，我是知識分子總編輯周忠和，自2022年11月30日ChatGPT發布以來，全球範圍內掀起了有史以來規模最大的人工智能浪潮。
在過去短短的一年多時間裏，ChatGPT4.0和文生視頻的大模型SORA相繼發布，就在不久前，Openai的競爭對手Anthropic發布的新一代大模型Claude 3甚至被認爲全面超越了GPT-4。
全球都在熱烈討論AGI——也就是我們所說的通用人工智能——何時能實現？突飛猛進的人工智能究竟會給我們人類生活帶來什麽樣的影響？比如說會不會迎來大規模的失業或者就業的重組？會不會從根本上改變我們人類文明的形態？甚至于AI覺醒以後，矽基生命會不會超越以人類爲代表的碳基生命？
我們請到了源碼資本投資合夥人、北京智源研究院創始理事長張宏江，清華大學蘇世民書院院長、人工智能國際治理研究院院長薛瀾，字節跳動研究部門負責人李航，來探討我們離通用人工智能究竟還有多遠，OpenAI開源的可能性和開源生態，中國人工智能的發展機遇和挑戰。
Sora開始理解物理規律、懂得常識
周忠和：我們今天的第一個問題是關于Sora的，Open AI推出的Sora，究竟有哪些地方讓你感到真正的興奮，或者說Sora的最值得關注的地方是什麽？Sora給你最大的觸動是什麽？
薛瀾：我看到Sora的時候感覺很震驚。因爲它不僅僅是文字交流，而且有了一定的想象力。Sora能夠根據一段簡短的文字描述，生成一系列連貫的動態畫面，這不僅僅是對文本的理解，更是對物理世界運作規律的一種把握。
過去我們討論AI的時候，總認爲想象力是人類的專利，但現在，Sora顯示出AI也能具備這樣的能力。這可能是Sora一個與衆不同的地方。
張宏江：首先，我想談談Sora這個大模型給我帶來的震撼。Sora的發布實際上是演示性的，它發布演示視頻，並沒發布模型本身，但從40個演示視頻中，我們可以看到AI技術的巨大進步，非常令人振奮。
我注意到幾個亮點：第一，它生成的是高分辨率視頻，過去的視頻生成沒有做到過這麽高的分辨率；第二，視頻時長達到60秒，而過去在生成視頻方面表現比較好的Runway做了兩年，也只能做到幾秒鍾；第三，也是最讓人震撼的是其中一個場景，一輛越野吉普車在崎岖的山路上狂奔。這種鏡頭以往需要有一台設備在後面跟拍，因爲路面顛簸難度很高，但生成的視頻效果非常逼真。包括車輛行駛的邏輯也很優秀，一直是靠右行駛，轉彎表現也很自然。
智源研究院創始理事長張宏江
周忠和：我有個外行的問題。我們普通人看這些視頻，可能會覺得它們不過就是一些高質量的影像。它的想象力和邏輯不也是人灌輸進去的嗎？
張宏江：不，人並沒有明確地告知它要這麽做。
在傳統圖形學模式下，制作視頻通常需要構建詳細的物理模型。例如，我們想制作一個車輛行駛的視頻，需要先創建一個三維的車輛模型，以及一個包含道路和其他環境元素的場景模型。場景環境模型相當于虛擬世界，車輛模型則是在這個世界中運動的物體。這些模型需要精確地定義動態行爲和環境的交互方式，對各種物理規律、運動規則進行明確編碼，確保車輛在轉彎或行駛時的表現符合現實世界的情況。
在使用Sora這樣的大模型時，我們並沒有直接告訴AI這些具體的物理規則。相反，是AI通過分析大量的視頻數據，自己學到的。我們沒有告訴它，世界上大部分地方車是靠右走的。也沒有告訴它，如果不跟隨路線轉彎，車會撞到山上。這種明確的規則我們都沒有告訴它。
這是讓我覺得非常震撼的。GPT 3.5、GPT 4.0以及Claude這些模型，它們主要擅長理解語言，也就是文字描述。但Sora所展示的不僅僅是理解語言，還能夠理解物理世界。
周忠和：你可以說它已經理解物理規律、懂得常識了，但我總覺得這只是模仿。
張宏江：是模仿，但記得費曼曾說過一句名言，“我無法理解我不能創造的東西”。現在我們能生成出來了，難道不就是理解了嗎？
薛瀾：說到智能，我們得先定義一下什麽是人的智能。我們有認知能力、推理能力、創造力，可能還有其他方面，比如情商。如果我們從這些方面看，有些方面，比如認知和推理能力，AI可能已經超過了常人，甚至可能超過最厲害的人。但在另一些維度上，人類可能還會保持優勢。
另外，您雖然覺得人工智能只是模仿。但人類獲得這些能力的過程，本質上不也是如此嗎？都是在不斷接收外部信息，逐步形成認知和思維模式，二者在方法上沒有根本區別。
周忠和：李航老師，您是否也有同樣的感受？
李航：有些地方一樣，有些地方不一樣。我們自己開發的PixelDance系統，效果上超越了當時最好的Runway等系統，但今年2月Sora發布，PixelDance又被Sora超越。我的一個感受是做事要快，因爲現在的競爭非常激烈。
另外從Sora的技術報告和相關論文看，雖然它技術上有所創新，但並不是革命性的。主要的創新是將擴散模型的Unet架構改成了Transformer架構，這讓模型能夠處理更多的數據，更好地學習物理現象。從科學的角度上看，我認爲AI大模型目前具有一個共同特點，就是它們都基于Transformer架構，最基礎的東西是都一樣的。
周忠和：近幾年在基礎科學原理上並沒有太大突破？
李航：是的，雖然有所進步，但自從2017年Transformer架構出現以來，我們看到了不斷的收斂。Transformer最初是爲自然語言處理開發的，現在，即使是計算機視覺領域也開始轉向使用Transformer架構。
周忠和：那麽，你有沒有張老師那樣的感覺，也認爲AI模型現在開始理解常識和物理規律了？
李航：是的，我同意張老師的觀點。但我認爲未來的空間仍然非常大。Sora還不是3D的。3D生成技術，能夠讓我們從不同角度看到物體的樣子。比如，從正面看到一個人，我們是有能力想象他的後腦勺是什麽樣子的。3D生成能幫助我們看到人的後腦勺。
目前，3D生成技術還處于初級階段。去年的計算機視覺國際會議ICCV，是領域內最頂級的會議之一，在會議上展示的論文，大家可以去看目前技術生成的效果，其實都是比較簡單的。比如一個物體，桌子或椅子，把它換一個角度是什麽樣子。
再有，現在的生成模型並沒有物體的語義。我們看視頻時，能認出這是汽車、那是道路，但在Sora的模型中，它並不准確地理解這些，它只是對像素和數據進行處理。未來如果我們能夠進一步發展這項技術，讓它不僅能處理3D空間關系，還能理解物體的語義信息，那麽我們就更接近于創造出類似人類的智能。在這方面，我們還有很多工作可以做。
Transformer是最佳路徑嗎？
我們會不會過于路徑依賴了？
張宏江：李老師剛才提到的Transformer架構確實非常關鍵。自2017年起，Transformer這條路徑給我們做AI的人或者做大模型的人指出了一條路。過去七年，行業內已經認可它是大模型發展通向AGI的一條正道。
技術發展是有路徑依賴的。意味著一旦我們確定了正確的方向，所有的關注和資源都會隨之集中。回到七年前，Google的研究人員發明了Transformer架構，但OpenAI才是真正認識到其潛力並全力投入的一方。盡管Google也推出了許多模型，但很長一段時間沒有一個能夠超越GPT3.5的成就。
現在所有做大模型的人，都把重點放在Transformer架構上，包括Sora也是這樣，過去生成視頻用Unet框架無法達到的，換成Transformer架構就實現了突破。未來，無論是GPT4.5、GPT5、Claude還是Gemini，Transformer這條道路都會持續。
薛瀾：既然說到這兒，我插一個問題。我們是否會因爲路徑依賴的原因，而忽視了其他可能更好的路徑？2017年的Transformer架構確實很重要，但當時也有其他路徑。我們現在是否確定這是最好的路徑？我們是否可能錯過了其他潛在的優秀路徑？
清華大學蘇世民書院院長薛瀾
張宏江：您的問題正好給了我一個機會，我想說的是，這就像當初電的發明，當交流電成爲主流後，直流電最終只用于電池。這種路徑依賴是非常關鍵的。
李航：我想補充的是，作爲科學家，我們總是尋求更好的、顛覆性的技術來改變現有的Transformer。但目前大家做了很多努力，我也知道一些研究。盡管在小規模上有些模型看起來還不錯，可一旦擴大規模，它們都無法超越Transformer。目前的結論是Transformer確實非常強大，其他模型，但到目前爲止，還沒有能成功顛覆Transformer。
張宏江：這引出了另一個話題，也就是大模型的Scaling Law。Transformer架構成爲主流，我們驗證了它的強大。接下來，是把它的規模越做越大，給它喂越來越多的數據。這個領域從業者們大多認爲，這個架構的潛力還沒有達到極限。
所以，你可以看到爲什麽現在大家都在急切地投資購買芯片、增強算力。當我們在追求算力的時候，實際上也是在競爭數據中心（IDC）的資源。而在搶占IDC的過程中，我們又不得不去爭取電力供應。這一連串的動作，實際上都是因爲大家認同一個觀點：Scaling Law——相信隨著模型規模的增長，性能和能力也會相應提升。
周忠和：剛才張老師認爲Sora生成的視頻是符合物理規律的，Sora能夠理解常識。不過也有不同的聲音，比如圖靈獎得主楊立昆（Yann Lecun），他說僅靠大量文本數據訓練是達不到人類智能水平的。還有的人覺得這是個死胡同，認爲快到極限了。您剛才好像不太同意這種看法？
張宏江：我可能要得罪人了。我覺得那些說這種路線快到極限的人，其實並不是真正的從業人員，沒有參與其中。如果在做這件事，你會我們這些在一線的人一樣，非常相信Scaling Law。
如果大家對這個感興趣的話，可以看看清華大學清華大學交叉信息研究院的助理教授，也是月之暗面公司CEO楊植麟最近的采訪，他談到了Scaling Law，我覺得講得很好。他作爲一個年輕學者，對Transformer和未來的看法，我覺得很有見地。我們離Transformer的極限還早著呢，現在的問題可能是數據不夠，我們應該想辦法繼續擴大數據規模。
周忠和：還有人提到電力和其他資源。
張宏江：Scaling Law會帶動很多相關的東西。比如芯片行業，英偉達的股票瘋漲，IDC公司也是，數據現在變得非常值錢。這些都是推動整個産業發展的生態因素。所以，我覺得極限還遠著呢。像楊立昆這樣的學者，我非常尊重他，但在這個觀點上我不太認同他。他認爲數據驅動的系統沒有真正的推理和學習能力，走不到AGI。這是他的定義，但按照我的定義，我們正在朝那個方向前進。
周忠和：李航老師，你的觀點和張老師一樣嗎？
李航：我部分同意張老師的看法。我相信Scaling Law的潛力，也認爲我們還沒看到極限。不過，我的觀點也不完全一樣，我去年在香港開會時和楊立昆老師當面聊過，他覺得現在的大模型缺乏世界模型。我理解的是，如果能夠將視覺、語言等多模態信息結合，就會更接近世界模型。就像我剛才說的，視頻生成的時候，也能生成語義信息和3D信息，那就更接近人類了。我覺得這方面還有很大的空間，我們會沿著Scaling Law的路走下去。
未來可能97%的人不工作，只有3%的人在工作
周忠和：人工智能發展如此迅猛，對我們生活和工作的影響，也是大家非常關注的。例如，自動駕駛、互聯網産業，甚至有人說它對白領工作的影響更大。薛老師，您認爲短期內哪個領域會受到最大的沖擊，白領還是藍領？
薛瀾：我認爲所有涉及信息或數據獲取、處理和傳播的行業都將受到巨大沖擊。這不僅包括了傳播業，如電影和電視，還涵蓋了教育、藝術，甚至醫療服務。還包括文秘工作和法律行業的助理工作，所有與信息處理相關的領域，包括信息獲取、處理和傳播，都可能逐漸受到影響。
周忠和：這些變化會多快發生呢？5年還是10年？
薛瀾：影響的速度取決于兩個方面。首先是人工智能本身的效率提升有多快。其次是社會制度的變革，這些制度對傳統行業的保護非常強。所以這一方面是技術進步的過程，一方面也是制度變遷，這兩個方面需要協調起來往前走。
周忠和：您提到教育也會受到影響，如果預計在未來5到10年內，某些行業將不複存在，那我們現在爲什麽還要在大學裏學習它們呢？這是一個緊迫的問題，因爲變化來得太快，可能我們還沒有足夠的討論。
李航：很難預測，但有兩個明顯的趨勢。首先，會出現新的工作，比如數據標注。數據非常重要，現在數學家陶哲軒等開始標注數學定理證明的數據，使用新的編程語言Lean來描述這個過程。他就是利用他的經驗，把證明的過程寫出來，讓AI學習。我估計未來數學定理的證明，AI也能做。
其次，各行各業，包括編程和AI領域，都會出現兩極分化，最優秀和有創造力的人才將發揮更重要的作用。
薛瀾（左）和字節跳動研究部門負責人李航（右）
周忠和：那麽對于普通人來說，哪些行業的影響最大？
李航：硬件領域的變化可能會慢一些，因爲硬件叠代需要時間。至于軟件，發展會更快。但我認爲長期來看，軟件開發的形態也會發生變化。一些簡單的程序AI是能夠寫的。
周忠和：機器完全可以替代人的創造性嗎?
李航：就像薛老師剛才說過的，我認爲有三個方面人工智能目前難以取代人類：情感、創造力和自由意志。情感是人的本能，要在機器上實現情感就等同于造一個擁有生命的人了。創造力和自由意志同理，這三者不是單純的智能，而是生命現象。
如果一個事情是任務，能去評價完成它的好壞，AI基本都能完成。馮諾依曼說過這樣一句話，意思就是告訴我一個任務，不管是多複雜，把它定義清楚，我都能給你造一個機器，專門去完成你這個任務。
現在大家經常談AGI，談通用人工智能，“通用”確實是有很大的革命性的，這個工具不像馮諾依曼說的，專門做某一樣事情。它變成很通用，完成很多很多的任務。但另一方面，只要這些任務能夠定義、能夠標數據、能有評價標准，看樣子AI基本都能做。前面說到人類的幾個特點屬于生命現象，不是任務，AI做不了。但是AI做很多任務，能超過人，可能未來AI做大部分工作都超過人。
張宏江：我同意薛老師的觀點。人的智能有多個維度，在許多維度上，機器可能會超越人類。對于普通人來說，最擔心的可能是自己的工作。
我倒覺得白領工作可能會受到較快的沖擊。我上周和崔健談AI，談到未來可能是97%的人不工作，只有3%有職業。這不是我的觀點，而是《世界簡史》作者的觀點：平均技能水平的工作者可能會被替代，但頂尖藝術家不用擔心，因爲他們是少數。
至于助理類工作，比如法務助理，或者分析師很大程度會被替代。現在一些AI工具已經能幫助我們更高效地工作，比如許多人還要通過微軟的Outlook手工安排會議，以後可能是AI來做這個工作，效率會提高很多。
另外我們不能停留在提高效率的階段，30年前國際象棋大師卡斯帕羅夫被深藍擊敗。當時卡斯帕洛夫曾說，未來機器將在象棋領域給予我們巨大的幫助。然而，30年後的今天，我們看到的情況是，機器在象棋上已經不需要人類的幫助。
周忠和：那麽，藍領工作呢？
張宏江：我爲什麽對Sora如此激動，就在于它對物理世界的初步理解。當一個系統能夠理解物理世界時，就能指揮機器人執行任務。硬件的AI化進展可能比軟件慢，但隨著機器人技術的進步，比如靈巧手和機械能力的提升，AI對藍領工作的影響只是一個時間問題。
周忠和：人工智能對程序員有什麽影響？
張宏江：軟件設計師的工作可能會被自動化工具，比如微軟的GitHubCopilot和Google的對應産品所替代。這些工具已經能夠做很多事情，通過大模型驅動，能完成很多常用程序的編寫，至少可以提高開發者的效率。其他重複性的工作也很容易被替代。
周忠和：那研究人工智能的行業，未來也還會需要那麽多人嗎？
李航：需要更多的人，但也會兩級分化。比如數據標注這項工作，從簡單的常識性的標注，到我剛才說的專業性的標注，差別是很大的。
周忠和：薛老師，針對我們國家的自然科學科研人員，尤其是那些在技術開發和基礎研究領域處于領先地位的研究人員，人工智能的發展會對他們的工作産生怎樣的影響？
薛瀾：我認爲肯定會有顯著的沖擊，科學研究也會出現兩極分化。但我們需要區分常規科研和科學革命這兩種情況，如果我們按照托馬斯·庫恩的科學革命理論來看，科學研究可以分爲常態科研和科學革命。在常態科研中，我們已經對某個領域的基本範式有了清晰的理解，並且正在解決一些尚未解決的問題，這就像是在解謎。例如，當前的蛋白結構研究就是這樣的領域。
在這些領域，人工智能可能會替代很多工作，在現有範式下工作的科研人員，他們的工作可能會被人工智能所替代。但是對于那些能夠發現新問題，制造危機，挑戰現有範式的研究者，這些人的工作是人工智能難以替代的。這樣的研究者永遠有需求。
我們距離真正的通用人工智能還有多遠？
周忠和：當下一個非常熱門的話題是，我們距離真正的通用人工智能（AGI）有多遠，AGI的定義或者實現的標志是什麽？另外，目前Open AI引領的人工智能革命是比較公認的，但是否有其他競爭者？比如Claude，有人說它超越了ChatGPT和Open AI，但這種說法是否誇張？
李航：目前還沒有一個嚴格的定義來界定什麽是AGI。
大模型的通用性是一個顯著的特點，它們能做很多事情，發展空間非常大。但是，它和人在創造力、情感和自由意志等方面仍有區別，模型在這些方面的表現也只能近似人類智能，而不是完全實現人類智能。
像黃仁勳說的AGI可能在5年內實現，也是基于特定的定義。我認爲，一旦我們能夠清楚地定義一個任務並評價它的完成情況，人工智能通常能夠完成得很好。但是，人類能理解世界，能夠遐想和想象，要想在這些方面追上人，我覺得十年二十年之內人工智能還做不到。
張宏江：我想就李航老師提到的三點進行爭論。我同意其中的兩點，但對于情感這一點，我認爲情感可以被視爲人類的獎勵函數（rewarding function）。如果我們能夠學習人類的獎勵函數，提供足夠的數據，那麽人工智能就有可能模擬情感。
這是一種高維度的複雜函數，在計算上會很複雜，而這正是大型模型的優勢所在。例如，鄂維南老師做的AI for Science，在材料設計，簡單的材料結構可以通過微分方程算出來，複雜的分子材料幾乎不可能算出來，利用大模型進行模擬是更好的辦法。在材料設計、天氣預測和生命科學等領域，當問題複雜到無法用數學方程來描述時，恰恰是大模型發揮作用的地方。
周忠和：有人說大模型只是AGI的一塊孤立的拼圖，還有很多拼圖沒找到，幾位老師認同這個觀點嗎？
張宏江：這一定是哲學家說的。
周忠和：這是你所不認同的，對吧。李老師，你覺得現在的大模型方向，就是通向AGI的充分條件嗎？
李航：在大部分情況下，我認爲現有的大模型方向是正確的，是通向AGI的重要途徑。但也可能存在一些人類智能無法用大模型實現。
周忠和：李老師，你曾經提到過，深度學習在未來一段時間是主流，但長遠來看，我們還是應該從人腦計算中獲取啓發。
李航：我的觀點和現在的大模型路線其實不矛盾，只是希望將來能夠在更好地模仿人腦，實現更接近人的AGI。
計算存在功能、算法和物理實現三個層面。現有的以Transformer爲基礎的大模型主要是在功能層面上模仿人類，但在算法層面，AI和人的大腦的結構還是完全不一樣的，所以我們可以在功能層面上更多借鑒人腦的機制。
薛瀾：我跟他們倆唱一個反調。路徑依賴確實存在，但錯過的道路，可能我們在很多年後會重新走回來。比如過去我們的技術和資金都投資在燃油動力汽車上，其實電動汽車上個世紀初就已經被發現了，曾經有一段時間也還是可以跟汽油車相競爭的，只是後來因爲多種原因就被忽略掉了。多年以後的現在，電車又發展的很好，所以不排除錯過的道路在未來能有很好的發展。
周忠和：薛老師，考慮到人工智能目前的發展趨勢，您認爲我們最需要哪類人才？是更傾向于計算機專業的技術人才，還是需要更多跨學科的專家，比如腦科學、生命科學等領域的？
薛瀾：我認爲我們需要的人才首先要具備創造力，創造力在今後仍然至關重要。另外，傳統的、那種很強調專業細分的教育模式可能需要改變。我們需要從新的維度重新思考教育問題。
我們過去學習的知識和技能可以分爲兩類：一類是爲了在社會中生存所必需的，另一類則是提升我們認知能力的學習。我估計，隨著人工智能的發展，第一類能力可能會被系統替代，這些東西也就沒有多大必要去學習。
相反，我們需要思考的是如何通過教育，提升受教育者的認知能力和創造力。可能需要一種全新的教育方式，與現有的教育體系完全不同。實際上，人工智能對教育系統的沖擊應該是最大的，但我們恰恰是動的最慢的。
周忠和：李老師和張老師兩位都在公司裏工作，你們希望招聘什麽樣的人才？期待未來的教育系統能夠給你們輸出什麽樣的人才？
李航：在人工智能領域，本科的教育是非常重要的。在美國，頂尖大學機器學習本科學生的作業難度非常高，甚至要熬夜來完成。計算機領域的一些基本技能培養，美國本科教育都已經能做得很好，而國內在這方面需要加強。就純計算機和人工智能的人才培養的角度來說，我是看到、感到有一定的差距的。
周忠和：人工智能變成熱門之後，很多人提議從中學開始學習人工智能。
張宏江：作爲兩個孩子的父親，我可能對教育稍微多一點認識。我認爲重要的是培養孩子們的思考能力，而不只是具體知識。
美國的學校，對14歲的學生就開設邏輯和批判性思維課程。這個課程是教孩子們怎麽思考，而不是一門具體的專業知識。站在任何一個專業角度講，如果你想從事研究的話，邏輯和批判性思考能力是非常重要的。
未來的人才，最需要邏輯和批判性思考的能力。灌輸知識這樣的教育，實際上是培養就業能力，而且是過去的就業能力，未來是行不通的。從科研人才的角度講。回過頭看，在科學職業化之前、文藝複興之後的幾百年，也是沒有職業科學家的，需要的是他們思考的能力和觀察的能力。
薛瀾：我覺得越是在這種形勢下，人文素養也會變得非常重要。
開源和閉源，哪一種模式對人類更安全？
周忠和：最近有消息說馬斯克因OpenAI違背了其非盈利的宗旨，打算將其告上法庭。我們知道非盈利模式有其優勢，但資金的缺乏也可能影響技術的發展。
薛瀾：現代科學和科技的發展，是希望在開放科學的道路上前進的，尤其是人工智能這個領域。開源可以促進技術的交流和發展。反對開源的人擔心安全隱患，但也有人認爲不開源可能更危險，這些方面的爭論一直存在。我覺得可以請其他兩位人工智能領域的專家，講下到底應該怎麽權衡這個問題？
李航：去年一個AI會議上沈向洋博士表達過一個觀點，我非常同意，是否開源取決于公司的商業地位和策略。行業的領導者可能不會選擇開源，第一名肯定不會開源，第二名想要和第一名競爭也不會開源，第三、第四名的公司可能會選擇開源以取得一些競爭優勢。
我覺得至少從曆史的經驗上看，這個觀點是有道理的。AI公司裏，現在沒有開源的是OpenAI、Anthropic。開源的是Meta和Amazon。
周忠和：商業性之外，我們可能更關心開源爭論對技術發展的影響，以及安全問題。這方面您怎麽看？
李航：實際上，從商業角度來看，Meta和其他公司選擇開源，並不是出于其他考慮，而是因爲這樣做能在商業上帶來一定的利益。我同意沈向洋的觀點，他認爲這些公司開源是爲了在商業利益上獲得優勢。這涉及到一個更根本的問題：人工智能技術的研究和開發是否應該以市場經濟爲導向。
字節跳動研究部門負責人李航
周忠和：薛老師您贊成AI公司以盈利爲導向嗎？
薛瀾：我們現在進行的關于人工智能的研究，實際上相當于在從事科學技術的基礎研究。在科學技術領域裏，基礎研究通常是開源的。不過，人工智能研究的回報機制與之略有不同。在學術領域，最先發表論文被認可擁有優先權，這就是所謂的回報制度，已經被大家所公認。而人工智能大公司之間，真正的競爭在于最終的應用和産品層面。
從這個角度講，我認爲應當鼓勵開源。對于大公司來說，它們可以在商業應用和産品層面尋找盈利模式，在那個領域開展競爭。從各個研究領域的實踐來看，這種在基礎研究階段開源、在産品化階段閉源並尋求商業化的模式，目前看來對于推動人類社會進步是一種非常有效的做法。
張宏江：我非常贊同薛老師的觀點。開源是探索階段的重要工具，它鼓勵大家一起討論、交流和評估，這樣的話才能夠真正地推動一個領域的進步。從這一點上來說，我非常贊同開源。開源能夠把真正地做研究的人帶到一塊。今天的AI領域，從方法論、架構還有很多問題需要解決，開源是一個非常好的交流載體。
周忠和：您剛才提到了安全問題，那麽我們應該如何解決開源可能帶來的安全隱患？
張宏江：無論是開源還是閉源，安全問題都是不可避免的。但對于開源模型，我們更容易進行驗證和審查。未來，任何發布的AI模型都應該通過安全認證。此外，如果AI是一個可以改變人類的技術，我們需要在AI安全研究上投入更多的資源。
我曾在一個AI安全閉門會上聽到一個觀點，讓我很吃驚，但我相信其中的數據是對的：核電站設備的研發費用中有95%用于安全，這對我們AI領域來說是一個啓示。我們是否也應該在AI安全上投入更多的資源？如果核電投入95%，AI是不是應該在安全上投入10%或者15%，因爲這個技術也是可能導致人類滅絕的。
周忠和：薛老師，您在經常在中國和國際舞台上積極討論人工智能治理的問題。安全性顯然是大家非常關注的焦點。鑒于人工智能已經達到了相當高的智能水平，我們是否可以認爲開源在某種程度上也是一種保障措施呢？
薛瀾：是的，開源與閉源的討論實際上涉及到利弊的權衡。正如剛才所提到的，有人可能會擔心開源會讓極端組織或個人有機會濫用技術。不論開源還是閉源，只要有心作惡，總會找到途徑。現有的各種技術，如果被濫用，都可能對人類社會造成破壞，生物技術就是個例子，它同樣存在被濫用的風險。因此，更重要的是如何建立一套體系，來防範和制止任何個人或組織濫用技術危害社會。我們需要更多地考慮如何通過監管機制來控制這些風險。
假設從企業的商業角度出發，需要采取閉源等策略。在這種情況下，我們就需要建立一套監管機制。這個監管體系將對企業的閉源研究進行規範和約束，以確保其合法合規。所以我認爲，企業的需求和監管制度是相互促進、相輔相成的。
中國在這一波人工智能浪潮中處于什麽位置？
周忠和：中國在人工智能研究方面發表了大量的文章，並且在國際上也處于較爲領先的位置。但具體來說，中國在人工智能方面有哪些優勢和不足呢？比如有觀點認爲，中國缺乏高質量、大規模的中文數據集，這可能會影響我們的人工智能發展？
李航：中國在人工智能的應用和商業化方面確實還有很多機會。我們可以看到，在互聯網和移動互聯網時代，中國企業的表現非常出色，尤其是在過去的十年裏。我們在互聯網商業化的應用層面上很有特色。比如在大模型的實用場景中，不一定要追求像GPT-4那樣的大規模模型，即使是相對較小的模型，在特定的實用場景中也能發揮重要作用。
就我個人的觀點而言，未來人工智能的發展機遇主要集中在四大領域。首先是張老師之前提到的助理領域，也就是廣義上的助理和白領工作，這裏有很大的應用空間。其次，機器人的發展也非常關鍵，它們能夠幫助工人和普通人完成一般工作任務。再者，AI for Science，即利用人工智能推動科學研究，這在數學、物理、化學等科學領域都有潛力。最後，娛樂行業，無論是視頻制作、電影、遊戲還是虛擬現實，人工智能的發展都有很多機會。
比如在硬件方面，當大模型與硬件結合時，機器人技術就是一個應用的典型例子。實際上，不僅限于機器人，自動駕駛等衆多領域也有著廣泛的發展機會。在應用層面，我認爲中國整體上還有比較大的優勢。
至于數據問題，目前高質量的英文數據資源相對較多，而高質量的中文數據資源則相對較少，尤其是在互聯網上。但通過機器翻譯或未來的一些新技術手段，我們是可以實現兩種語言數據之間互通的。所以，我不認爲語言數據的差距會是一個特別大的障礙。
不過，如果我們將人工智能的發展比作一場軍備競賽，那麽可以說，Open AI在AGI方面確實領先一步，其他所有人都在努力追趕。對于中國而言，無論是企業界還是學術界，我們各個方面都需要加大努力，以縮小與領先者之間的差距。
我們剛才也討論到，中國的一些創業公司有很多做得不錯的。可以說，中國公司已經掌握了AI大模型的科學原理，因爲這些科學原理基本上是公開的，大家都能學會。但現在的問題更多的是工程和産品開發。如果這些能夠叫技術的話，我們其實是沒有完全掌握這些技術的，中國的企業也好，研究機構也好，還需要努力，把這些技術能夠盡快掌握，才能做出GPT4、Sora這樣水平的東西。
張宏江：我要補充一點。目前這一波深度學習驅動的人工智能浪潮，並不是一個新現象，今天的情況只是進一步強化了這種觀點。這波浪潮是算法、算力和數據三者的結合。在很大程度上，算法反映了人才的實力，也就是我們所說的人才。所以也可以說，是人才、硬件和數據的組合。通過這三個點，我們可以清晰地知道自己在什麽定位。
數據我們有很多方式彌補，接下來就是人才。斯坦福大學每年發布的AI指數報告。這份報告統計了全球AI領域的論文發表情況，你猜在前十名的機構中，麻省理工學院（MIT）排名第幾？
周忠和：難道沒有排到第一？
張宏江：如果MIT排第一，我就不提這個問題了。實際上，MIT排在第十，而前九名全是中國的機構。這說明我們從業的人才一定不少，無非就是我們需要把發表文章的數量變成質量，把跟進變成突破、引領。還有很多思路，我們使可以繼續沿著這三點思考的。
關于李航老師說的，中國在應用方面有優勢這一點，我也有不同觀點：這一次跟以前可能真是不太一樣。現在AI領域的目標是AGI，強調通用。以前是單點上的技能，現在是一個通用的智能。
這就跟以前不太一樣了，每一次OpenAI發一個新的版本或者加一個新的特性（feature），就是一片公司倒下。原來你認爲一個公司才可以做的事情，大模型加一個特性就覆蓋了。Sora出來後，Runway和其它做視頻生成的公司就很緊張，因爲你就是一個工具，Sora是多模態大模型的一個部分。
如果大模型繼續沿著這個方向發展，它們的功能將變得越來越全面。當幾句話就能在GPT 商店裏産生一個新應用，當大模型的功能無所不包，是不是像上世紀90年代微軟的操作系統，給當時其他軟件公司帶來的恐懼。而你還不能夠用反壟斷的方式來對抗它，因爲大模型本身就這麽強。
指望靠一個性能稍差的、70分專用小模型，去完成特定應用，就怕人家做出90分的大模型，順手把這些功能都覆蓋，橫掃這些小模型。
那爲什麽自從ChatGPT問世以來，雖然已經過去了一年多的時間，但在我們所說的AI原生應用領域，並沒有看到太多新興公司的身影？一方面是大家都沒摸清楚，另一方面是大模型性能還沒好到那個地步，用在哪個領域，立刻讓用戶滿意。
因爲用戶對于應用的期望值非常高。比如，當30年前語音識別技術不成熟的時候，蘋果做了一個手寫和語音識別産品叫Newton，但問題是語音識別的技術不過關，甚至手寫識別那時候也不過關，因爲那時候神經網絡還是三層的。最後用戶不認可，這個産品行情大跌。當一個技術撐不起一個産品，或者只能撐到60分，而用戶的實際期望值是90分時，這個産品就相當于0分。
我們千萬不要有這種心態，說之前我們成功過，我們在應用角度趕上了，就覺得新技術也就這樣。這一次可能真不一樣，這是我想要說的。
李航：我想再補充一點，我大部分同意張老師的觀點，但就像我們討論的互聯網搜索引擎，有Google這樣的巨頭，當然還有其他的搜索引擎存在。即使Google占據了市場的主導地位，其他公司仍然有機會。
張宏江：但Google占據了90%的市場份額，而微軟努力了20多年也只獲得了3%的份額，這就是差別。
李航：我理解您的觀點，但我認爲在實際應用中，大模型並不總是能夠完全取代小模型在一個具體的垂類上做的事情，GTP4也是90分，可能一個小模型也是90分。在特定領域，定制化的小型模型可能更有優勢。因爲它的性價比更高，商業上站得住腳。
張宏江：我不同意。我可以馬上舉個例子，ChatGPT出來之後，各種翻譯軟件都死掉了。
李航：但我了解到，GPT4在美國一些公司的實際場景裏面，因爲領域上的適配問題，其實成本很高，或者不很成功的例子也挺多。
張宏江：那是GPT4的問題，它還沒有達到90分的地步。
李航：無論是從經濟角度還是工程實現的角度來看，盡管大模型可能在通用領域表現出色，但市場的需求並不總是集中在通用領域。總會有一些特定的細分領域，特定的小型模型或技術可能整體更有優勢。我不太相信大模型一個東西能把什麽事都做到。
但我也同意，Google占據了市場的主導地位，擁有高達90%的市場份額。在這種情況下，我們可以看到，盡管其他公司也在努力，但目前還沒有哪家能夠撼動Google的地位。我們現在使用的GPT-4，它的市場地位也非常穩固，一旦用戶對其産生了依賴，就很難轉向其他服務。這種粘性使得通用技術領先的公司很難被取代。因此，在這個意義上，我同意超大模型有著廣泛的覆蓋能力和強大的市場影響力。但是其他企業也還是有機會的。
周忠和：這個問題看來還是值得討論。最後我們問一下薛老師，從政府的角度，如何更好地推進我國人工智能事業?
薛瀾：人工智能政府的政策，一方面是推動，推動它的發展，另外一方面是規制它的風險，所以這其實是兩個輪子同時轉。政府投入我覺得其實現在大家都想到了。但另外一點也非常重要，就是怎麽樣去營造一種生態，能夠讓中國的企業跟研究機構，包括跟高校等等，它能夠去形成一種很自然地融在一起，這個始終是中國要解決的問題。
這在中國人工智能領域尤其重要。就像剛才張老師講的，論文我們發得很多，專利也不少。我們最缺的還是生態，這是研究不出來的，需要領導們創造有利的條件，讓各種機構和人才能夠在這樣的環境下發揮作用。像智源這樣的組織，正是在這樣支持性的環境中得以建立和發展的。
政府在推動人工智能發展的同時，也需要規制其風險。此外，建立一個良好的生態系統，讓企業、研究機構和高校能夠自然地融合在一起，這對于中國來說是一個需要解決的問題。在全球層面上，我們需要建立一個全球性的風險防控機制，這需要政府、企業和研究機構的共同努力。同時，我們也需要認識到，人工智能的發展不僅僅是技術問題，更是社會問題。它涉及到倫理、法律、就業等多個方面，我們需要在這些方面進行深入的研究和討論，以確保人工智能的健康發展。
關于風險管理和規制，我想補充一點。這是一個多層次的問題。首先，我們需要在全球層面上盡快建立共識，制定一個全球性的風險防控機制。這不僅僅是政府的責任，也需要全球的企業和研究機構共同參與。雖然大家都在朝這個方向努力，但要真正讓這些措施落地也不容易。這是需要大家共同努力的。
觀衆提問 :
觀衆1：我是清華大學蘇世民書院2021級的畢業生，現在在智譜華章做産業生態方面的工作，非常謝謝各位老師，剛剛將近兩個小時的分享，非常有啓發。我有兩個問題，第一個問題，近來不少中國人工智能初創企業，尤其做C端應用的企業，選擇出海開展業務。可能出于兩個考慮:一是希望借助海外最先進的模型，二是海外付費市場相對更加成熟。與此同時，國內大部分公司則專注B端，就是幫助本土企業降本增效。您怎麽看待這種發展分野和趨勢?對中國人工智能的科研和産業化進程會産生何種影響?
第二個問題，OpenAI的Sam Altman最近發布了一個計劃，他打算斥資7萬億美元來推動半導體行業的革新和變革。各位老師如何看待這樣作爲私營企業去做這樣大規模的融資，對于整個産業界或者學術研究的影響？以及可能中國的生態如何受到它的啓發，或者我們怎麽能夠另尋一條路徑，來跟這樣的生態匹配？
現場觀衆
張宏江：回答第一個問題。出海這件事兒，你們注意到的是面向消費者的企業（to C）在進行海外擴張，但實際上，面向企業的企業（to B）的出海活動更爲頻繁，而且其實也非常有道理。
如果我們對比一下中美兩國的軟件市場和互聯網應用市場，尤其是在軟件工具和雲服務（SaaS）領域，我們會發現美國的企業市場（to B）遠比中國成熟。因此，中國的企業級軟件出海戰略不僅合理，而且非常必要。經過幾十年的發展，中國的軟件産業在toB領域相較于toC領域仍有較大的差距。如果我是企業決策者，特別是做toB業務，我會更傾向于出海，因爲那裏的市場對付費服務的接受度更高。
我還想多強調一下，toB軟件、工具類軟件或SaaS普及的重要性。toB軟件的核心在于爲企業提供提高效率的工具，比如Office、SAP或飛書等都是提升生産力的工具。當公司廣泛使用這些工具時，意味著它們在追求效率的提升。而我們很多公司還沒有充分利用這些生産力工具，這反映出我們的生産效率還不夠高，可能還在依賴人力來完成任務。所以，我希望大家不僅僅將這看作是一種商業模式，而是關乎我們是否能夠提升生産效率的關鍵問題。生産效率低，顯然對于産業是非常大的一個問題。
回到國內這25年，我始終非常羨慕海外的toB的軟件市場，我希望這塊未來能夠有所突破，這樣我們才能真正提高人均生産力，因爲人均收入的提升本質上依賴于人均生産力的增長。否則，我們的人均效率將持續面臨問題。這就是我對第一個問題的看法。
李航：我來回答第二個問題。人工智能的發展確實需要大量的投資。我們剛才討論到基礎研究應該是開源和公開的，這是AI技術發展的源泉。目前AI技術，特別是大型模型，更偏向于工程實現。我們觀察到，至少在某些領域，工業界的創新能力已經超越了基礎研究機構的創新能力。這是一個新現象，在人類科學研究史上前所未遇。
我相信開源的努力會繼續，因爲許多學者都在這樣做，盡管他們的工作可能在某些方面落後于像Open AI這樣的領先企業。例如，Lambda等項目是開源的，但我們也要認識到，即使是商業公司的開源，也有其特殊性質，背後可能有其他考慮。從技術推進的角度來看，開源可能仍然面臨挑戰，因爲它需要大量的開發工作，更重要的是技術創新。
我也同意，如果是閉源的模型，政府應該進行一定程度的監管，企業也應該承擔起責任，做正確的事，這非常重要。AI研究一般是在大規模的環境下進行的，AI的發展需要大量的投資，這是我們目前所面臨的現實。就像我們之前討論的，爲了推動技術向前發展，我們需要大量的資金來擴大模型的規模。
張宏江：我覺得7萬億這個數字跟閉源和開源不一定有直接關系。如果你認同Scaling Law，並且考慮過我們距離實現AGI還有多遠，還需要多少資源，那麽你可能會得出這樣的數字。我們可能需要投入這麽多資金，甚至更多，不僅是一家企業，可能還有其他企業也需要投入相似的資金量。這不是拍腦袋，而是基于Scaling Law的合理預測。隨著模型參數的增加，我們需要更強大的算力進行訓練和推理，更多的機房、更多的IDC設施和電力供應。如果現在的模型擴大1000倍，那麽這樣的投資規模可能就是必需的。爲了搭建這個系統、實現這個目標，就需要相應的投資。我覺得這是他的思考，而且從Sam的角度來說，這家夥想問題常常都是往10年以後想。
觀衆2：我博士畢業于清華大學精密儀器系，目前是在中國信息通信研究院做人工智能方面的技術産業研究。我的問題是，首先，我們提到人工智能的發展依賴于三個核心要素：算法、計算能力和數據。目前，算法研究可能面臨研究力量分散的問題，算力方面受到美國對高端AI芯片出口禁令的影響，而數據方面，高質量的中文數據集可能還不夠充足。面對這些挑戰，我們應該如何權衡這三者的優先級，有限發展哪一種。
其次，如果計算能力是目前制約我國發展像Sora這樣的先進大型AI模型的主要因素，那麽是否可以通過國家力量，整合國內現有的高端計算資源，比如英偉達的芯片，來支持國內科研人員的研發工作，從而實現我國在這一領域的突破？
李航：第一個問題，正如我之前提到的，從長遠來看，人才培養是最關鍵的。雖然算力目前遇到了瓶頸，但這相對是一個短期問題。長期來看，人工智能的發展離不開人才的培養。
個人認爲，本科教育非常重要。大學的研究工作，如何與産業界結合，推動人工智能領域的研究，這也是重要的。對于長期發展，最核心的還是人才。短期問題，比如數據問題，相對容易解決，但人才培養需要全社會的共同努力。
周忠和：說到人才，我想到了一個問題。我們通常關注人數和發表論文的數量，就像張老師之前提到的排名一樣。但在中國科技領域，我們現在需要的是真正的創新的拔尖的人才，這不僅僅是數量上的問題，對吧？
張宏江：沒錯。特別是在未來，那些湊數的很可能會被AI取代。我們需要的是那種能夠進行真正創新的人才。
薛瀾：我談談第二個問題。我覺得這是一個假設，這種假設是很難實現的。如果我們回到幾十年前，在舉國體制、計劃經濟下，說不定還有點可能。今天的這種情況我覺得是非常難的，所以這個前提不存在，我們就沒有必要探討到後面的部分了。
觀衆3：我是理論物理專業的學生，從原理上來說，AI是否可能具備提出全新基礎理論的能力？比如像相對論或標准模型這樣的理論。如果AI真的可以做到這一點，那麽我們是否可以得出結論，比如像現代的Transformer架構，它是否能自我産生出比自己更先進的架構？如果是這樣，那是否意味著AI具有一種自我進化的能力？
張宏江：如果你問的是AI能否設計出比自己更有效的工具，我認爲這是有可能的。關于AI是否能夠自我進化，目前我還看不到這樣的能力，但我不認爲這在未來是不可能的。隨著我們構建越來越大的模型，它們本質上會變得更智能。設計更大的模型需要更高的效率，如果AI能夠設計出更好的編程模塊，使工程實施比人類更高效，那麽在這一點上，我認爲AI是有可能實現自我超越的。
至于AI能否發現新的物理突破，我認爲這和問一個物理學家未來十年是否會有重大物理發現一樣，都是開放性的問題。不過有一個例子值得一提，那就是核聚變。核聚變本質上是創造一個小型太陽，而要實現這一點，我們需要能夠包裹住核反應的等離子體。核聚變主要的一種結構，托卡馬克（Tokamak）內部的等離子體，只能通過大型AI模型來完成設計。也就是說在核聚變這個領域，AI已經幫上忙了，因爲它能夠設計出之前人類無法設計的等離子體模型。所以，當我們談論到7萬億美元的投資時，可以說AI也在幫助解決自己的能源問題。
現場觀衆提問正在提問
周忠和：那AI能夠提出原創性的科學問題嗎？
張宏江：如果它能做數學推理和證明，我覺得就不遠了。
李航：我是這樣看待這個問題。AI目前還難以展現出真正的創造力，比如說那種顛覆性的創新，像相對論那樣我們從未想過的理論。雖然現在AI能夠發現新的定理、新的證明方法、新藥物和新材料，但它更像是在廣闊的搜索空間中尋找最佳答案。它能夠處理的規模是人類無法比擬的。
周忠和：也就是說，AI的發現是基于現有知識框架的，對嗎？
李航：可以這麽說。AI實際上是在一個巨大的搜索空間中尋找正確的解答，人是做不到那麽大規模的搜索的。從這個角度看，AI在未來的科學發現方面潛力巨大，我對AI for Science的未來發展非常樂觀，這個意義上的科學發現會非常多。
盡管我們還沒有完全解決AI for Science的數據問題，這不像互聯網數據相對豐富，但我認爲這個挑戰最終可以被克服。如果我們按照Scaling Law的思路來看，未來的發展空間是巨大的。但是，對于那些完全顛覆性的創新，比如相對論，我認爲AI目前還做不到。因爲AI的發現是基于我們設定的數據和搜索空間，它在這個範圍內進行組合和搜索，而不是創造出我們從未想過的新概念。所以，至少在目前，我沒有看到AI能夠突破這一點。
觀衆4：我是來自天氣預報領域的，首先，當AI模型能夠提供比傳統數理模型更准確的預測時，我們是否應該放棄那些我們熟悉且建立起來的數理模型，停止嘗試用它們去理解物理機制的過程？還是說，我們會依賴AI來告訴我們這個世界是如何運作的？
其次，隨著AI逐漸取代了許多傳統的白領工作，我們可能會面臨一個社會現象，大量的人可能不再需要工作。如果按照97比3的比例，那麽那97%的人將如何度過他們的生活？他們是否能夠發揮人類獨有的創造力？如果他們只是普通人，他們應該如何適應這樣的生活？社會又將如何看待這些不再從事傳統工作的人？我們對于“人應該如何生活”的哲學是否會發生根本性的變化？
張宏江：我的回答是，人類將持續探索新的領域和方法，因爲模型需要人來提供數據。這種數據包括新的方法。所以我覺得，人和模型會共存，而且互幫互助。但與此同時，模型的發展也會對人類提出越來越高的要求。想象一下，如果大部分事情模型都做得比人好，那對人類的能力和素質就會有更高的期望和標准。
薛瀾：您剛才提出的問題非常重要。實際上，我認爲這裏涉及到兩個方面的問題。首先，正如我們之前討論的，隨著人工智能的廣泛應用，特別是那些能力出衆的人可能會變得更加高效，而其他人可能就不再被需要。在這種情況下，我們首先需要面對的是社會分配問題。現行的社會分配制度可能需要進行重大的調整。否則，沒有工作的人可能會采取極端行動。因此，這個問題必須首先得到解決。現在，人們正在討論普遍基本收入（UGI）和其他各種新的分配方式，這些都是我們社會需要探索的。
當然，您提到的另一個問題也確實存在。在未來，我們目前所說的工作，可能不再需要如此大量的就業人口。這種情況下，未來人類生活的意義是什麽？我們應該如何創造新的方式，讓每個人都能在社會上生存並繼續過上有意義的生活？這也是我們整個現代社會需要積極探討的問題。不過，我相信技術進步雖然迅速，但社會的演變和適應能力也同樣強大。我們的認知和社會的容忍度將會隨著技術的發展而調整。
所以我認爲不至于在短期內，比如五年後，所有人都失業。但另一方面，我們需要有緊迫感。在適應這些變化的同時，探討未來人類社會的形態，以及我們如何維持有意義的生活是很重要的問題。這是需要我們大家共同努力的方向。
觀衆5：各位老師好，我是北航生物醫學工程專業的博士研究生，我現在的這個研究方向是人工智能在蛋白質設計中的應用。剛才幾位老師講得很清楚，現在人工智能已經非常的強大了，在未來，我們相信AI是專家的時候，我們怎麽去研判我們問它的問題，它反饋給我們的是正確的？
李航：這是一個開放性的問題。Open AI也在研究，當超人類智能出現時會發生什麽。這涉及到很多未知的問題。我個人觀點，我們現在不要過多地討論這些問題。
我們現在使用GPT-4，它有時會有機器幻覺，我們需要判斷它所說的是否正確。如果你了解它容易犯哪些錯誤，你就會更懂得如何使用它。我們需要掌握這種技巧。
周忠和：有人說有10%的錯誤率，真有這麽高嗎？
李航：不止10%。比如你問北京五塔寺的地址是什麽？GPT-4會回答錯誤。我試過，它會給出錯誤的答案。
周忠和：Sora也會犯錯吧？那個視頻看起來很吸引人，但裏面似乎也有一些問題……
李航：Sora現在甚至還沒有公開，據說實際上犯的錯誤也很多。我們需要逐漸適應這種工具的特性，了解什麽問題可以問，什麽時候問完後需要去核實。
未來還有很多這樣的開放性問題，比如剛才提到的科學發現，我們需要去驗證。我們需要確認它是否正確，數學證明也是如此，如果它聲稱證明了一個新的定理，我們仍然需要去驗證。這其中還有很多需要探索和研究的課題。我認爲這是一個新時代，科學研究也進入了一個新的時代。---來源: 知識分子-
