比爾·蓋茨和山姆·奧特曼都說了些什麽？
如果讓你列舉人工智能領域的領軍人物，有一個名字你可能會聽得最多：山姆·奧特曼（Sam Altman）。但如果讓你列舉軟件時代的巨擘，則一定會出現比爾·蓋茨（Bill Gates）的大名。
1月12日，OpenAI的CEO山姆·奧特曼（Sam Altman）作爲特邀嘉賓，參加了由比爾·蓋茨（Bill Gates）主持的播客節目《爲我解惑》（Unconfuse Me）。在這期節目中，兩位不同時代的先導者，共同探討了人工智能的現在及未來、對人類社會的影響、人工智能監管的形式，以及各自對個人和團隊發展的建議等等。
整場對話長達 32分鐘，信息量巨大。其中包括：1、未來兩年間，GPT模型的關鍵裏程碑將是多模態，即涉及語音、圖像和視頻等多個模式的生成和表達；2、大模型將在推理、定制化、個性化、自適應等方面極大發展；3、人工智能將在編程、醫療、教育等領域提高生産力，解放人類創作力；4、未來5到10年，對人工智能的訓練效率和准確性理解將取得更多進展，現有的大模型會顯得“愚蠢不堪”；5、當前大模型正處于最快速的成本下降曲線上，這將成爲社會轉型的關鍵；6、長出了人工智能做“大腦”的機器人産業很可能影響勞動力市場，尤其是藍領工作等等。
值得注意的是，雖然兩位大佬在交談中沒有發生明顯的碰撞，但二者的立場態度似乎有所不同。例如，Altman對人類社會適應人工智能保持樂觀態度，並暗示——人工智能可以解放人類創造力，而不是搶占人類的工作機會；而Bill Gates似乎更擔心人工智能所帶來的負面影響。此外，和Altman相對激進的風格不同，Bill Gates更多是作爲抛出問題的采訪者和傾聽者。
適道對完整版訪談進行了簡譯。爲方便大家絲滑閱讀，改寫、刪除了一些不影響原文內容的表達。
01 開場——重提OpenAI政變
Bill Gates：今天的嘉賓是Sam Altman。他是 OpenAI的首席執行官。長期以來，他一直是科技行業的創業者和領導者，包括經營 Y Combinator，這家公司做了很多了不起的事情，比如投資 Reddit、Dropbox、Airbnb。
在我錄制節目不久後，Altman被解除了 OpenAI 首席執行官的職務，解雇後的幾天內發生了很多事情，包括幾乎所有 OpenAI 員工聯名支持Sam回歸，而現在，Sam又回來了。所以，在你聽到我們的對話之前，讓我們先來了解一下Sam，看看他現在過得怎麽樣。
Bill Gates：你還好嗎？
Sam Altman：哦，天哪。這真的太瘋狂了，我還好。這是一個非常激動人心的時期。
Bill Gates：團隊情況怎麽樣？
Sam Altman：我猜，很多人都注意到了這樣一個事實，那就是團隊從未如此高效、樂觀、出色。這也正是所有事情背後的一絲慰藉。在某種意義上，這是我們成長的真正時刻，我們非常有動力變得更好，變成一個全副武裝，迎接挑戰的公司。
Bill Gates：太棒了。所以，我們在對話中不會討論那件事。然而，你會聽到Sam致力于建立一個安全、負責任的人工智能的承諾。我希望你喜歡這次對話。歡迎來到《爲我解惑（Unconfuse Me）》。我是Bill Gates。
Bill Gates：今天，我們將主要聚焦于人工智能，因爲它如此令人興奮，人們同時也對它感到擔憂。歡迎，Sam。
Sam Altman：非常感謝你邀請我來參加節目。
02 回顧——ChatGPT源于結果先行
Bill Gates：我有幸見證了你們的工作進展，但剛開始時，我其實非常懷疑，也沒期待過 ChatGPT 能做得這麽好。實際上，我們並不懂這種編碼形式。我們知道數字，看到它相乘，但如何將莎士比亞的作品編碼？你認爲我們能對這種表達産生更深的理解嗎？
Sam Altman：百分之百可以。要在人腦中做到這一點非常難。可以說，這是一個相似的問題，這些神經元彼此相連。但連接在變化，我們不可能切開大腦來觀察，但我們可以完美地透視。
目前，我們在可解釋性（interpretability）方面，已經展開了一些非常棒的工作，而且我認爲隨著時間推移，會有更多的解釋出現。我們將能夠理解這些（神經）網絡，即便我們目前的理解能力還很低。而正如你所樂見的一切，我們憑著目前了解的那一點，已經能很大程度上改進人工智能模型了。
所以，撇開科學好奇心不談，我們都有動力去真正地了解它們，盡管它們的規模是如此龐大。我們甚至還可以說，莎士比亞的作品是在你大腦的哪個位置編碼的，又是如何表現的？
Bill Gates：我們不知道。
Sam Altman：我們確實不知道。可以說，在這些我們本應能夠完美透視、觀察並進行任何測試的大量數據中，現在我們還是找不到答案，這就讓人興致缺缺。
Bill Gates：我非常確信，在接下來的五年內，我們會理解它（LLMs）。就訓練效率和准確性而言，這種理解將讓我們未來做的比今天能做的好得多。
Sam Altman：百分之百同意。你會在衆多技術的發展曆程中看到這一點。即，人們雖然不知道所以然，但在結果上卻又行得通。而此後，隨著人們對科學理解的加深，這項技術也會變得更好。
Bill Gates：是的，在物理學、生物學中，有時只是隨便一通亂試，然後就“哇”的一聲——這究竟是怎麽實現的？
Sam Altman：在我們以往的案例中，構建 GPT-1 的那個人自己解決了這個“哇”的問題，這令人印象深刻。只不過，我們沒有深入理解它是如何工作的，以及爲何是有效的。之後，我們才有了拓展規律，借此預測它（GPT）會變得多好。
這就是爲什麽當我們告訴你可以做演示時，我們相當有信心。雖然當時我們還沒有訓練模型，但我們信心十足。後來我們做了大量嘗試，並對正在發生的事情有了越來越深入的科學理解。但現在從頭來看，這（GPT）確實源于實證結果先行。
03 展望——未來兩年主旋律：多模態、推理性、可靠性、個性化、自適應
Bill Gates：當你展望未來兩年，你認爲，在人工智能發展上，會出現哪些重要的裏程碑？
Sam Altman：多模態（Multimodality）肯定會很重要。
Bill Gates：你指的是語音輸入、語音輸出？
Sam Altman：語音輸入、語音輸出，然後是圖像，最終是視頻。顯然，人們是真的需要這些。我們已經推出了圖像和音頻，反響比我們的預期要強烈得多。我們將會進一步推進這些功能，但也許，最關鍵的進步將圍繞推理能力展開。
現在， GPT-4 的推理能力和可靠性還非常有限。比方說，對于大部分問題，如果你問 GPT-4 10000 次，這10000 次中可能有一次回答得很好，但 GPT-4不一定知道這是哪一次。而你卻希望自己的每次詢問，都能得到這 10000 次中最好的回答。因此，GPT可靠性的提升將非常重要。
可定制性和個性化也非常重要。人們對 GPT-4 的需求各不相同：不同的風格，不同的假設集，我們將會讓所有的這些成爲可能，還能讓GPT-4 使用你自己的數據。它會足夠了解你、了解你的電子郵件、你的日曆、你喜歡的預約方式，並與其他外部數據源連接，所有這些都將是最重要的改進領域。
Bill Gates：在目前的基礎算法中，GPT只是在做簡單的前饋、乘法。所以，看起來是生成了每一個新詞，但它本質上都在做同樣的事情。我很感興趣的點是，如果你們最終能解出複雜數學方程等難題，那麽你們可能要做多次應用變換，這時候，用于推理的控制邏輯可能比我們今天所做的要複雜得多。
Sam Altman：至少，我們似乎需要某種形式的自適應計算。現在，我們在每個問題上都花費相同的計算量，無論是做一道簡單題還是一道複雜的數學題。
Bill Gates：是的，比如說，「解決黎曼假設……」
Sam Altman：那可要進行大量計算。
Bill Gates：但它所使用的計算量跟寫個“The”一樣？
Sam Altman：對，我們至少得讓它能進行下去。我們還需要在這之上解決更複雜的東西。
04 監管——效仿國際原子能機構（IAEA）
Bill Gates：我們倆都參加過一個參議院的教育會議，很高興大約有 30 名參議員都參加了那次會議。畢竟（人工智能）是一個如此重大的變革，我不認爲我們在吸引政客關注這方面做的太過。當你談論監管時，你是否清楚要構建哪種類型的監管？
Sam Altman：我們已經開始解決這個問題了。對人工智能領域進行過度監管是非常容易的，你可以看到，過去許多此類事情在發生。如果我們是正確的，並且人工智能能夠發展到我們所設想的那樣，即——影響社會、地緣政治力量的平衡，以及很多事情。
對于這些仍然是假設性的，但未來極其強大的人工智能——不是說 GPT-4，而是針對計算能力是GPT-4的 10 萬倍或 100 萬倍的系統，我們已經接受了一個全球監管機構的想法，這個機構將緊盯這些超級強大的系統，因爲它們確實會産生如此大的全球影響。
我們談論的一種模式是類似國際原子能機構（IAEA）。例如，在“核能”方面，我們做出了同樣的決定。而由于人工智能潛在的全球影響力，需要一個全球性的機構（監管）。我認爲這是合理的。當然，在此期間會出現很多短期問題，比如可以說什麽，不可以說什麽；我們如何看待版權問題，對此，不同的國家會有不同的考慮，這都沒問題。
Bill Gates：一些人認爲，如果存在如此強大的模型，我們就會對此感到害怕——全球核監管之所以行之有效，是因爲每個人，至少在民用方面，都希望共享安全實踐，這一點做得非常好。
而當涉及核武器時，就不會出現這種情況了。因爲問題的關鍵在于，阻止整個世界做危險的事情，就需要有全球政府（合作）。但從目前我們所能看到的衆多問題中，例如氣候問題、恐怖主義，你可以看到我們（全球政府）很難達成合作。人們甚至援引中美競爭，來解釋任何放緩的想法都是不對的。難道說，任何放慢腳步的想法，或者說放慢腳步以求謹慎，都很難實施嗎？
Sam Altman：是的，我認爲要求放慢發展速度是非常困難的。如果改成“做你想做的事，但任何計算集群都不能超過一個特定、極高的功率門檻”——鑒于巨大的成本，我們可能只會看到五個這樣的模型——任何這樣的集群都必須接受類似國際武器檢查員的審查。該模型必須可供安全審核，在訓練期間和部署之前通過一些測試。我覺得這是可能的。
我以前還不太確定以上想法是否可實現，但今年（2023年），我周遊世界各地，並和許多需要參與這一活動的國家的元首交談，幾乎得到了普遍的支持。雖然這不能保證我們能夠脫離一切風險。畢竟，對于規模小得多的人工智能系統來說，仍然會出現問題。但我認爲以上舉措可以幫助我們應對人工智能帶來的最大風險。
05 應用——解放人類創造力，尤其是編碼、醫療、教育領域
Bill Gates：現在，我們看到人工智能帶來了很多生産力方面的提升，這是非常棒的事情。你最興奮的領域是哪些？
Sam Altman：首先，我始終認爲，我們正處于一條漫長、連續的發展曲線上。現在，我們擁有了可以執行任務的人工智能。當然，雖然它們不能完成一份完整的工作（一個崗位能做的所有事情），但它們可以完成一些任務，並提高人類員工的生産力。最終，人工智能將能從事更多今天人類所做的工作，而我們人類當然也會找到新的、更好的工作。
我完全相信，如果你爲人類提供更強大的工具，人類不僅僅可以工作得更快，還可以做一些質變的工作。比如現在，我們可以將程序員的工作速度提高三倍。這就是我們所看到的，也是我們最興奮的領域之一，人工智能做得非常好。
但是，如果你能讓程序員的效率提高三倍，那麽，程序員能做的事情就不僅僅只是（在數量上）多了三倍。因爲，人類程序員可以能在更高的抽象層次上，使用更多的腦力去構思完全不同的事情。這就好比從打孔卡（punch card）躍升到更高級的語言，不僅讓我們編程速度更快，還能解放人們做高質量的創新事物。大家也看到了這一點。
而當我們將目光投向下一代人工智能時，你可以將它想象成一個小代理（Agent），對它說：“幫我寫完整個程序，我會在過程中問你幾個問題，不僅僅是一次只寫幾個函數這麽簡單”。如此下來，就會誕生很多新生事物。而它（人工智能）也能做更複雜的事情。例如，在未來某天，你可以對人工智能說：“幫我建立並運營這家公司。”“去發現新的物理學。”等等。
我認爲，至少在未來的五年或十年內，人工智能技術將處于一條非常陡峭的成長曲線上。而在那個時候，我們現有的這些模型都會變成最愚蠢的模型。
編程或許是我們今天感到最興奮的一個提高生産力的領域。目前，它已經被大規模部署使用。醫療保健、教育是另外兩個我們非常期待的快速發展領域。
06 社會——機器人影響勞動力市場
Bill Gates：令人生畏的是，與以往的技術發展軌迹不同，人工智能的進步速度非常快，而且沒有上限。它可以在很多工作領域達到人類的水平，即使做不出獨特的科學研究，它至少能打客服、銷售電話。盡管人工智能是一件好事，但它迫使我們比以往任何時候都要更快地適應這項技術。
Sam Altman：這才是可怕的地方。並不是說我們必須適應，也不是說人類沒有超強的適應能力。在我們經曆過的一些大規模技術變革中，人類所從事的大量工作可能是在幾代人的時間內發生變化，而在這漫長的時間中，我們可以很好地消化這些變化。
雖然，每次技術革命都會變得更快，但人工智能將是迄今爲止最快的一次。這就是我覺得有點可怕的地方——我們的社會到底要以何種速度去適應人工智能的發展，應對勞動力市場將發生的變化。
Bill Gates：人工智能的一個方面是機器人技術，或者說藍領工作，當機器人具有和人類一樣（靈活）的四肢時，我擔心人們會不再關注藍領。你如何看待機器人？
Sam Altman：我對此非常興奮。我們很早就開始研究機器人，以至于不得不擱置那個項目。我們一直在處理糟糕的模擬器和肌腱斷裂之類的問題。
隨著時間的推移，我們越來越意識到，（機器人研發）首先需要解決智能和認知問題（機器人的大腦部分），然後才能弄清楚“如何讓‘大腦’適應身體的物理特性”的問題。而從我們構建語言模型的過程來看，問題從這裏開始就會變得容易解決。
我們一直計劃回到這個項目（機器人研發）上來。目前，我們已經對一些機器人公司進行投資。在物理硬件方面，我也終于第一次看到了真正令人興奮的新平台出現。到時候，我們就能利用自己的模型，就像你剛才說的，利用它們的語言理解能力和未來的視頻理解能力，說：“好吧，讓我們用機器人做一些了不起的事情吧。”
Bill Gates：如果那些已經把“腿部”做得很好的硬件人員能把手臂、手掌和手指做出來，我們再把它們組合起來，且價格不貴得離譜，那麽這將會迅速改變很多藍領類工作的就業市場。
Sam Altman：是的。當然，如果我們回溯七到十年，大家的共識是機器人先會影響藍領工作，其次才是白領工作。
創造力工作可能永遠不會被影響，要影響也起碼是最後一個，因爲創造力是魔法，是人類的強項。
顯然，現在的情況可能正好相反。我認爲這其中有很多有趣的原因能夠解釋。因爲，在創造性工作方面，GPT 模型的幻覺是一個功能，而不是缺陷，它能讓你發現一些新事物。
然而，如果你要讓機器人移動重型機械，最好能做到非常精確。我認爲這是一個必須順應技術發展的例子。你可能會有一些先入爲主的觀念，但有時科學並不往那個方向發展。
07 成本——生成式AI使用成本將急速下降
Bill Gates：就公平性而言，技術通常很昂貴，比如PC或互聯網，成本下降需要時間。我猜，運行這些人工智能系統的成本可不是小數字，每次評估的成本會下降很多？
Sam Altman：已經降了很多。GPT-3 是我們推出時間最長、優化最久的模型，在推出的三年多裏，我們已經將成本降低了 40 倍。對于三年的時間來說，這是一個很好的開始。至于GPT-3.5版，我敢打賭，目前我們已經將其成本降低了近 10 倍。
因爲GPT-4 是新産品，我們還沒有那麽多時間來降低成本，但我們會繼續努力。
我認爲，在我所知道的所有技術中，我們的成本下降曲線是最陡峭的，遠勝于摩爾定律。
這不僅是因爲我們想出了如何讓模型更高效的方法，還和我們對研究産生了更深的理解有關，我們可以在更小的模型中獲得更多知識和能力。未來，我們將會把智能的成本降低到接近于零的程度，而這對社會來說，將是一次前無古人，後無來者的變革。
現在，我的世界基本模型由智能成本和能源成本組成（Bill Gates笑了）。如果你能同時降低這兩方面的成本，你能擁有更多的東西，爲人們帶來更大的改善。我們正處在（降低成本）的曲線上，至少在智能方面，我們將真正實現這一承諾。
即使按照目前20美元/月的價格，你就能獲得大量的 GPT-4 訪問權限，而（你獲得的價值）遠遠超過了 20 美元。我們已經降得很低了。
08 觀察——最佳創始人比以往更老一些
Bill Gates：那競爭呢？很多人一下子擠進這個賽道是不是很有趣？
Sam Altman：既令人生厭，又充滿動力和樂趣，我相信你也有過類似的感受。這促使我們做得更快、更好，我們對自己的方法很有信心。有很多人正滑向冰球所在的位置，而我們也將前往冰球要去的地方。感覺還可以。
Bill Gates：我認爲人們會對 OpenAI的規模之小感到驚訝。你們有多少員工？
Sam Altman：大約 500 人，我們的規模還比以前稍微大了一些。
Bill Gates：但還是很小，要是以谷歌、微軟、蘋果的標准來看。
Sam Altman：確實很小，我們不僅要做實驗室，現在還要經營一家真正的企業和兩款産品。
Bill Gates：你們是一家年輕的公司嗎？
Sam Altman：比平均年齡要大一些。這裏不是一群 24 歲的程序員。
Bill Gates：的確，我的視角有些扭曲了，因爲我已經 60 多歲了，畢竟你比我年輕。但你說得對，你們很多人已經四十多歲了。
Sam Altman：三十多歲、四十多歲、五十多歲（的人）。
Bill Gates：這不像早期的蘋果、微軟，那時我們真的還是孩子。
Sam Altman：對，我也反思過這個問題。我認爲現在公司普遍變老了，我不認爲這是件好事。我在YC想到過這個問題。可能隨著時間的推移，那些最佳的創始人逐漸變老。就我們而言，比平均水平要老一點，但仍然如此。
Bill Gates：這很有意思。
09 創業——聚集頂尖人才，不急于短期收益
Bill Gates：你在 YC 的經曆中學到了很多，我想這對你現在的工作也是很好的鍛煉。
Sam Altman：非常有幫助。
Bill Gates：包括看到錯誤。
Sam Altman：完全正確。實際上，OpenAI 做了很多和 YC 建議相反的事情。我們花了四年半時間，才推出了自己的第一個産品。而在公司成立之初，我們對産品沒有任何概念，我們也沒有和用戶交流（雖然我不建議大多數公司這樣做）。但在 YC 學習並看到這些規則後，我才明白了——何時、如何以及爲何OpenAI 可以打破這些規則。我們確實做了一些與我見過的其他公司截然不同的事情。
Bill Gates：關鍵在于你聚集人才，讓他們專注于更大的問題，而不是某些短期收益問題。
Sam Altman：我認爲矽谷的投資者不會爲我們提供幫助，因爲我們必須在研發上花費非常龐大的資金才能推出産品。我們只是說：“最終模型會足夠好，我們知道它會對人們有價值。”但我們非常感激與微軟的合作，因爲這種超前投資並不是風投擅長的。
Bill Gates：確實不是，而且資金成本相當可觀，幾乎達到了風投所能承受的極限。
Sam Altman：可能已經超過了。
Bill Gates：確實可能。我非常贊同Satya“將傑出的人工智能組織融入大型軟件公司”的思考，結果是“一加一遠遠大于二”。
Sam Altman：是的，這很棒。你說到了關鍵，這也是我從 YC 學到的。我們說過：聘請世界上最優秀的人才，確保自己的目標方向和AGI使命保持一致。但除此之外，我們要讓人們做自己的事情。我們意識到這會經曆一些曲折，也需要一段時間。
當然，我們的理論被證明是大致正確的，但一路上很多策略又被證實是非常錯誤的。我們所做的只是盡量遵循科學的規律。
Bill Gates：我記得我看演示時想過，這個項目的收入途徑是什麽？是什麽樣的？而在這個狂熱的時代，你仍然手握一支令人難以置信的團隊。
Sam Altman：是的。優秀的人確實希望和優秀的同事一起工作。
Bill Gates：這是一種吸引力。
Sam Altman：而且還有一個很強大的引力重心。這聽起來很老套，每家公司都這麽說。但人們確實感受到了深深的使命感，每個人都想參與AGI的創建。
Bill Gates：那一定很激動人心。當你再次用演示震撼我時，我可以感受到那股力量。我看到了新人，新的想法，而你們仍以非常不可思議的速度前進著。
10 建議——組建一支六邊形團隊
Sam Altman：你最常給出的建議是什麽？
Bill Gates：才能可以分很多種，在我職業生涯的早期，我認爲只有純粹的智商，比如工程智商。當然，你可以將其應用于金融和銷售。但這種想法被證明是如此錯誤，因爲，組建一支擁有正確技能組合的團隊是如此重要。
針對團隊成員的問題，要引導他們思考如何建立一支擁有各類技能的團隊，這可能是我認爲最有幫助的建議之一。是的，告訴孩子們，數學、科學很酷，如果你喜歡的話。但真正讓我驚訝的是這種天賦的組合。你的建議呢？
Sam Altman：我想說，大多數人對風險存在誤判。他們害怕離開舒適圈去做自己真正想做的事。事實上，如果他們不這樣做，他們回顧自己的一生時就會說 “天啊，我從來沒有去創辦我想創辦的公司，或者我從來沒有嘗試去做一個人工智能研究員”。實際上，我認爲這樣做（後悔）帶來的風險更大。
與此相關的是，要明確自己想要做什麽，並向別人提出自己的要求，就會有意想不到的收獲。
很多人受困于把時間花在自己不想做的事情上，而我最常給的建議可能就是想辦法解決這個問題。
Bill Gates：如果你能讓人們從事一份讓他們有目標感的工作，那會更有趣。有時這能夠産生巨大的影響力。
Sam Altman：當然。
Bill Gates：感謝你的到來，這是一次精彩的對話。在未來的日子裏，我相信我們還會有更多的交流，因爲我們正努力以最好的方式塑造人工智能。
Sam Altman：非常感謝你的邀請，我真的很享受與你對話。
Bill Gates：《爲我解惑（Unconfuse Me）》是蓋茨筆記的一個節目。特別感謝我今天的嘉賓Sam Altman。---來源: 钛媒體-
