【新智元導讀】今年的諾獎將物理和化學兩個領域的獎項都頒給了AI成果，這究竟代表著怎樣的含義，又會産生怎樣的影響？Demis Hassabis在本次專訪中提出了自己的見解。
10月，DeepMind聯合創始人兼CEO Demis Hassabis憑借AlphaFold成爲了諾貝爾化學獎的三位共同獲獎者之一。
作爲一種人工智能軟件，AlphaFold解決了一個生物學界50年前提出的問題：預測每種已知蛋白質的結構。
事實上，AlphaFold這個極具開創性的模型，也僅僅是DeepMind成果的一部分。成立15年來，DeepMind已經跻身爲全球最重要的AI實驗室之一。
盡管被谷歌收購、與Google Brain合並後加入了一些商業考量，但他們目前仍然專注于科學和工程中最複雜和基本的問題，最終設計出能夠模仿，甚至取代人類認知能力的強大AI。
獲得諾獎後不到24小時，Demis Hassabis就接受了《金融時報》記者Madhumita Murgia的采訪，討論了DeepMind下一步將要解決的重大難題、AI對科學進步的作用，以及他本人對AGI之路的前景預測。
Demis Hassabis在谷歌DeepMind倫敦總部
AI4Science的下一個挑戰
AlphaFold 3的相關進展，就一定程度上彰顯了DeepMind在生物學領域下一步的前進方向——理解生物體內的相互作用，最終對整個通路進行建模，甚至可以構建出一個虛擬細胞。
此外，通過DeepMind子公司Isomorphic的努力，他們也在進軍藥物發現領域——設計全新的化合物、找到結合位置，並預測出這些物質的特性、吸收性、毒性等等。
目前，Isomorphic還與禮來、諾華等公司合作開展了6個藥物研發計劃，有望未來幾年內在臨床上有所進展，希望能大幅縮減藥物發現所需時間，從而幫助治愈一些疾病。
除了生物學領域，Hassabis也表示對材料設計領域的工作感到十分興奮。
去年，他們在Nature上發表的一篇論文提出了名爲GNoME的AI工具，實現了AlphaFold 1級別的材料設計，共發現了220萬個新晶體；下一步，就需要努力達到AlphaFold 2級別。
論文地址： https://www.nature.com/articles/s41586-023-06735-9
數學方面，AlphaProof和AlphaGeometry已經在今年達到了IMO銀牌的水准，接下來的幾年，DeepMind將嘗試借助AI的力量真正解決一個重要的數學猜想。
對于能源和氣候領域，去年在Science上發表的Graphcast模型能在1分鍾內以前所未有的精度預測未來10天的天氣。
論文地址：https://www.science.org/stoken/author-tokens/ST-1550/full
這其中的技術，或許可以幫助進行氣候建模，這對于應對氣候變化、優化電網等領域都非常重要。
可以看出，DeepMind的未來藍圖中，重點更多地放在應用和工程實踐層面，旨在將技術進一步轉化爲能夠影響現實世界的工作，而非純粹的基礎研究。
對此，Hassabis表示，「蛋白質折疊」是一個「可遇不可求」的「挑戰」，不能要求每個問題都有如此含金量。
「蛋白質折疊」這個問題如此核心且重要，相當于生物學領域的費馬大定理，但可惜的是，沒有多少問題足夠重要、探索時間足夠長，能夠被稱之爲「挑戰」。
諾獎將成爲AI的分水嶺
今年的諾貝爾物理和化學獎項接連頒給AI學者，這很有趣，但誰也說不清評獎委員會爲什麽會做出這樣的決定。
對此，Hassabis如何理解？
他表示，這很像是委員會特意發表的一種「聲明」，也將成爲AI的分水嶺時刻，標志著它的技術成熟度得到了足夠的認可，能夠協助科學發現。
AlphaFold就是最好的例子，而Hinton和Hopfield的獎項則是針對更基礎、更底層的算法工作。
Hassabis表示，希望10年後回顧當下時，AlphaFold將預示著所有這些不同領域的科學發現的新黃金時代。
這也帶來了一個有趣的問題：有了AlphaFold這樣的工具，科學家們不再需要花費過多的時間和精力來進行預測，這是否意味著我們應當去開拓新的領域？甚至改變學習科學概念的方式？
需要注意的是，AI系統是一類獨特的新工具，它們具有一些內在的功能，因而不適用于傳統意義上對工具的分類。
雖然AlphaFold等工具目前只能做到預測，但從某種意義上說，預測也是「理解」的一部分。如果你能預測，那就可以帶來理解。
甚至，如果預測的輸出足夠重要，比如蛋白質的結構，那麽它本身就是有價值的。
從更宏大的視角來看，科學中包含了很多層次的「抽象」。
比如，整個化學領域就是建立在物理學的基礎上。你不需要理解量子力學等全部的物理原理，也可以談論原子化合物，在化學自身的抽象層去理解它。
對生物學領域而言，我們可以研究生命，但仍然不知道生命是如何進化或出現的，甚至無法正確定義「生命」這個概念。
類似的，人工智能也像一個抽象層，構建程序和網絡的人們在一定的物理層面上理解這一點，但隨後産生的預測結果就像一種突然湧現的屬性，我們可以在科學的層面上自行分析這些預測。
AGI迫近，理解很重要
無論是自然科學，還是人工智能系統，「理解」都很重要。
人工智能是一門工程學科，這意味著你必須先建造出一個系統，之後才能研究、理解這個對象；而自然科學中的現象不需要制造，是天然存在的。
雖然AI系統是工程化的人造物，但這並不意味著比自然現象更容易研究，甚至可以預期到的是，它會像生物神經網絡一樣難以理解、分拆和解構。
現在這種情況正在發生，但我們已經取得了一些進展，比如有一個專門的領域叫做「機械解釋」（mechanistic interpretation），就是使用神經科學的觀念和工具來分析AI系統這個「虛擬大腦 」。
對于AI的可解釋性，Hassabis非常樂觀，認爲未來幾年就會在理解AI系統這方面取得很大進展。
當然，AI也可以學著解釋自己。想象一下將AlphaFold與語言能力系統結合起來，它就可以一邊預測，一邊解釋自己在做什麽。
目前，很多領先的實驗室正在縮小他們的探索範圍，專注于對Transformers進行擴展。不可否認，這是一個很好的方向，也將成爲最終AGI系統的關鍵組成部分，但DeepMind會繼續堅持探索和創新研究。
事實上，對于發明下一代Transformer而言，DeepMind擁有迄今爲止最廣泛、最深入的研究平台，這是他們科學遺産的一部分。
這些探索都是必要的，一部分原因是爲了看看我們能走多遠，這樣就知道需要探索什麽。
探索新想法，以及將令人興奮的想法發揮到極致，這兩條路都很重要。如果你不了解當前想法的絕對局限，也不會知道需要哪些突破。
LLM的長上下文窗口就是一個很好的例子。谷歌Gemini 1.5 Pro做出的2M token上下文就是一個很酷的創新，目前沒有其他人能夠複制。
谷歌DeepMind倫敦辦公室
理解AI，才會有安全的AGI
Hassabis和很多科技領袖都曾預測，實現AGI還需要5～20年的時間。
如果要用科學方法實現這一目標，就意味著更多的時間、精力和思考，集中在AI的理解和分析工具、基准測試和評估上，需要目前投入的10倍。
這些投入不僅來自科技公司，還應包括AI安全機構，也來自學術界和民間社會。我們需要了解AI系統正在做什麽、它們的局限性，以及如何控制和保護這些系統。
「理解」是科學方法的重要組成部分，卻是純工程中所缺少的。工程只是旁觀——這個方法有效嗎？如果不起作用就再試一次，充滿了試驗和誤差。
科學則是在一切發生之前就能理解的東西。理想情況下，這種理解意味著更少的錯誤。這對于AI和AGI來說很重要，因爲在運用一項如此強大的技術時，你希望盡可能少地犯錯誤。
也許幾年後，當我們接近AGI時，就會出現一個社會問題——我們希望這些系統具有什麽價值？我們要爲它們設定什麽樣的目標？
這與技術問題不同。技術層面關注的是如何讓系統走上正軌，朝著設定的目標前進，但並不能幫助我們決定目標應該是什麽。
爲了安全的AGI系統，技術問題和社會問題，這兩件事都需要正確，但Hassabis認爲，後者可能更難實現。
目標和價值觀等一系列問題，會更多地涉及UN和地緣政治，甚至社會科學和哲學，需要與政府、學術界和民間社會各階層進行廣泛的討論。
即使AGI還需要10年才能實現，我們解決這些問題的時間也並不是很多，因此這方面的討論應該從現在開始，讓各種來源、各種觀點的聲音呈現在桌面上。---[新智元報導*編輯：喬楊/來源 : 新智元 ]
參考資料：https://www.ft.com/content/72d2c2b1-493b-4520-ae10-41c1a7f3b7e4
