過去一年，全球迎來新一輪人工智能（AI）熱潮，從ChatGPT的更新叠代，到Sora的出現，大量與 AI 相關的研究快速推進。
“時隔一年回到博鳌，可以看到與 AI 相關的技術産業已發生了翻天覆地的變化。”中國工程院院士、清華大學智能産業研究院院長張亞勤表示。
而與此同時，AI 潛在的安全風險也引發越來越多的關注與討論。包括歐盟、聯合國等國際組織正加速推動相關監管法案的制定工作。那麽，2024年，全球AI領域監管將走向何方？如何推動在全球形成統一的AI治理框架和標准規範？
日前舉行的博鳌亞洲論壇2024年年會上，與 AI 相關的分論壇共有三場，分別是科技革命“奇點”離我們有多遠、AIGC改變世界，以及人工智能全球治理。钛媒體App簡單梳理其中的關鍵發言。
AI 一日，人間一年
在不少專家看來，AI 技術不僅能顯著提高生産效率，在改善人類福祉方面也是潛力巨大。
張亞勤認爲，大模型和生成式AI之間的關系是前者爲後者提供了基礎。他預計，大模型將朝多模態、自主智能和邊緣智能方向發展，而生成式AI不再局限于傳統的識別任務，還能進行創造和生成工作，如編寫代碼、設計藥物等。
《人工智能：現代方法》作者、加州大學伯克利分校計算機科學系教授斯圖爾特·羅素表示，“AI改變著創意産業，作者、商業作曲者和藝術家都將被AI取代，這些都很難預測。雖然幾十年來有人說技術帶來的失業是不存在的，我們有理論可以證明這一點。但現在有人說這種理論是錯的，人類的工資可能會變爲零。”
咨詢公司羅蘭貝格全球管理委員會聯席總裁戴璞(Denis Depoux)稱，大量資本正流入AI領域，尤其是投向開發大語言模型的公司。
他指出，早期AI技術與企業現有系統的集成挑戰，正被語言模型所克服，它們成爲了關鍵的接口。這一發展預示著將加速AI的采納，開啓了一系列用例，包括加速工程速度、由機器驅動的産品研發，以及提升服務行業的生産力和質量。
“一個顯著的例子是呼叫中心，降低成本往往導致服務質量下降，因爲接聽電話的人員技能不足，無法恰當地服務客戶。用AI替代這些角色可以確保更高質量的服務，將人力資源重新分配到重視個人互動的任務上。”戴璞稱，AI的部署推廣需要時間，其許多客戶正就具體用例“詢問非常具體的問題”，這一趨勢預計將持續增長。
“ AI 是人類的未來，我們要全力以赴，搶占先機。”在小i集團董事長兼首席執行官袁輝看來，AI 所帶來的變革，不僅是改變某些産業，而且會變得像空氣和水一樣，無處不在。
如今，AI 技術變革加快，AI 一日，人間一年。AI 相關學科發展、理論建模、技術創新、軟硬件升級等整體推進，正引發鏈式突破，推動經濟社會各領域從數字化、網絡化向智能化加速躍升。
袁輝強調，“數字經濟是未來發展的趨勢，數字經濟的核心是人工智能。誰能通過算法掌控數據，誰就擁有話語權。”
科大訊飛研究院副總裁、研究院院長劉聰表示，“這一波通用大模型浪潮席卷了全球，AI 非常受關注，包括過去一年中國在通用大模型和産業應用也做了非常多的應用。我們在內容的生産、在全自動地完成任務交互上，包括顛覆原來傳統的編程，以及科研新範式，都在産生快速的進展。在這個過程中我可能更多地談在中國我們怎麽樣做通用大模型。在中國，我覺得我們自己現在跟國際上頂尖水平還是有差距的，這是一個共識，當然這個差距我們也在持續地追趕。在中國我們有一個點就是關于自主可控，關于軟硬件自主可控這塊還是非常關鍵的點，我仍然認爲，現在整個通用大模型發展是系統性的機制，但是主戰場我認爲還是底座大模型。從這樣一個角度，我們認爲在自主可控的硬件平台上去研發可以對標國際頂尖大模型。有了這樣的大模型後，我們的行業應用其實有更好的發展舞台，用人工智能+非常有可能成爲發展新智生産力的非常重要的引擎。”
劉聰在博鳌期間向钛媒體App等透露，科大訊飛計劃在今年6月正式發布對標GPT-4 （Turbo）當前能力的訊飛星火大模型V4.0版本。
建立全球AI治理架構迫在眉睫
“AI發展風險需引起重視。”張亞勤認爲，AI發展對算力非常依賴，算法效率低下的問題值得關注。
斯圖爾特·羅素坦言，當前的 AI 是錯誤的方向。
“當前我們所擴展的大語言模型好像黑匣子，他們是看不透的，它們能夠滿足的目標是我們現在不清楚的，這是錯誤的方向，我們不應該朝這個方向走。”斯圖爾特·羅素表示，中美 AI 領域的競爭是良性的，他不同意“零和博弈”這個說法。
他直言，“如果AI是安全的，能夠讓人類受益，甚至比人類能力更強，那麽它就能夠成爲人類無限財富的基礎，所有的人都可以利用這樣的技術，我們很多人都會因此而享受。從這個角度來講，這個競爭並沒有意義。所以核心問題是我們如何安全地與這個技術共存，安全是一個方面。AI系統提供受益是另外一方面。”
首爾大學電子與計算機工程系教授Kyoung Mu Lee則表示：“AI有無限的能力，同時也會帶來一些風險。”
他指出，“大家都知道AI發展非常迅速，不能夠完全預測它的未來。我們對于AI的恐懼並不是來自于AI巨大的能量，而是來自于我們並不知道AI實際的運作方式，以及將來它會變成什麽樣子，因爲未知所以恐懼。這樣一個新的怪物會淘汰我們所有人，還是拯救我們所有人？我們能夠控制它嗎，或者它會控制我們發生什麽樣的劇變？因此，我們需要對AI進行好的治理。”
AI將給人類帶來怎樣的風險與影響？經濟發展與合作組織秘書長馬蒂亞斯·科爾曼從就業的角度切入。
他認爲，AI會給全球勞動力市場帶來巨大的動蕩，給人類教育和技能的發展造成很大的挑戰。有些人可能會在AI導致的勞動力市場動蕩中失去自己的就業機會，所以政府要制定相關的政策來應對勞動力市場的變化。
經濟發展與合作組織秘書長馬蒂亞斯·科爾曼
Kyoung Mu Lee也表示：“我們需要更加務實的監管AI系統，這些大模型會影響到我們的生活，會影響到我們的經濟決定，會影響到我們的國家問題。所以AI的影響不是遙遠的，而是就在我們的身邊。”
布魯金斯學會高級研究員、清華大學客座教授唐睿思指出，目前人類從AI獲得的益處還是有限的，盡管已經有幾個大型科技公司變得非常的富有，因爲這些公司賣底層的技術。但是對于社會其他成員帶來的益處我們並沒有看到。
“另外還有一個事實是，如果在2030年達到我們對AI的預期目標，不管這些目標是否正確，我們都需要增加4萬個核電站才能夠爲這些AI機器提供動力，因爲它們是極其耗能的。與此同時，大國之間的博弈以及資金與人才的缺乏都會使AI技術的創新延遲或減速，我們如何保證這樣的創新不會使全球經濟破産。更何況我們所要監管的AI行業現在還不掙錢，我們如何保證AI治理在鼓勵技術創新的同時不會給行業帶來太多的負擔。”唐睿思說。
與會嘉賓表示，目前國際社會在AI治理的基本原則上已達成一定共識，包括以人爲本的AI，關注生態體系，關注安全，尊重國際法律等。關鍵是如何把這些道德規範變成統一的監管框架，包括盡快填補AI數字鴻溝，以及建立全球AI治理架構。
從分散走向協同，全球AI治理需加強對話
全球AI治理架構的建立需要各國加強對話和協同合作。
Kyoung Mu Lee表示，盡管AI系統可能是一家公司或一個國家開發的，但這個AI系統會帶來全球的影響，會影響整個人類，所以不只是一個國家的問題。“我們需要各國之間的合作來討論解決方案，利益相關者應該參與到（監管規則）制定過程中來，使得監管規則變得更加有效。”
科爾曼也認爲：“我們需要國際論壇上的對話，比如通過二十國集團，通過金融組織，通過聯合國，有不同級別的國際上的對話進行交流，我們希望看到這些會議帶來安全的、符合倫理的方式。我們不介意技術創新，但也希望人類不會受到技術創新的傷害。”
值得注意的是，國際上關于AI治理方面的對話依然存在一定的不足與不平等。唐睿思指出，這是因爲當前AI行業並沒有均衡的分配權利，比如算力本質上是由美國主導的，其他國家的缺口很大。所以如果想要全球推廣AI治理的話就必須要依賴美國的技術是好是壞，本質上來講這就是一種權利的聚集。
“如果（各經濟體）想坐這個桌子上參與討論，我們就必須讓每一個國家都找到方法去建立自己的算力、自己的堆站。有兩種方法，一個是通過監管，另一個是通過加強合作，當然也要創新。算力是由一小部分國家所控制，因爲它非常昂貴，所以我們需要建立自己的算力基礎設施，否則沒有人可以爲此進行負擔。手機之所以平價，是因爲各國政府、公司花非常多的錢來投資、推廣基礎設施，各國的人才相互合作，才能夠使得手機下降到如此的價格。而在AI領域，美國在做自己的事情，中國也在做自己的事情，所有投資都要再重新發生一次，我們是在冗余的投資，而不是在解決問題。”唐睿思稱。
對于這一現象，清華大學公共管理學院教授、院長朱旭峰分析道：“每一個國家都是自由主權的國家，他們是根據自身的內外部環境做出相應決策的。”
通過研究全球62個國家的300多個AI治理政策，朱旭峰發現，有四個因素會影響到國家AI治理規則的制定：一是國家是否有強有力的創新能力和産業化的能力；二是人口結構，老齡化嚴重的國家往往更關心AI的發展；三是資本和勞動力市場的關系，比如美國近期有很多汽車生産企業工人罷工、演員罷工等；四是社會規範。如果社會規範更關注的是個人隱私和道德的話，就會建立更加嚴格的AI治理機制。
清華大學公共管理學院教授、院長朱旭峰
“研究是幫助我們理解不同國家在AI治理決策方面所做出的努力，所以對我們普通人來說，我們必須理性地觀察不同國家的行爲和他們的決策過程，同時每個國家都是遵循理性的，所以AI的全球治理需要國際組織，比如聯合國來幫助我們達成。”朱旭峰表示。
彌合AI“數字鴻溝”，實現全人類共享
2024年3月21日，聯合國大會通過首個關于AI的全球決議《抓住安全、可靠和值得信賴的人工智能系統帶來的機遇，促進可持續發展》。據悉，該決議的草案由美國發起，並得到中國等120多個聯合國會員國的共提或支持。該決議的通過有望促進國際電信聯盟等聯合國實體在AI問題上進一步開展工作.
關于這一決議，與會嘉賓認爲，從中國的角度來看，這個決議仍然有一定的提升空間，比如它並沒有充分地提及發展中國家的AI能力建設，以及他們如何能夠從AI發展中獲益。
朱旭峰也贊同打破全球AI技術障礙。在他看來，從人類文明的角度去看，技術可以分成三類，一類是能源方面的技術，讓人類去了解能源，開發更多的能源來利用，比如太陽能。第二類技術就是信息技術，信息技術更多的是促進人類之間的溝通，特別是關注在精英與普通民衆之間缺口的彌合。第三類技術是幫助人類提升效率，減少能源的使用。
“AI是橫跨第二類技術和第三類技術的，它既是信息技術，可以幫助我們推進一個平權的社會，普通民衆也可以獲得更多的信息、知識，也有了更多權利和力量。同時AI也是涉及到效率方面的第三類技術，使得我們的社會、我們的工業更加有效率，AI就是如此。這種技術使得世界的資源得以重新分配，不僅是能源，還有其他的資源，像礦産和土地資源。只有少數的人掌握了AI技術行業中的頭部。因此，我們必須要打破在AI使用方面的障礙，從而建設一個平權社會。”朱旭峰說。
中國科學院自動化研究所、聯合國高層顧問專家曾毅教授表示，未來的 AI 將走向何方，誰能真正引領？AI 走向何方這沒有任何一個專家能說清楚，所以根本沒有真正的引領方。
“我不認爲美國真正引領未來的 AI ，我也更不認爲中國能引領未來的 AI 。AI 的發展是基礎性的、賦能性的技術，這個世界足夠大，讓中國、美國以及更多的國家在構建基礎設施和應用方面都找到機會。但是對于 AI 帶來的潛在風險，同樣的，世界需要理解和保護人類。所以在這樣的問題下，我們確實是首先要共同地探索未來的可能性，那就是全世界如何團結起來真正地爲人類安全、人類繁榮構造一個更安全、更可靠、更可信的人工智能，這才是世界更團結的目標。美國不會引領，中國不會引領，世界上任何一個國家都不會。”曾毅表示。---（钛媒體/作者 : 任穎文*編輯 : 林志佳｜钛媒體AGI）
