【新智元導讀】AGI競賽，正在大科技公司之間緊鑼密鼓地展開，作爲萬億顯卡帝國掌舵人的老黃自然也不會缺席。在最近舉辦的GTC 2024上，老黃發表了自己對于AGI以及幻覺問題的看法。
各大科技公司，現在都在瘋狂沖刺AGI！
毫無疑問，這是一個贏家通吃的局。
最近，Sam Altman在韓國活動和Lex Fridman上的幾小時發言，被廣大群衆反複研讀。只因爲，GPT-5和AGI的前景，實在是太刺激了。
著名爆料人Jimmy Apples猜測，現在OpenAI一定在醞釀一盤大棋，如果有必要的話，Altman甚至有足夠的聰明想出plan B，來對抗微軟。
對此，有網友描繪了AI公司之間的競爭：
「OpenAI的一名董事會成員來自微軟，所以他們在內部有一個間諜。」
還有陰謀論的網友不禁暢想：
利用技術進步來壓低價格並使競爭對手破産。操縱媒體來壓低競爭對手的收入。制造了一場大規模事件，導致人工智能的研究暫停，同時秘密建立一個由機器人組成的先進實驗室，並建造一台超出人類理解的隱藏的超級計算機，或者開始對世界進行黑客攻擊和勒索以實現類似的目標。
而在昨天舉辦的英偉達GTC大會上，老黃也對AGI發表了自己的看法：AI幻覺可解，AGI五年內必來！
老黃GTC發言
近日，英偉達主辦的AI開發者盛會GTC 2024隆重開幕，大會的場地聖何塞SAP中心座無虛席。
紅旗招展、人山人海，宛如搖滾演唱會。
而聚光燈的中心，就是這位身著皮衣的61歲英偉達CEO黃仁勳。
除了抛出震驚所有觀者的地表最強芯片，老黃也對AI相關的問題給出了自己的思考。
AGI 五年內必來
通用人工智能（AGI），體現著超越人類的水平、以及廣泛的適用性。
簡單來說，人類能做的，AGI基本都能做，人類做不到的，AGI甚至也能搞定。
這種強AI與僅專注于特定任務的窄AI不同，可以處理各種複雜的任務，比如檢測産品缺陷、總結新聞、創建網站等，以超越人類的水平執行廣泛的認知任務。
真正的AGI何時能夠到來？
作爲大家最關心的問題，老黃已經快被問麻了。
不過畢竟AGI涉及到未來，在機器能夠在幾乎所有領域超越人類的情況下，人類將扮演怎樣的角色，以及根本的控制權問題。
當前的AI強大如斯，但仍然是不可解釋的，未知使人感到恐懼，如果AGI的決策與人類的價值觀産生沖突，而人類又幹不過AGI，那時候就麻煩了。
雖然AI公司的CEO們，並不願意討論這種傾向于AI末日論的話題，但老黃還是花時間向媒體表達了自己的看法。
老黃認爲，這取決于人們如何定義AGI。
比如對于我們來說，即使位于不同的時區，你也知道新年何時到來，2025年何時開始。
「如果你正開車前往舉辦今年GTC大會的聖何塞會議中心，當你看到巨大的GTC橫幅時，你就知道你已經到達了目的地。」
對于AGI來說，也可以是這種確切的定義，比如認爲AGI在許多領域擁有廣泛的知識。
「舉個例子，在數學測試、閱讀測試、閱讀理解測試、邏輯測試、醫學考試、律師考試、GMAT、SAT，等等你能想到的幾乎所有考試，AI都可以做得很好。」
老黃表示，「如果你將AGI定義爲在這些測試中表現良好，幾乎比任何人都好，然後你問，你認爲計算機可以在五年內做到這一點嗎，那麽答案可能是肯定的。」
「如果你只問一般智力問題，而不是定義通過測試的能力，答案就更模糊了。」
AI幻覺可解
對于AI，人們另一個最關注的話題就是幻覺。
如果說探討AGI表達了人們對強大AI的擔憂，那麽幻覺問題則表現了人們對AI能力的質疑。
當前的大模型經常會制造出聽起來合理，但實際上並非基于事實的答案。
在周二的問答環節中，有人向老黃提出了這個棘手的問題：如何應對AI幻覺？
老黃表示：so easy！——你可能不知道有一種方法叫做RAG（檢索增強生成），用了都說好～
大模型可以通過RAG審查信息的來源和上下文，將源信息中的事實與已知的真相進行比較，如果發現答案事實上有誤——哪怕只是部分錯誤——就應該放棄該信息源，尋找下一個，最終爲用戶找到最好的答案。
「AI在給出答案前，應該先做研究，從而確定最佳的答案，——這相當于你的研究助理。」
對于一些比較重要的問題，比如事關身體健康，老黃建議，還是應該查閱多個資源和已知的真實信息來源。
並且AI系統需要能夠表達出「我不知道你的問題答案」，或者「我無法就這個問題找到一個共識答案」，甚至是「嘿，超級碗比賽還沒進行，所以我不知道誰贏了」等回答。
事實上，對于這個問題，GTC已經給出了解決方案。
Pure Storage 的抗幻覺技術
爲了讓RAG過程更簡單快捷，Pure Storage與英偉達聯手推出了一種全新的檢索增強生成（RAG）流程。
其工作原理如下：
英偉達GPU負責進行計算，Pure Storage提供企業級的全閃存存儲，用于存放大型向量數據庫及其相關的原始數據。
隨後，RAG通過向模型提供一個對經過清洗和向量化後的數據進行向量搜索的查詢（包括新的或專有文檔），提高了大語言模型推理的准確性和相關性。這樣不僅爲模型輸入的參數提供了更准確的指導，還能夠針對用戶需求調整模型輸出。
而這也意味著，對于組織而言，大語言模型推理查詢的准確度、時效性和相關性得到了顯著提升，使其在問答和文檔摘要等應用場景中，爲最終用戶提供了更大的價值。
Pure Storage分別測試了文檔嵌入和索引過程的三個關鍵階段：
1. 向量文件上傳至對象存儲 2. 向量批量插入向量數據庫 3. 索引文件的創建與寫入
結果表明，將RAG過程分布在兩組服務器和索引節點上，速度明顯快于僅使用單組節點的配置。
當使用原生S3接口的Pure Storage FlashBlade//S，取代服務器內置的本地固態硬盤（SSD）時，文檔嵌入和索引的速度提高了36%。
AGI與機器人
對于當前的AI發展，老黃表示，這是一場新的工業革命！
而今年，將是AI模型加持人形機器人高速發展的一年。
英偉達擁有1000多名機器人開發人員。在GTC的現場，老黃向觀衆展示了一大批GROOT項目誕生的機器人——包括來自《星球大戰》的兩位著名朋友。
老黃表示，新的AI模型將通過觀看人類活動的例子來學習，同時也會在圖書館中學習，這將有助于它了解現實世界——多少有點令人毛骨悚然......
隨後的一段視頻展示了這些人形機器人在工廠、醫療保健和科學領域的開發過程，以及在現實世界中的運行情況，——人類與機器人共存的未來已經不遠了。
雖然人工智能的未來常常讓人聯想到終結者式的機器人消滅人類的景象，但現實往往更加平凡。
老黃在會上介紹了一個將機器人技術和人系統融合在一起的虛擬倉庫的演示，展示了如何提高生産力和效率。
我們可以從中窺見未來的工業將如何運作，而英偉達已經與工業巨頭西門子簽約來實施這個項目。---[新智元報導*編輯：編輯部/來源: 新智元]
參考資料：https://techcrunch.com/2024/03/19/agi-and-hallucinations/
