【新智元導讀】近日，DeepMind CEO Demis Hassabis樂觀預言稱AGI將很快實現。而對於AI對人類可能造成的後果，圖靈三巨頭各執一詞，說法不一。
通用人工智能，十年內就會實現？
近日，谷歌DeepMind CEO Demis Hassabis在一場演講中，拋出這個驚人的說法。
與Hassabis的自信滿滿不同，Hinton用從谷歌辭職的舉動，表明了自己對於AI發展的深切憂思。
而LeCun則一如既往地表示：認為AI會終結人類文明的想法，純屬胡說八道。
Hassabis樂觀預言
通用 人工智能（AGI）的其中一種定義是，與人類的認知能力相匹配的AI。
Hassabis表示，未來幾年內非常可能會出現與人腦一樣強大的人工智能。
「過去幾年裡，AI研究取得的進步令人難以置信。我看不出任何進展會放緩的理由。我認為它甚至可能會加速。所以我認為我們可能只需要幾年時間，也許十年之內。」
「我認為我們將在未來幾年擁有非常強大、非常通用的系統。」
Hassabis何許人也？
作為谷歌新成立的部門Google DeepMind的CEO，Hassabis最近愈發萬眾矚目，意氣風發。
讓Google Brain和DeepMind兩大AI科研主力機構合體，已經是谷歌最後的退路。
權力大大提升的Demis Hassabis，表現出強烈的AGI使命感，和對成功的饑渴感
微軟背後的OpenAI開發出的ChatGPT，已經威脅到了谷歌的搜索業務。
而臨危受命的Hassabis，在谷歌AI大戰的布局中，無疑處於核心。谷歌表示，合體將加速公司在AI領域的進步。
自2010年成立以來，DeepMind的使命就是通過構建能夠像人類一樣學習、思考和行動的機器，來解決智能難題。
AGI的發展，已然是AI研究業內最熱門的話題。
很多人認為，AGI不過是科幻小說中的概念，但無論是Hassabis，還是OpenAI CEO Sam Altman，都公開表達了開發AGI、同時保護人類免受其害的雄心。
據Hassabis透露，現在他新工作的部分內容，就是把AI開發整合到谷歌產品中。而最近AI技術的進步，將改進計算機助手等軟件。
在Hassabis看來，我們的確在經歷下一個iPhone時刻，而基於AI算法的下一代助手，將帶來徹底的轉變。
Hassabis說，AI技術的發展需要研究人員、學術界和政府之間的大規模協調，而谷歌是一個負責任的參與者。
這一點，倒是不必質疑，畢竟谷歌為了「負責任的AI」，為了所謂「聲譽風險」，將類ChatGPT聊天機器人的發布一延再延。
而自從OpenAI用ChatGPT給全世界打了樣，各國的GPT技術都冒了頭，潘多拉的魔盒如果已經打開，是否還能有一個暫停按鈕呢？
隨着ChatGTP、Bard等聊天機器人導致的胡說八道和濫用愈加泛濫，業內對於是否該研究AGI，態度也愈加分歧。
對此，Hassabis也並沒有否認。
他承認，雖然他「沒有看到任何原因」，讓AI的進展會放緩，但需要「使用科學方法以謹慎的方式開發AGI技術」，非常仔細地做可控實驗，來了解「底層系統的作用」。
Hinton：我是悲觀主義者
對於AI的 未來，深度學習之父Hinton的態度顯然就悲觀多了。
這一決定仿佛一枚重磅炸彈，在業內掀起軒然大波。
而MIT科技評論的記者Will Douglas Heaven，就在這一事件的前四天，採訪過Hinton。他的採訪稿中，也為我們透露出更多信息。
對於AI是否會比人類更聰明，我忽然改變了自己的看法。
對於GPT-4的能力，Hinton已經感到震驚。他希望公眾能提高對AI技術的風險意識。
能自由談論AI風險，並不是Hinton選擇離開谷歌的唯一原因。他希望能把時間花在「更哲學的工作」上。這件事可能性很小，但如果真的發生了，AI就將是一場災難。
而只要還身在谷歌，就無法對AI安全問題暢所欲言，而毫不顧忌這對谷歌業務的影響。「只要谷歌還在付我一天薪水，我就不能這樣做。」
OpenAI在三月發布的GPT-4讓Hinton意識到，AI遠比他想象的要聰明得多。 而AI會往哪裡發展，讓他感到害怕。 「有時我覺得好像外星人已經登陸，但因為它們英語說得很好，所以人們還沒意識到。 」
1980年代，Hinton就和同事們一起提出了反向傳播技術，這種算法使機器學習成為可能，也支撐着如今所有的神經網絡。
他們還訓練了一個神經網絡，來預測句子中的下一個字母，這就是當今大語言模型的前身。
40年來，Hinton一直認為人工神經網絡是模仿生物神經網絡的糟糕嘗試。而如今，狀況顯然已經改變。
「我們的大腦有100萬億個連接，」Hinton說。「大型語言模型有高達五萬億，最多一萬億。然而，GPT-4知道的比任何人都多數百倍。所以或許它有一個比我們更好的學習算法。
只要把預訓練模型和人類學習的速度相比較，就會明白，人類的優勢正在消失。
在Hinton看來，如果我們願意支付更高的計算成本，那麼神經網絡在學習上就會擊敗人類。
而每個神經網絡都有自己的經驗，可以立刻和其他神經網絡分享自己學到的東西，好比10000人中只要一個人學到了什麼，所有人都知道了。這無疑是一種更新、更好的智能形式。
「你認為超級AI是好是壞，很大程度上取決於你是樂觀主義者還是悲觀主義者。」
而Hinton說，「我有輕微的抑鬱，這就是我害怕的原因。」
現在，BabyAGI和AutoGPT已經可以將聊天機器人與Web瀏覽器、文字處理器之類的程序連接起來了。
沒人能保證，不會把AI用於選舉或戰爭。
如果AI有一天開始說，讓我們獲得更多的力量，把所有的電力都重新集中到我的芯片上，讓我們製作更多自己的副本……人類該怎麼辦？
而圖靈三巨頭之一，蒙特利爾大學的教授Yoshua Bengio對此的看法是，自己是不可知論者。
「目前我沒有看到任何可靠的論據，證明AI的確有Hinton所認為的那麼大的風險，」他說。
「過度的恐懼可能會使人癱瘓，所以我們應該努力將辯論保持在理性的水平。」
在他看來，Hinton的首要任務之一是嘗試與技術行業的領導者合作，對如何應對風險達成一致。
但沒有人可以否認，AI的發展速度已經超過了社會的步伐。
每隔幾個月，AI技術就會有一次飛躍，但立法、條約都需要數年。
LeCun：AI毀滅人類，純屬胡說八道
與Hinton的擔憂相比，Meta的首席AI科學家Yann LeCun的態度倒是顯得雲淡風輕。
他同意Hinton的觀點：「毫無疑問，在未來，機器將變得比人類更聰明——在人類聰明的所有領域，這是一個何時以及如何的問題，而不是是否的問題。」
但他對AI的發展方向持完全不同的看法。
「我相信AI將為人類帶來新的復興，但我完全不同意機器僅僅會因為自己更聰明就能主宰人類，更別說摧毀人類了。」
「即使在人類中，最聰明的人也不是最有權力的人，」LeCun說。「最有權力的絕對不是最聰明的人，這種例子可太多了。」
在他看來，雖然大家吵得喋喋不休，但超人AI並不存在。
LeCun表示，他對ChatGPT的表現並不感到驚訝，也不贊成暫停AI的研究。AI作為人類智能的放大器，可能是新文藝復興的起源。
LeCun轉發的推特
在最新發表的推特中，LeCun指出，他堅信會有一天出現超級AI。但不是今天，今天的我們甚至連個超級AI的設計都沒有。所以現在去聊安全性的問題，就好像1920年去探討飛機橫跨大西洋的安全性。
顯然，這條轉發的推文，顯示了LeCun對於人類智能的信心。
而LeCun也表示，作為ICLR的主席，自己鼓勵研究者用LLM來寫論文。
IBM：真人要被AI搶飯碗了
大佬們還在暢想未來，但在現實世界裡，AI是真的開始取代人類了。
有些科技巨頭已經開始光速行動，又是裁員，又是暫緩招聘。
就比如說IBM，這麼一家大公司已經宣布要凍結招聘計劃了。
原因非常簡單，公司CEO Arvind Krishna表示，在可預見的未來幾年內，IBM會有大約7800個職位被AI取代。
而這個數字，差不多是IBM所有非面向客戶類員工的三分之一。
Krishna表示，不直接面向客戶的員工大概有26000人，30%以上的人在五年之內會被AI取代。
但其實IBM員工總共差不多有260000人，上述員工只占差不多十分之一。不過，作為一家坐落在紐約州的巨頭公司，假如一下少個小八千人也算是件蔚為壯觀的事情。
不過，IBM的內部人士並沒有很直接的表達出「我們已經完全停止招聘了」這種意思。
他們很委婉，表示「我們在招聘不面向客戶或者不涉及技術的崗位時非常有選擇性」。
不管怎麼說，IBM在AI發展的大潮下首先表態，已經在業內造成了不小的風波。很多行業在未來可能面臨着顛覆性的改變，以及大規模的縮招甚至裁員。
不光員工受影響，就連公司的市值也直接被波及。
Chegg股價直接暴跌30%，只是因為Chegg的CEO在一次會議中承認了ChatGPT對公司的新客增長產生了影響。
要知道，Chegg是一家學習類公司，ChatGPT搶了一堆飯碗。
這次暴跌，是2017年以來的最低價。
學生們一股腦的撲到了ChatGPT上去，Chegg的情況急轉直下。
面對這種情況，Chegg的CEO表示，要把AI的發展納入公司的規劃。
他表示，幾個月前他和OpenAI的CEO Sam Altman聊過AI+教育的問題。Chegg的CEO認為，公司發展方向要儘快調整，把AI的能力納入Chegg的服務。
第一步就是推出CheggMate，這是一個和OpenAI合作的項目。
看來，比起憂心AI哪天會毀滅人類，我們眼下更應該做的，是先掂量掂量自己的飯碗還穩不穩。-(新智元報導*編輯:編輯部/來源:新智元)
參考資料：
https://www.businessinsider.com/google-deepmind-ai-smart-human-brain-2023-5
https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/
