「超人類人工智能」這一詞匯，似乎已帶有一種忽視之意：它在無聲中，掩蓋了作為人類之最根本的特質。
如今，ChatGPT和Gemini等生成性AI系統，常被標榜為「超人類人工智能」（superhuman AI）前兆。這可不是危言聳聽的市場營銷宣傳，而是一種快速增長、充滿危險且強大的意識形態的再現。1無論是為了使我們無條件地接受AI，還是將AI描繪成一個可怕的幽靈，這種關於「超人類人工智能」的潛在意識形態，都在削弱人類的自主性和獨立性，並混淆了意識心智與我們為反映它們而構建的機械工具之間的界限。
現今的強大AI系統，甚至沒有人類心智的基本特征：它們還不具備意識或感知的能力，感受不到痛苦、快樂、恐懼和愛。它們也無法感知自己在這個世界中的位置和角色，更不用說體驗這個世界了。它們可以回答我們選擇的問題，為我們繪製美麗的圖片，生成深度偽造的視頻等等。但其內部，卻如深淵般漆黑。
正因如此，在2023年9月的機器學習會議上2，我向圖靈獎得主Yoshua Bengio提出質疑：「在當今的產品遠遠不能比肩人類，更不用說超越人類時，為何我們還要討論『超人類人工智能』？」我曾在他之前的主題演講公開挑戰過這種言論，這種言論在Bengio隨後的演講中被再三強調——正如他在網站上及對立法者和其他聽眾的告誡，他認為人們可能在未來幾年內失去對超人類人工智能的控製3-7。
Bengio一向是AI研究領域中較為理智的腳踏實地派，因此他突然采納這種言論，使我感到不解。他的有些觀點我並不反對，包括將不可預測和不可靠的AI系統集成到關鍵基礎設施和防禦系統中的潛在危險，以及人們迫切需要更有效地管理這些系統。但是，把AI稱為「超人」，並非提出這些論點的必要條件。
因此，我問他，鑒於我們迫切需要控製的AI系統缺乏人類心智的基本功能和特征，這種論調是否終將成為無益且具誤導性的聲音？一個沒有人類自我反思、同理心或道德智慧的AI系統，僅憑其解決問題的速度，如何能夠被冠以「超人」之名？人性的復雜，豈是如此簡單？更何況，給那些缺乏人類最核心特質的機器貼上「超人」的標簽，是否終將使我們忽視了那些真正值得我們珍視的、關於人性的東西？
我試圖向Bengio闡明，計算的速度或精確度之所謂「超人水平」，與真正的超人類——即「超越人性」——之間，實有天壤之別。即便是最普通的人，所能展現的智慧和情感遠超當前最強大的AI系統所能及，後者不過是在高維向量空間中尋找最佳路徑，返回的只是冷冰冰的符號、詞元或像素。真正典型的人類智慧行為，如與孩子玩耍或創作藝術品，絕對不只是尋找問題的最有效解決方案或生成可預測的令牌（token），但如果你真這麽認為，那你就大錯特錯了。
「試圖抹去我們存在中最具人性的部分，並不是什麽新鮮事；AI不過是又一個借口。」
對此，Bengio卻未能接受。當我還未完全陳述我的問題時，他便反問：「你不認為你的大腦是一臺機器嗎？」緊接著，他又質疑：「為什麽一個矽基機器不能執行我們大腦能做的計算呢？」
這種認為計算機與我們的大腦基於同樣原理的觀點，並不新鮮。自20世紀計算機科學誕生以來，心智計算理論就一直有其支持者。8許多認知科學家、神經科學家和哲學家（包括我在內）雖然認為，這些計算理論對於描述物理大腦的工作方式是錯誤的或不完整的，但這絕非一種奇特或偽科學的觀點。可以設想，在最基本的層面上，人類大腦或許最適合被描述為執行某種生物計算。
因此，令我感到驚訝和不安的，並不是Bengio將生物大腦視為機器或計算設備，而是他一開始拒絕承認，人類的智慧，無論其核心是否為計算，其涵蓋的能力遠超即便是最尖端的AI工具所能達到的。我們不只是效率高的數學優化器，或潛在的下一代令牌生成器。
那一刻，我意識到，我們的分歧遠不僅僅關於機器學習模型的能力；這關乎人類的能力，以及我們應該如何描述這些能力。
什麽是超人類人工智能？
在Bengio的網站上，他將「超人類人工智能」定義為一個在廣泛任務範圍內超越人類的AI系統。9這個定義頗為模糊：究竟什麽算作「任務」？人類的所有活動都可以算作任務嗎？
長期以來，人工智能的研究者們將通用人工智能（AGI）視為聖杯，其定義是達到與人類思維等效的水平——而不僅僅是完成的任務。IBM在其針對AGI的研究計劃Strong AI中還保留著這一傳統觀念：10
AGI需要與人類智能相當；它應具備自我意識，能夠解決問題、學習並規劃未來……Strong AI旨在創造出與人類心智無法區分的智能機器。
但現在，OpenAI和Geoffrey Hinton、Yoshua Bengio等研究者為我們描繪了一個不同的願景。一個「與人類心智無法區分」的自我意識機器，不再是AGI的終極目標。新的目標是讓機器「在一系列具有經濟價值的任務中匹配或超越我們」。OpenAI在其章程中將AGI定義為「在大多數經濟價值工作中能超越人類的高度自主系統」。11-12
OpenAI對AGI的重新定位，排除了那些不被視為具有經濟價值的工作。這無疑是對我們人類能力的一次削減，我們應當抵製這種簡化。難道你僅僅等同於你今天完成的工作？如果你醒著的時間花在了沒有明確「解決方案」的活動上，不在能勾選的任務列表上，沒有市場價格，你是否就不那麽人類，或不那麽智能了？
「通過將一個全然無感知、無思考的實體描述為『超人類』，我們似乎在無意中抹殺或貶低了『人類』這一概念。」
一旦你將人類智能的定義簡化為「市場願意支付的」，突然間，創造一個智能機器——甚至是超人類機器——只需製造出一個在經濟價值輸出的速度和質量上超過你自身的東西。其他一切都不重要。
隨著這種觀點逐漸滲透到更廣泛的文化中，它逐步侵蝕我們的自我認識。如果你在一個關於AI的大型講座或在線論壇上指出，ChatGPT無法體驗並思考其生成的詞語和句子所對應的事物——它只是一個基於期望的語言模式的數學生成器——你很可能會收到一種全然認真的回答：「但我們也是如此。」
根據這種觀點，把人描述為智慧、有趣、創造性、洞察力、冥思、勇敢、同情或正義等行為，這些都不過是詩意的誇張。這種描述不攜帶任何額外的真實性，不指向人類智能的更豐富的現實，也不對應於超出詞頻和關聯計算的任何實際內容。這些僅僅是對同一枯燥任務的華麗而不精確的描述。
我還不確定Bengio是否真的認同這一點。在他講話後的問答環節中，他似乎想采取更為和解的態度，尋求一些共同點。但當他拒絕承認人類的意義不限於執行計算腳本和發出統計預期的令牌時，我不禁對他的觀點產生了信任。如果僅憑在這場遊戲中戰勝我們就能成為超人類，人們可能會認為，自二戰時英國的Colossus成為第一臺比人類更快破解代碼的計算機以來，矽基「超人類」就已經在我們中間了。
然而，Colossus只在一個任務上超越了我們；根據Bengio的說法，超人類AI將在「廣泛的任務範圍」上超越我們。這種說法預設了人類不過是一個特別多功能的任務完成機器。一旦你接受了這種對我們人性的極端簡化，那麽生產一個同樣多功能、具有「超人類」任務表現的任務的機器便不再遙不可及；這個觀點幾乎變得平淡無奇。
那麽，這種表達方式究竟有何害處呢？
超人類
「超人類」這一詞匯，本意是指「屬於人類，卻勝過人類」。要成為超人類，就是要擁有人類所具備的能力，並且擁有人類所不具備的額外能力——或者是將人類的某些能力發揮到極致。我們不會用這個詞來描述一種與我們完全不同的東西，比如那些雖然在某方面表現出眾，卻缺乏基本人類特質的存在。我們不會說「超人類飛機」或「超人類獵豹」，盡管飛機和獵豹的速度，都遠超任何人類。
「超人類」一詞，常用以描繪那些與我們極為相似，卻又在某些方面更為出色的存在。在英語文化中，虛構的超人或許是此概念最著名的體現。超人雖然不是地球上的生物，但他體現了我們對身體、智力和道德力量的最高人類理想，甚至遠超這些理想。他被稱為超人，不僅僅是因為他能飛——這火箭也能做到；也不僅僅是因為他能移動重物——這叉車也能完成。而是因為他在諸多任務上的出色表現，超越了普通人的範疇，他是我們對最真實的人類特質的一種願景的放大。
超人的身上沒有缺失任何關鍵的人類性格特征。他是對「如果是我們，又會怎樣呢」這一問題的想象答案。他有欲望、經歷痛苦、擁有愛、體驗哀傷、懷抱希望、關心他人、也會懷疑；這些體驗比我們普通人更為強烈和深刻。他遠不是一個單純追求效率的存在。作為超人，他代表了我們最珍視的人類特質，這些特質被視為我們普遍共有的。
當我們將一個完全沒有感覺、不思考、只專註於完成經濟任務的對象稱為超人類時，我們實際上無意中削弱或否定了「人類」的概念及其所能做的一切。當然，這種試圖削弱和否定我們存在中最具人性的做法，並不是什麽新鮮事；AI不過是又一個借口。
「AI的道德和體驗的貧乏可能會把我們固有智能中最關鍵的人類維度重新引入我們的關註焦點，並推動文化和那些長期被低估的價值的恢復。」
在工業時代的長河中，那些企圖從人體中提取最大生產力的人一直試圖讓我們將自己——更重要的是彼此——視為有缺陷、效率低下的可替換機器，一旦產出低於預期或出現更高效的替代品就被淘汰。
幾百年來，我們對這種簡化和憤世嫉俗的思維方式進行了堅決的抗爭，得益於勞動和人權運動的不懈努力，這些運動闡明並捍衛了人類的尊嚴、正義、自主和尊重等非機械化、非經濟化的標準。
而今，要說服我們人類不過是產生經濟價值輸出的機器，似乎只需要用那些能在我們賦予意義的主要貨幣——語言和視覺——中產生輸出的工具。現在，只需通過智能手機上的應用，你就可以無限製地獲取這些貨幣，我們已經接受了「超人類 AI」的出現，仿佛這是一個早已確定的事實，實際上已經觸手可及了。
重新恢復我們的人性
然而，這場較量還沒有結束。正如哲學家 Albert Borgmann在他 1984 年的書籍《技術與當代生活的特征》（Technology and the Character of Contemporary Life）中所述，13只有當一項技術幾乎取代了我們人類意義的重要領域時，我們才能真切感受並哀悼我們所失去的。往往是在這些時刻，我們才開始覺醒，奮起反抗，努力奪回並重申這些領域的價值。
他提到的例子，放眼今日，或許看似尋常。如他所說的後微波爐時代，烹飪藝術復興，是一種珍貴的創造性和社交實踐，即便是最高效的烹飪機器也無法取代。確實，熟練而富有遠見的烹飪實踐如今已具備比 20 世紀末更高的文化價值和地位。同樣，跑步機盡管提供了一種更方便、更高效的達到相同有氧效果的方法，卻無法取代戶外跑步和漫步所帶來的美好。
實際上，Borgmann 認為，使用跑步機或微波爐帶來的感官與社交體驗的貧乏，反而可能復興我們對這些活動的文化關註——這些活動要求我們全身心的參與，不斷提醒我們自己在這個物理世界的位置及與共享此世界的其他生命的聯系。他的見解不無道理。
在「超人類」AI意識形態中，將人類視為「緩慢且效率低下的模式識別者」的觀點，可能會引發一場在政治上意義重大的人類意義與價值的復興。AI 的道德與體驗貧乏，恰恰可以讓我們重新將註意力集中到人類智慧的核心維度上，促進那些長期被低估的價值的文化恢復。
這將是什麽樣的情景呢？想象一下，如果在當前由機械意識形態主導的任何社會領域中，首要的目標不再是機械優化，而是賦予人類能力，情形會怎樣？
我們先來看看教育。在許多國家，原本應致力於道德與智力形成的教育理想，已簡化為訓練年輕人從測試問題中機械地生成預期答案的優化程序。一些宣稱為「您孩子的超人類導師」的生成性 AI 工具，甚至承諾優化幼兒的學習路徑。[14]然而，在技術最為發達的美國，年輕人閱讀的熱情已降至數十年來的最低點，家長對教育系統的信任也跌至歷史新低。15-16
我們應該如何重塑並復興人性化的教育體驗？如果我們能重新激發孩子們學習的熱情，教會他們重新發現，擁抱他們的人文潛能，他們將為自己及未來一代構築怎樣的世界？這個世界與那些被教育成只知如何成為低效機器的孩子所建立的世界，又將有何不同？
再考慮經濟方面。無差別增長的「國內生產總值」盲目地一味生產、銷售產品，不考慮這個過程對環境或社會可能多麽有害，如果我們停止獎勵這種行徑，那麽我們的海洋、空氣、土壤、食物鏈、基礎設施和民主的狀況會如何？如果我們設立新的經濟激勵措施，依據的是中長期的健康、可持續發展、人類進步和社會信任與復原力的指標，我們未來的走向又將如何改變？
「如果我們不再用像ChatGPT這樣的機器來取代媒體、設計和藝術中的人類職業，而是讓AI 開發者幫我們完成生活中最沒有意義的任務會怎樣？」
如果富裕的公司和投資者的稅收優惠完全取決於他們的活動如何促進這些人文指標的提升，情況會如何？如果公司的成功不再僅僅通過其股票價格的機械優化來衡量，而是通過對我們共同生活質量的更深遠和長期的評價，我們的工作和年輕人投入職場的熱情將如何改變？
再來看文化方面。如果我們重新愛上靠自己創造意義、講述世界故事、發現新的美和表達方式，當前那些試圖用AI取代人類文化產出的努力又將如何被暫停？如果我們不再用ChatGPT 這樣的機器來取代這些人性的職業，而是讓AI 開發者幫我們完成那些消耗我們對其他重要事物的能量的最無意義任務，情況又將如何？如果你再也不需要填寫任何稅表會是怎樣？
如果我們為了那些最容易受到腐敗、剝削和不公正侵害的人設計AI，情況會怎樣？如果我們利用我們最好的AI工具，更快更可靠地揭露腐敗行為的證據，增加其政治成本，並更系統地將腐敗和剝削推向公眾生活的邊緣，情況又將如何？如果人們集體承諾只獎勵那些願意展示更大透明度、責任感和誠信的政治家、警察和法官，我們的社會將如何變化？
即使在這些更添人性的未來設想中，我們也尚未觸及烏托邦之境。但這些可能的未來無疑比任何一個由超人類AI意識形態主導的未來都要光明。
這並不意味著AI在一個更人性化的世界中沒有位置。我們仍然需要AI來承擔那些固有的不安全或對人不友好的任務，如環境清理和太空探索；我們需要AI來幫助我們減少日常行政過程的成本、冗余和時間負擔；我們需要AI來擴大基礎設施的維護和修復；我們需要AI來分析如氣候、遺傳學、農業和供應鏈這樣的復雜系統。我們並沒有面臨用盡機器可以做的重要事務的風險。
我們正如夢遊般步入一個可能危險的未來，在那裏，我們放棄人性，徒勞地模仿機器，結果卻被甩得越來越遠。我們準備好喚醒自己了嗎？在一個只獎勵和認可機械思維的時代，人類還能記得並奪回我們的本質嗎？我相信，還為時未晚，現在或許正是時候。---[文: 追問nextquestion/來源: 鈦媒體]
