【作者按】隨著通用人工智能（AGI）時代的來臨，人工智能技術的快速發展和廣泛應用將給人類社會帶來深刻影響。一方面，AGI將無所不在，滲透到人類生活和生產的各個領域，有望成為推動社會進步的先進生產力。但另一方面，AGI的濫用也可能給人類帶來一系列根本性的挑戰。
AGI的全面滲透和替代人類腦力勞動，可能會損害人類的核心智力能力，對「何以為人」這一根本問題帶來沖擊。如果人類喪失思維、審美和情感等高級能力，其作為萬物之靈長的本質將遭到傷害。因此，AI技術應當避免對人性造成傷害，確保人類腦力能力得到充分訓練和實踐。
此外，AI濫用可能沖擊就業結構、加劇社會分化、破壞組織治理模式、汙染精神世界、侵犯人類意誌、介入人類情感倫理事務等。AIGC技術所帶來的內容泛濫，更可能消解美的稀缺性，損害人類審美情趣。
為防止這些潛在危害，應當為AI應用設立準則，AI應用應有其邊界，不應過度、無限製使用。總之，AGI時代人機共舞的大幕已經拉開。人類應以何種身份出場，如何處理好與AI的關系，需要我們深思熟慮。追求自我超越的人性傾向推動了AGI的發展，但這一進程必須穩健前行，三思而後行。
以生成式人工智能為代表的通用人工智能（AGI，Artificial General Intelligence），正在加速發展，機器智能達到甚至超越普通人類智能水平已不再是科幻而日益變成現實，機器超越人類的任務列表越來越長。機器能力的根本性飛躍進一步吸引了巨大的資本和資源，各種生成式大模型獲得快速發展，已經成為先進生產力的典型代表。
相比較而言，人的生產能力漸漸有了「落後」的含義，畢竟人類腦力難以二十四小時在線，人類的體力也很難持續很久，人類的可靠性與穩定性也不比機器有多少優勢，再加上AGI智力水平對人類的超越，傳統基於人力資源的生產力有被人工智能（AI，Artificial Intelligience）生產力所取代的趨勢。
在不久的將來，AGI終將有能力從事人類生產與生活中需要用到智力的大部分工作，完全有能力介入人類的情感與倫理事務。
AI將無處不在，像空氣一樣彌漫在我們生活的角角落落，似乎已成必然趨勢。每個個人、群體和組織都將被AI浪潮所裹挾，AGI將滲透到社會發展的每一根毛細血管。
我們現在已經很難想象沒有電和網絡的生活會是什麽樣子。同樣，在不久的將來，我們也很難想象一個沒有AI的世界。未來時代的根本特征恐怕就是「無所不在的AI」。
然而，在AGI時代大幕即將拉開之時，我們不得不向時代的思考者們問一句，人類準備好了麽？這場時代大戲必是人機共舞。
人類將以何種身份、何種方式扮演好自己的角色，又將如何處理好與機器這個伴舞者之間的關系？隨著AGI發展的加速，這些問題的回答日益迫切。AI技術進步速度之快，應用之速，給我們留下的時間並不充裕。
在肯定人工智能作為先進生產力為人類帶來福祉的同時，我們也要審慎思考它可能給我們社會發展帶來的一系列問題。AI發展的負面問題已有大量討論，比如虛假泛濫、隱私泄露、技術壟斷、偏見不公、價值錯謬等等。
這些問題都是當下已在發生，已為社會所熟知的問題。然而這些問題某種意義上都是表面層次的問題，隨著AI在幾代人群中的大規模應用，有可能在發展先進生產力的旗號下，造成一些長期而緩慢卻根本而致命的問題。好比現代年輕人群體的疾病，急癥易被感知與重視從而不難診治，而長期的、隱性的慢性病卻往往被表面的渾身肌肉所迷惑而輕視，不幸過早遭受致命一擊。
想想人類歷史發展進程，何嘗不是如此，虛假的繁榮景象往往最易掩蓋暗自湧動的真正危機。只有清晰認識這些問題並找到預防之策，才能將人工智能發展成為推動社會進步、造福人類的先進生產力，而不是將人類帶入萬劫不復境地的罪魁禍首。
AGI全面「入侵」，再問「何以為人」
AI的進步不可避免地帶來人類相應能力的退步。事實上技術的每一次進步，有可能導致人類相應能力的退步。汽車解放了雙腿，我們必須依靠高度的自律通過跑步或其他運動才能保有雙腿的能力。鍵盤代替了書寫，提筆忘字就成了很多人的共同體驗。四肢能力，即便我們承認是在退化也多不以為然，因為這是將雙手解放出來從事藝術創作、將雙腿釋放出來去美麗的田野郊遊而必須付出來的完全可以忽略不計的代價。
一直以來，工具的使用即便導致人的某種能力的倒退，但並未改變人之為人的本質。工具本質仍是人的附庸，人類因其強大的思維能力、獨特智慧而具有不可替代性。
然而，達到人類智力水平的AGI以一種無孔不入之態勢對人類腦力勞動進行肆無忌憚的全面代替，卻十分值得我們警惕。以人工智能內容生成（AIGC，Artificial Intelligence Generated Content）為代表的AI應用已經在日常生產、生活中大量使用。AI生產代碼、文案、圖案、音樂、視頻已經超越普通從業者的水平。常規的內容生成任務AI基本上可以較好勝任。久而久之，人類社會大量內容創造工作將被AI所代替。
大量的內容生成任務實則是人類思維訓練的重要方式。如果人類沒有足量的群體去實踐腦力活動，如果AI剝奪了人類思維訓練的機會，人類如何保有相應的智力水平呢？我們很難想象將來有一天我們的傳統技能，比如烹飪的技藝、開車的技巧、寫作的技巧、寫代碼的能力，需要通過指定非物質文化遺產繼承人，才能傳承和保有。
人何以為人，在AGI時代變成日益嚴峻而需要重新思考的老問題。人類相對於萬物的獨特性，高高淩駕於萬物之上而成為萬物之靈長，正是由人類的思維等核心能力所決定的。一個人喪失了行走或言說等能力，不影響其作為人的本質。然而，如果一個人喪失了基本智力水平，喪失了思維能力、審美能力、情感能力，或者更極端一些成為了哲學家們曾經設想過的有身無腦的「哲學僵屍」，那麽其作為人的本質則會受到根本性的傷害。
或許有人會說，信息時代計算機的計算與記憶能不也一直在代替人類的相應腦力工作，也並未發生所謂的人類本質退化危機。針對這種觀點，我想提醒的是，AGI時代，AI對人類腦力活動的替代是全面而深入的，而信息時代的腦力能力替代總體上是散發、點狀的，量變帶來質變。
AI的發展與應用應極力避免對人之為人的本性的傷害。人的退化絕不是發展AI初衷。沒有人願意看到人類成為智能機器所豢養的寵物。人曾經為人，人也必須仍然為人。
一切有害於人之為人的AI應用，應該予以限製。為 AI應用設立準則是發展AI的前提。AI應用倫理的根本原則就是不能損害人性，確保人類的腦力必須得以充分的訓練與實踐。
關註對AI的惡用，尤其濫用
關於AI的使用，我們需要關註的不僅是其善用，也應關註其惡用和濫用。所謂的AI惡用，就是惡意的AI應用。比如：AI用於自製武器、欺詐欺騙。我們多數人對AI惡用有著清晰的認知，能夠作出積極的防範。
讓人擔心的是AI濫用。所謂的濫用，是指過度地、不加限製地使用AI技術。這種濫用往往出於AI眼前巨大利益的考慮而有意無意忽視AI長期問題，最終對人類福祉或者特定群體利益造成難以彌補的侵害。正如克魯斯所說：「人工智能是人類有史以來發展的最大發明之一，但同時它也可能是我們的最後一項發明。」
AI濫用往往有著溫和甚至是極具吸引力的外表。有多少人能拒絕「先進生產力」，有多少人能拒絕一個貼心的、隨時聽候召喚的AI助手。人類對毒品尚難以拒絕，更不用說AI這類精神毒品。久而久之，AI濫用會像溫水煮青蛙一般以一種緩慢而難以察覺的進程給人類帶來難以挽回的傷害。對於AI的濫用問題，我們需要保持高度的警惕。AI應用應該有所為，有所不為，AI應用應設立基本原則。
AI應用所代替的人類能力應該嚴格限製於人類已經具備的能力。換言之，如果某人想使用AI的某項能力，他自身在這方面的能力應該超過AI而不是低於AI。
首先，AI是可能犯錯的，AI所犯下的錯誤需要足夠專業水平才能識別。如果人們在某一方面尚不具備必要的能力，就很容易被AI誤導。其次，如果我們在尚未掌握某項能力的情況下，就輕易地使用AI的這項能力，那麽久而久之我們的這項能力就得不到足夠的鍛煉和實踐，進而難以充分發展這種能力。
如果說這種能力的損失對我們來說是無法接受的，那麽我們就應謹慎對待AI相應能力的使用。
或許會有人說，既然我已經具備某項能力，為何還需要使用AI的這項能力，這似乎是個悖論。
事實上，作為以某項能力見長的人類專家，其精力與時間是有限的，AI的賦能將專家從其擅長的任務中解放出來，使得專家有足夠的從容去挑戰更加困難的問題。從這個意義來講，AGI本質上應該是人類專家提質提效的工具。對於普通人，AGI則應慎用。
AI的濫用將沖擊當前的就業結構，進而引發社會震蕩。
AI的應用應以充分保障人類就業為基本前提。每當我們創造一個AI新應用，我們就有責任設計出一個新的人類職業來保障人類的充分就業。
每當AI替代一個人類工作崗位，我們就應創造出一個新的就業機會。創新人類的崗位設置、保障人類的充分就業應當成為政府和企業社會責任的新內涵。否則，久而久之，人類只能進入無所事事的境地。
人們的學習進程，即便得到AI輔助，相對於AI的快速發展速度而言仍是緩慢的。人類就業結構的調整涉及經濟結構等上層建築的調整，是個緩慢的進程。這一調整進程也必須有序而緩慢，否則會引起社會震蕩。
因此，AI的發展應該為就業結構、經濟結構調整留下充足的時間，以保證社會的平穩過渡。我們需要認識到發展AI出發點是利用先進生產力去促進社會發展與文明昌盛，而穩定是這一切的前提。AI應用不能背離其本意。
AI的規模化使用的一個潛在風險是撕裂人類社會階層結構。未來，人類勢必會因為AI的存在而被分為AI智能水平之上的人和AI智能水平之下的人，不管每個個體願不願意，人與人之間的這種差距是客觀存在的。
隨著AI智能水平的持續進步，大多數人的智力水平可能處於AI水平之下將成為一個難以避免的事實，超越AI、駕馭AI將會變得越來越困難。《北京折疊》之類的文學作作品何嘗不是對AI應用所造成的社會結構撕裂所作出的超前隱喻。
如何防範由於AI應用所帶來的階層固化甚至階層對立，如何保障讓個人都能擁有平等的AI教育和使用權利，從而防止AI能力差異所帶來的社會結構撕裂，是我們需要嚴肅思考的問題。
AI的濫用也可能給人類社會的組織結構帶來極大的沖擊。人類是以特定組織機製，以有效的協同方式，以一種集體智慧來共同應對所面臨的挑戰的。
無論是企業、軍隊、科研團隊，絕大多數組織呈現出一種金字塔狀結構。在頂端的往往是富有知識、洞見以及智慧的決策者、戰略規劃者，中層是富有經驗、長於事務處理的管理者、參謀者、戰術製定者，而底層則是具備一定專業知識與技能、從事具體執行與操作的員工、助理、士兵、學生。
隨著生成式人工智能的進步，這種金字塔形狀的組織結構將會受到強烈的沖擊。當AI能力超越了底層和中層的智能水平之後，金字塔尖的專家更願意直接使用AI助理，以更加高效的方式，完成一些重復性、常規性的工作。
專家/決策者/規劃者與AI助手的協同，打破了以往的人類組織協同模式。隨之而來的問題是人類助手的實踐機會的減少，其成長為專家的路徑被截斷。當老一代人類專家逐漸雕亡，新興人類還有多少人能勝任傳統技藝，是我們需要嚴肅思考的問題。
護持人類真實世界，為AI設邊界
AI應用不應汙染人類的精神世界。當下，AIGC技術日新月異，文字、圖像、語音、視頻等各種模態數據的自動生成與處理技術都取得了前所未有的進步。AIGC為內容生成、藝術創作、影視製作帶來了極大的效率和質量提升。
人人都是創作者、藝術家的時代似乎已然來臨。一個小學生只有有足夠創意，似乎就可以製作一部影視大片。然而看似豐富多彩AIGC生成內容，也不可避免的帶來人們感官上的頭暈目眩，舊日世界的天真與爛漫日益演變成AI時代的光怪與陸離，我們越來越難以理解由AI所塑造的新世界。
AI內容創造的本質是組合拼裝，是移花接木。首先，我們必須承認與珍視AI這種組合創新能力，因為人類的大多數創新實質也是組合創新。
而且，AI的組合創新能力遠勝於人類，它能將人類難以關聯的元素組合。所謂風馬牛不相及、八桿子打不著的元素組合，對於AI而言是十分容易的，比如青花瓷外表的艦艇，三星堆風格的飛機。
這種鮮見的組合創新在AIGC工具成熟之前，是不會有人類畫師無聊到去嘗試的。然而在AIGC降低創作門檻和代價之後，大量的這類新奇且古怪的組合創新呈泛濫之勢充斥人類社會。
人類生物感官有多大程度上能適應未來光怪陸離的世界？這是值得我們嚴肅思考的問題。更為值得深思的是機器的組合創新本質上是同質化的創新，其本質上是借助機器的強大計算能力將人類難以想象的組合以較低的代價生成並呈現而已。
人類對世界的認識、人類從零到一的原始創新，並未因為組合創新而有所增益。組合創新的表面繁華反而更容易掩蓋原始創新貧弱的真實窘境。
AI應用不應侵犯人類的主體意誌。人之為人的根本特性之一就是自由意誌。但事實上，AI工具在一定程度上已經侵犯了使用者的主體意誌。例如，在推薦系統裏，用戶只需要進行簡單類目設置，便可享用推薦功能。
換言之，AI已經在某種程度上已經行使了其自身的推薦意誌。事實上有多少內容是我們真正想看到的呢，越來越多的內容實質上是AI背後的平臺方的意誌體現。更進一步，由於當前大模型技術的不透明、不可控，也可以說是大模型自身的意誌也體現在了推薦結果中。
隨著AIGC的日益成熟，短短的一句提示詞，就能生成一分鐘的視頻，要不了多久一句提示詞就能生成一部電影。那麽這部電影中的內容有多少是經過人類思考並確認的呢？絕大多數內容都是AI自身意誌的體現。
事實上隨著AI的進步，人類逐步放棄自由意誌而由AI代替其發揮決策，似乎是個必然趨勢。人類基於語言的意願表達從根本上來講是模糊而不精確的，這就為AI發揮自身意誌留下了空間。
其次，AIGC創作代價之低免除了人類繁重的藝術創作工作，有多少人能拒絕這種誘惑呢。試想如果AI根據一個極其簡單的提示詞就生成一部讓人震撼的電影作品，那麽有多少人會要對抗AI的這種創作呢？傳統藝術創作的艱辛是很難抗拒AI製作的輕松的。
最後，自主決策對於很多人而言是一種不可承受之重。選擇困難癥、隨大流可以說是現代人的通病。嚴肅思考下的決策往往是一種人們急於推卸的責任。有多少人願意承擔關鍵思考的責任呢？
更進一步，AGI創作本質上體現的是人類的集體意誌。AIGC濫用容易造成人類的集體意誌對個人意誌的抹殺，最終降低人類集體意誌的認知水平。
大模型第一次使得人類有機會相對全面地考察人類的集體意誌，這是極為值得我們珍視的能力。人類的知識、文化多元而龐雜，幾乎沒有人能全面了解全體人類的文化與知識。
然而大模型在基於全人類盡可能多的高質量語料餵養下，接近成為一個全才和通才，能夠以上帝視角建模不同學科、不同文化對於世界認知。概率生成方式從根本上決定了大模型基於占據樣本多數的群體主流意誌而非個性鮮明但鮮有出現個體意誌生成相應的內容，AIGC因此體現的是主流的群體性認知。
我們經常覺得大模型生成的結果有四平八穩、東拼西湊的感覺。
「四平八穩」本質上是概率計算的平滑處理，「東拼西湊」本質上是大模型全量語料學習的結果，來自不同人的觀點可能被綜合融入進了同一個問題的答案。
如果所有的問題，都是來自大模型的從主流集體認知而形成的全面且綜合的標準答案，勢必會抹殺個性化認知。長期耳濡目染大模型生成的結果，久而久之，我們每個人的思維也漸有綜合而穩健的趨勢，但卻可能喪失了難能可貴的個性與獨特。
AI應用應謹慎介入人類的倫理和情感生活。人類的倫理和情感是十分復雜的，所謂人心的幽微與人性的微妙，集中地體現於人類的倫理和情感事務。
人的問題，終究應該由人類自身來解決，AI的介入往往是人類不負責任的一種表現。不同的時代、不同的文化、不同的族群、不同的情形，對同一件情感或倫理事務的看法可能完全不同。
情感與倫理評價尺度從來不是一層不變的。所謂人同此心、心同此理，我們能接受的情感尺度終究還是要人類自身來度量。與機器談何情與性？人類社會的各項製度的的解釋權終歸是人，而不是機器。
我們更需要嚴肅思考的是，AI究竟在多大程度上可以參與到人類的倫理和道德生活中。對此，我們一定要謹慎地設定其應用邊界。除了少數特殊情況，比如借助AI輔助治療與情感相關的心理疾病如抑郁癥，應盡量避免讓AI過多地幹預人類的情感生活。
如果AI盲目介入人類的情感生活，勢必會有很多人迷戀於AI創造的虛擬世界，很多人沈醉於虛擬情感表達而產生畸形的執念。人與人之間的情感生活很容易被人與機器之間的虛假「情感生活」所取代。機器太容易偽裝成一個完美的戀人，它能夠完全迎合我們的個人喜好和情趣。
沒有強大的自覺、自省、自控，個人很容易深陷機器創造出來的虛假情感世界而難以自拔。有多少人能從AI所編織的巨大精神網絡掙脫而出呢？電影《周處除三害》告訴我們，對人類精神世界的控製和侵害是一種極其嚴重的犯罪。人對人的精神控製我們尚且難以接受，機器對人的精神控製更是我們無法容忍的。
AIGC濫用將破壞美的稀缺性，進而傷害人類的審美情趣。AIGC強大的組合能力使得藝術創作門檻極大降低。AI能夠極為高效地探索人類的藝術創作空間，AI生成的作品將爆發式增長。
將來，我們窮極一生也難欣賞AI生成內容的億分之一。AI很快就可能窮盡人類藝術創造的可能空間。以音樂創作為例，人類感官能夠感受的音符、音節是有限的。
即便在AIGC之前，現代社會的人們經常感覺新歌與舊曲曲調相似。AIGC助力下，曲調很快就被窮盡，人類所能感知到的新曲調還會有多少？如果不再有新的曲調誕生，音樂這種藝術形態還有多大的存在價值？
AIGC所帶來的音樂創作泛濫從終極意義上是在毀滅音樂這種藝術形態。類似的情況也將發生在繪畫、影視以及幾乎所有的藝術門類。
從根本上來講，人類的審美體驗是建立在美的稀缺性基礎之上的。「美」的泛濫是在消滅「美」，而不是弘大「美」。AI時代，如何呵護美的稀缺性，如何保有人類的審美情趣？如何維持人類的審美能力？是值得我們嚴肅思考的問題。
人性追求自我超越。人類文明一直有著追求自我超越以接近更高存在的內在傾向。
發展AI何嘗不是人類超越自我、接近更高存在的一種方式。或許每一次人類新能力的擁有都是接近更高存在的一次嘗試。然而，每一次向更高存在接近都是機遇與挑戰並存。
火極大推動了人類文明的發展，但也帶來無數的災難。火如此，核能如此，AI更是如此。人類邁向更高存在的步伐是無法阻擋的，但是這個步伐不妨更加穩健一些，三思而後行，方能走得更遠、更穩。
（作者肖仰華，系復旦大學教授、上海市數據科學重點實驗室主任。本文是肖仰華教授在2024年4月24-26日上海「AI Ethics: A Cross-Cultural Dialogue 人工智能倫理的跨文化對話」國際會議上的發言，澎湃科技經授權編發。）---來源: 澎湃新聞-
