11月26日上午，上海圖書館東館迎來了一場科技與幻想的巅峰碰撞。在這裏，數字生命與意識上傳，已不再是遙不可及的科幻設想，而是一個在我們眼前循序展開的未來。
此次會議是由天橋腦科學研究院.中國主辦的「數字生命與意識上傳」系列研討會的先導篇，邀請北京大學人工智能研究院助理研究員杜凱及著名科幻翻譯和科幻作家顧備對話座談，由喜馬拉雅類星體科幻劇場制作人得聞主持。三位嘉賓來自不同領域，帶我們一同探索了數字生命的可能性，更直面意識上傳的倫理邊界。數字生命是否注定超越我們的掌控？意識是否能夠被真實地轉化成冰冷的代碼？這是一場思想的深度挑戰，關乎人類對未知的勇敢探求。在這個未知空間中，我們將縱身一躍，穿越科技與意識的迷霧，探尋新興未來。
本文通過追問形式呈現談話中的精彩內容，希望能給讀者一些啓發和思考。
@得聞：作爲科幻作家，顧備老師平時會持續追蹤科學的發展動向嗎？
@顧備 ：會的，科幻協會下屬于科協，所以科普也是我們協會相對重要的一環。我們一直想把科技和科幻融合起來，也就是科幻賦能科技創新，科技賦能科幻創意。
@得聞：身爲一名科學家，請問杜凱老師從事科學行業是否有受到科幻的影響？
@顧備 ：很多時候，科幻和科技兩者的分界線不是大家想象的那麽明顯。回到十年前，如果有人說我們有一天會實現強人工智能、擁有強大的基因工具可以隨意修改人的基因，我們會認爲這是科幻小說裏出現的場景，但現在這些（話題）已經處于科學的範疇了。如果不具備科幻作家那樣的想象力，我們就沒法去掌握未來的科學會是什麽樣的。
@得聞：能否介紹一下您的科學研究領域？
@杜凱 ：20年前，我站在人生的轉折點上，有兩個選擇。03年的時候，我特別看好房地産，但後來收到了哥本哈根大學的錄取通知書，最後選擇了去求學。有時候會覺得自己錯過了“10個億”的房子，到後來導致我會考慮自己做的研究值不值得當年放棄那“10個億”的選擇。在20年前，我做的研究就很科幻，我想模擬人的大腦來實現AI，以及探討如何將人的大腦和AI聯系起來。
@得聞：《流浪地球2》中提到數字生命派這麽一個流派，劉德華飾演的角色圖恒宇將女兒圖丫丫瀕臨死亡前的意識上傳到了U盤上，同時將這份數據保存到了超級電腦550A中。數字圖丫丫開始産生了一些自我意識，並可以保存2分鍾的生命。直到圖恒宇把這份數據傳輸到更強大的550W上，圖丫丫的生命得以延長到70余年。兩位對這個情節作何感想？
▷數字生命圖丫丫，圖源：Midjourney
@顧備 ：其實在《流浪地球》影片上映前，劇組上映的先導片就暗示了數字生命這個話題。這引發了一個問題：爲什麽電影裏的數字生命要做數學題？這與最近OpenAI事件頗爲相似，這家公司內部發現有個叫Q*的AI，它會做數學邏輯推理。一旦AI可以處理複雜的數學推理，那它或許也能在物理和化學領域進行推理，這可能使它比人類更早地理解世界的本源。看到這裏，我首先想到的是，意識怎麽上傳？上傳後的意識還是不是你？技術發展路線將在什麽時候實現這一點？
@杜凱 ：我認爲這是《流浪地球》的一大亮點。電影裏的某些設計從科學角度也是可以解釋通的。其實，我們似乎也生活在一個虛擬的世界中。有時，我們需要區分自己看到和感知到的信息。我們對周圍世界的理解，是由視網膜對外界的解讀重建而成，而每個人在這個感知重建的過程中的體驗都是獨一無二的。在每時每刻，大腦都在虛構虛幻的世界，然後把我們真實感受到的世界疊加其中。這個疊加過程通常非常迅速，以至于除了精神病患者和極具天賦的畫家之外，大多數人難以察覺其中的微小時間差。
我們普通人所感知的光線通常是連續平滑的。但在梵高的《星空》中，物體的邊緣是不連續的，因爲他的大腦所感知到的光線是片段式的。畢加索後期的作品也展示了類似的風格。用誇張的方式來說，他們感知到的世界就是如此。所以，在某種意義上，我們每個人也都生活在自己構建的虛幻世界中。從這個角度看，人和機器也沒有太大區別。
▷圖注：梵高感知到的世界；圖源：The Museum of Modern Art
@得聞：人工智能的定義就是讓機器模擬人類的智能，請問類腦智能和之前人工智能在邏輯方式上有什麽區別？
@杜凱 ：AI在曆史上有很多流派，比如符號主義、連接主義。在連接主義中，神經元之間通過互相連接來完成某種任務，這個流派提出後火過一段時間又沈寂了；2006年，深度學習的出現提高了網絡規模和參數；再到2010年左右，隨著新型算法和硬件架構的加入，慢慢以人工神經網絡爲代表的模型範式席卷了AI領域。計算神經科學也是研究神經元之間的連接，但和AI不同的是，計算神經科學更注重和生物大腦的相似性，更側重關注真實的大腦；而AI則更側重關注機器。
@得聞：大模型AI的規模和人腦的參數規模相比是怎樣的？
@杜凱 ：人腦約860億個神經元，每個神經元上面大概又有1萬多個突觸。保守估計，人腦的參數量是ChatGPT的4-5倍，比機器要複雜得多。
@得聞：大腦算力能量消耗小，是否更節能？
@杜凱 ：這可能是一個僞命題，因爲現在的芯片是通用性芯片，如果只是針對神經網絡開發芯片，算力消耗可以更小。並且在專業能力上，大模型AI的效果遠遠超越了人。比較特殊的是，人會談戀愛、生氣，這些都是需要能量的，但大模型不需要。大模型強調內推，但人擅長外推，人可以在兩種本不相關的體系知識下進行外推。
@得聞：對大腦有更好的模擬後，意識有可能被模擬嗎？
@杜凱 ：從技術上模擬人類意識是可行的。至少“從0到1”的這一步已經開啓了，後面的道路還需要慢慢走。
@得聞：常見的科幻作品是如何描述意識上傳的？
@顧備 ：科幻界一直在討論這個話題。我印象比較深的是《尤比克》（Ubik）中的觀點：人臨近死亡時，他們的意識可以被暫時凍結，並且可以被多次激活，直至最終逐漸消逝。而在《神經漫遊者》中，死者的意識被儲存于黑盒中，當需要執行任務時，這個黑盒便被激活。《黑客帝國》、《盜夢空間》則直接通過腦機接口或者其他方式進入意識。這些作品不僅僅探討了意識本身，還深入思考了生命的本質。雖然科幻小說充滿了無限的想象，但核心問題仍然是：什麽是意識？什麽是生命？低等生命是否擁有意識？我們身體的細胞是否具備意識？這些問題是否有明確的定義？
@得聞：科學界對意識是怎樣定義的？
@杜凱 ：ChatGPT的出現讓我們覺得，至少模擬意識是可能的。這也給我們提供了一種新的思考方式，就是也許我們沒有必要去定義意識，我們只要能夠産生意識就足夠了。意識可能不是被事先定義的，而是湧現出來的。例如，在學習各種知識的過程中，一個大規模的網絡突然就産生了意識。如果意識以這種湧現的方式出現，我們也許真的沒辦法定義意識。
@得聞：那是不是可以理解爲，針對意識、情感方向的研究，過去我們是先有理論再著手研究，而現在我們先嘗試去做，再看産生的是否是類似于人類意識和情感的東西？
@杜凱 ：是的。傳統上，科學研究是自上而下的方式進行的。但由科學問題驅動的研究方法可能無法解決意識的問題，我們可能需要通過工程方法來探索是否能夠産生意識。
@得聞：如何定義生命和數字生命？
@顧備 ：我覺得很多東西無法完全定義，甚至很多時候我們會之前的定義是錯的。如果從更高的維度考慮，無論是繁殖還是進化，生命爲了生存，都會展現出高度的協同現象。以計算機病毒和人類病毒的類比，計算機病毒在進入電腦之前是沒有生命的，但進入電腦中開始利用內存進行複制和變異，使得殺毒軟件也難以察覺。如果計算機病毒能夠模仿生物病毒，那麽仿制人類生命也不是不可能的。正如余老師所說，我們看到的不一定是真實的，大腦會自動填補信息的空白。
@得聞：如果我們很難達到一個大家都認同的數字生命概念，那從個人角度您認爲數字生命需要什麽特征？
@杜凱 ：有一個概念叫做臨界態，任何東西數量達到一定量級就會出現一種自組織的現象。這種自組織的方式會使之達到一個處于兩者之間切換的臨界狀態。當你的系統達到臨界態的時候，對外界的輸入輸出就會變得非常敏感。我們認爲大腦就像海平面一樣，有時候大群神經元反應會形成一種漩渦一樣的吸引子狀態，這個時候其他的噪音對大腦的影響就不大了。但是在科學研究中，一個東西不可被定義是危險的。科學與宗教的區別是，科學可以被證實或者證僞。如果我們目前還無法具體定義意識是什麽，我們可以換個角度來考慮：意識何時出現？何時變得有意識？
@得聞：從一個實例來看，ChatGPT這種具備推理能力的形態，可以被稱爲數字生命的最初形態嗎？
@顧備 ：人類在使用工具的時候特別喜歡擬人化，所以人類老想把數字生命也擬人化。但數字生命可能是一種波、一種能量或者以一種信息的狀態存在，最終的數字生命存在方式不一定和人一樣。
@杜凱 ：這裏存在一個問題，如何把認知科學和大語言模型連接起來。很多職業需要和心理結合起來，需要經過特定的心理測試。面對未來，我們如何評估大型模型的心理狀態？我們該如何確保它們不會隱藏自己的心理特性？甚至，大型模型是否可能在不自知的情況下發展出意識？從科學的視角來看，這些想法似乎並非不可能。
@得聞：是否可以選擇另一條路徑，讓AI自己進化“生命”，而不是模擬人類生命？
@杜凱 ：在用數字訓練數字的過程中，我們需要一個參照模型。AI可能走向邪惡，或許會陷入無解的困境。無限制的人工智能可能無解，要麽我們可以忍受低智能的人工智能模型，要麽完全釋放去擁抱無限制的人工智能。雖然人類可能不擅長處理專業的任務，但我們擅長在混亂中尋找清晰、可行的路徑。
@得聞：所以兩位都算是科技樂觀者嗎？
@顧備 ：也不全是。以OpenAI爲例，存在有效加速派和超級對齊派兩個流派。超級對齊派堅持要求人工智能符合人類要求，其核心目標是造福人類。有效加速派則認爲科技的發展是不可阻止的，人工智能的發展也是如此。他們相信，當人工智能發展到一定程度，一定可以用科技制約科技。大家爲什麽對數字生命感興趣？因爲這可能讓人類生命達到永生，或者替換人生。如果我們能實現永生，那麽是否可以超越肉體的低級欲望，追求更高層次的精神目標？然而，這也可能引發新的貧富差距問題，因爲資本和科技的飛速發展可能超出了普通人的理解範圍。
@杜凱 ：我其實是“科技無奈派”，樂觀悲觀都沒用。在商業領域，人們追求性能越強大越好，而另一派覺得大模型過于可怕，出于倫理考慮應當停止發展。OpenAI的理想主義者認爲應當停止這種追求，而不是單純爲了盈利。人類的事情，一旦和金錢利益挂鈎，就容易出現問題。在人類進化過程中，競爭是刻在我們基因裏的。要實現真正偉大的事情，往往需要違背舊有的理念。我們不應過于相信任何事物，也不應被輿論操控。技術的發展會超出人類的想象。
觀衆提問
Q：AI缺乏生命的自我激勵機制，如何湧現自我意識？如果要出現，會出現的內在機制是什麽？
@杜凱 ：技術上來說，AI的進化可以按照我們推論的方向進行。現在比較意外的是，雖然AI需要吸收人類的知識，但是它在某些方面學的比人還好，甚至是在邏輯推理能力上。然而，如果人工智能出現自我激勵現象，比如它們開始自行修改底層代碼，那將是非常危險的。至少目前來說，技術上還沒到這一步。
@顧備 ：人類是貪婪的，樂于競爭、有強烈欲望的，所以會激勵人類去進化。反過來說，AI不具有這些特性可能是好事。
Q：數字生命是否有周期？情感和情緒是否也可以像意識一樣上傳？
@杜凱 ：我們或許可以通過拔電線來結束AI的生命。人很多東西都可以參數化，理論上把這些參數上傳就可以有數字生命。但這肯定不是以硬盤的形式上傳。情感和意識可能是湧現出來的。人有不確定性，有隨機性。大模型是真的像你，還是只是在模擬？大模型是真的意識，還是只是在擬合意識的結果？還需要驗證。
@顧備 ：叠代可能算是一種生命周期。在每一個AI版本的發展中，代碼和功能都經曆著更替。但存儲于內存中的記憶是動態變化的，可以隨時增加隨時刪減。所以它沒法升級或叠代，也就很難跟“周期”來匹配。情感，隨著年齡的增長而變化，它依賴于當時當地的情境和過往的經驗。情感是無法複制的，即便一個人重返過去，他在情感和感知層面也不可能完全相同。
Q：即使人類曾造出了原子彈，目前人類依然存在。所以我們是否應該對AI的發展持樂觀主義。
@杜凱 ：核武器的生成是確定的東西，可以自我控制。相比之下，AI的危險在于它是湧現的，可能不可控。實現永生有兩種方式，一種是通過虛擬世界、數字生命，另一種通過文字把思想流傳。我現在更贊同第二種。
@顧備 ：有個說法，科學的盡頭是哲學，哲學的盡頭是神學。也許人類可以和AI一起，共同進化。
Q：法學具有一定的滯後性，只有當事情出現之後，才會有法律去規避、懲罰它。請問大模型AI可能具有湧現功能，對法學有什麽啓示嗎？
@顧備 ：法律通常是滯後的，但肯定也有一群人會研究倫理道德，倫理道德委員會在某種程度上是從法律角度出發，對新技術進行制約。
@杜凱 ：法律的設定一定要合適。它既不能過度禁止導致約束我們的發展，也不能讓AI危害到人類。我個人覺得，法律不應直接判定哪些AI應該被開發，哪些不應該，因爲這等同于定義AI的發展路徑。重要的是確保AI發展過程中信息的透明度。-(文 : 追問nextquestion/钛媒體)
