當下，大模型表現出了智能湧現的能力，很多人認爲，5年內，可以湧現出來一個有自由意志的版本。
OpenAI的首席科學家伊利亞表示：ChatGPT可能擁有自我意識。被譽爲AI教母的李飛飛則表示，大模型不存在主觀感覺能力，多少億參數都不行。
很多人可能覺得，那麽多大咖都在爭論，你憑什麽來說。
且聽我慢慢說來。
或者有人會說，人可以感知肚子餓，機器人也可以知道自己電量不足，掃地機器人都會在電量不足的時候，主動去充電。但這不是“主觀感覺”嗎？
他們爭論的是感知，一種主觀的感覺。討論這個問題，或許真需要一點“佛性”。
你閉上眼，感受微風吹過，感受一下自己的自我意識，或者說“靈魂”，是不是在雙眼之後，鼻子上面一點的地方？這就是所謂的“眼觀鼻，鼻觀心”。所謂“我思故我在”的感知。
對人工智能來說，可以安裝傳感器。如果有一個大模型操控的機械臂，上面有傳感器，機械臂靠近火源，傳感器會感覺到熱，這個信號會傳遞一個熱的Prompt，大模型會說，“我差點燙到了”，然後縮回手臂。這都是現實的技術。
但是，大模型真的感到了熱和痛嗎？它只是從它收集到的語料中發現，熱對應這句話。
或者，大模型的服務器裏有傳感器，它會開玩笑，“你的這個問題，讓我激動得CPU都燒熱了”。但它真的有喜怒，真的能感受到CPU的熱嗎？
這是哲學史上的經典問題。
計算機之父，在上世紀50年代就研究過“機器能否思考”這個問題，並提出了圖靈實驗。圖靈認爲，如果一台機器在感知方面表現得跟人完全一樣，那麽，從本體論層面，去爭論它到底有沒有主觀感知，就沒有意義，我們就把它當做有主觀感知就可以了。
簡單地說，圖靈認爲，有沒有無所謂，足夠像就有了。這也是圖靈實驗的原理。
AI的過程，其實可以全部換爲蒸汽機和機械開關，那麽一個巨大的蒸汽機，咔咔轉動的機械，會是活的嗎？
一支筆無數稿紙，理論上都可以重現AI的過程。雖然這個過程時間會耗費很長很長。那麽，這個過程會産生意識嗎？對于這個問題，我前幾年認爲，不能。現在我的想法有了一些改變，工藝，可能很重要。
也就是說，一秒能寫100億個字的筆，和一秒只能寫一個字的筆，可能的確會産生本質的不同。像星球一樣大的，蒸汽機推動的，一秒只能運行1000次的計算機，和4納米的一秒運行100億次的計算機，會産生本質的不同。
意識是達到某個複雜度的信息處理系統的湧現。自我、意義，都是複雜演化系統演化出來的適應性“幻覺”。只要系統足夠複雜，的確可能湧現出意識。
但AI有意識和人類能觀測、確定AI有意識是兩回事。就像一個量子同時具有速度和位置，但人類不可能同時觀測到。
AI是否會産生“自由意志”，比這個更基礎的問題是，AI是否有“自我意識”，而“自我意識”的下一層是“意識”“感覺”。只有當AI有“感覺”之後，才有可能有“自我意識”“自由意志”。
類比的就是植物沒有感覺，昆蟲、爬行動物可能有“感覺”，高等哺乳動物有“自我意識”，而人類則討論“自由意志”。意識是一切的基礎。
其實，自由意志是什麽，自我意識是什麽，意識是什麽，可能永遠沒有標准答案。別說證明機器有，一個人要證明另一個人有感覺都很難。
這個問題看起來是，人有感覺，但要由人類到機器，從碳基到矽基去探索機器是否有感覺，遇到了困難，産生了爭議。但其實，真正困難的地方，並不在于這個過程。而是人的感覺本身。
人有意識嗎？一個人可以自知自己有意識，但怎麽知道他人有意識？這不是一個不言自明的真理。
人判斷另一人是否有意識，推導過程是：我能確定自己的存在，我有意識，我有大腦；他有大腦，他也有意識。這個推理過程，並不嚴密。因爲人類不知道大腦是如何産生意識的。
人覺得，除了自己之外的人類都有感覺、有意識，這不是嚴密的邏輯，而是經驗主義的推己及人。
抛開缸中之腦這些假設，一個人不難確定自己是存在的，但他怎麽確定周圍的人是有意識的呢？或者他接入的是一個巨大的虛擬遊戲，自己的親朋好友都是NPC，即電腦控制的角色。
反過來，在其他人意識中，也無法確定你是不是一個NPC。
這是因爲意識具有不可觀測性與私有性。
一個人永遠無法知道另一個人是否真正有感知。討論這個問題前，先討論一個准備性的問題：你看到的紅色和別人看到的紅色一樣嗎？你眼中的紅色，和我眼中的紅色，是一樣的嗎？
由于生理性或病理性原因，一個人的兩只眼睛，可能會有輕微的色差。色彩簡單地說，深一些、淺一些。白色，可能黃一些、藍一些。兩只眼睛通向同一個大腦，這很容易被感知到。你現在就可以試試。
所以，不同眼睛看到的顔色是不一樣的。那麽，一個人看到的顔色色溫更高，比如，一般人眼中6500K的白色，在他眼中實際上和一般人7000K的白色差不多。他永遠無法知道這個差別，也無法告知別人這個差別，因爲他沒有辦法把腦子裏的東西摳出來，給別人看。
色盲、色弱，是通過比較的方式“外化”爲可以表述的東西。比如，分不清綠色和紅色，那麽，綠色方塊中的紅字，你就不能分辨。但有些差異，是無法外化的。推到極端，你永遠無法知道另一個腦中的紅色，到底是什麽樣子的。
打個比方，我們眼中的紅色，在某個人眼中，很可能是綠色。但這不會影響他的生活。當他年幼時，老師指著一張圖片告訴他，這是紅色，紅色這個詞，這個感覺，就和他腦中的那個顔色建立了一一對應關系。
顔色深淺，是一個最簡單的感知，都無法通過嚴密的邏輯對應，至于感知，這種東西，就更難了。人永遠無法知道當一只魚的感覺，哪怕是VR也只能模擬魚的視角，而無法模擬魚的感知。
現在流行所謂的生命上傳。假如生命上傳，傳完了，那個被上傳記憶塑造的人說，他有了你所有記憶、性格，他會覺得，自己已經被上傳過來了，然後告訴工作人員，“你們可以殺死我原來的身體了”。
實驗人員走過來說，我們要殺死你。原來的你，也就是現在在看這篇文章的你，看著另外一個你，比你更年輕的你，一個“他者”。你接受自己被殺死嗎？
科幻小說中的瞬移門，如果是基于傳遞信息的，其實也是殺掉進去的這一個，在另一處組合一個。那麽，你進不進？
實際上，一個人甚至都沒辦法證明，現在自己的自我意識，就是過去自己的自我意識。人都覺得自己的意識是穩定的，20年前的小孩，和現在的自己，是共有一個意識的。這種意識的穩定性，是虛假的嗎？
今日之我是昨日之我嗎？所有人類覺得自己一直存在，對意識的連貫性的肯定，其實源于身體的連貫性。其實這也只是一種經驗，而非精確的邏輯。
早上，你醒過來，新的一天開始了。但這個時候的你，和那個剛剛被灌入意識的人，有什麽區別呢？人無時無刻在進行新陳代謝。過去的身體會變爲二氧化碳、尿素排出去，食物會變爲新的身體。去年自己的“自我意識”可能已經死掉了，現在的自己，不過繼承了去年自己的記憶而已。就像那個從生命上傳設備走下來的那個人。
這就是著名的忒修斯之船。
普魯塔克記載的古希臘傳說中， “忒修斯與雅典的年輕人們自克裏特島歸還時所搭的30槳船被雅典的人留下來作爲紀念碑，隨著時間過去，木材也逐漸腐朽，而雅典的人便會更換新的木頭來替代。最後，該船的每根木頭都被換過了。因此，古希臘的哲學家們就開始問：‘這艘船還是原本的那艘忒修斯之船嗎？如果是，但它已經沒有最初的任何一根木頭了；如果不是，那它是從什麽時候不是的？’”。
哲學家Thomas Hobbes後來對此進行了延伸——如果用忒修斯之船上取下來的老部件來重新建造一艘新的船，那麽兩艘船中哪艘才是真正的忒修斯之船？
在證明今日之我是昨日之我之前，人無法證明他人有意識。在人類證明他人有意識之前，人無法證明AI是否有意識。
至于自我意識就更複雜了。一個自我意識和另一個自我意識的差別，是分子級別的，還是原子級別的，是組成兩個意識的特定原子不同，還是在宇宙中的絕對位置？
打個比方，如果意識是一個杯子的高度和直徑，哪怕精確到納米，人類可以造出兩個一模一樣的杯子。但如果是指特定的一組原子，則這個杯子就是唯一的。如果是後者，那永遠不可能有一模一樣的杯子，就不可能有一模一樣的意識。
這就是意識的私有性，所謂意識上傳，就是破解意識的私有性。但人類還搞不清楚意識的産生機制，更不用說分清楚意識的私有性，實現上傳。
如果人類能證明、定義一個意識，意識就不再是私有的。這就是人類達成永生的這一天。但這一天可能永遠無法到來，也就是說，AI的意識的確可能出現，但人類永遠無法證明，就像人類也永遠無法知道另一個人類是否有意識。
用一種科學的方法論說，無法感知、無法檢測的東西，就是沒有意義的。如果我們無法檢驗世界是不是虛擬的，那麽虛擬和非虛擬這個問題，就沒有意義，采納最簡潔的設定，在此基礎上進行研究、活動、生産。
同類例子就是光速不變原理。單向光速是不可測量的，因爲信息不可能比光速更快，人類只能測量往返光速。這就産生兩個假設，第一，光速往返速度不同，去的時候快，返回的時候慢；第二，往返光速都是一樣的。顯然，第二個假設更簡單，于是采納最簡單的那個：真空光速各向同性。
所以，如果現在要證明AI有意識，要有嚴密的邏輯。由于意識的無法觀測性、私有性，是很難去找到證據的。
爭論AI是否有意識，就像去爭論光速往返的速度是否一樣，是一個沒有意義的問題。
從經驗角度看，圖靈實驗就夠了，計算機之父已經解決了這個問題，不必再爭了。
--- [原創作者 : 劉遠舉*開白名單 duanyu_H/來源: 秦朔朋友圈]
