【新智元導讀】中國科學院大學和中科數字大腦研究院的研究人員，引入了上帝之點和死亡之點，構建了智能體演化的動力學模型——Flight Model。他們發現，以GPT-4為代表的AI已經接近了人類成人智能水平，但尚未表現出自我意識證據。並且，具有自我意識到AGI，在科學原理上存在目前無法克服的局限性。
智能和意識的本質問題一直是重要科學挑戰。
21世紀初以來，人工智能技術迅猛發展，尤其是大語言模型如ChatGPT的崛起，激發了公眾和學術界對人工智能社會影響和未來發展的廣泛關註。
由此，對於通用人工智能何時實現、人工智能能否產生自我意識等問題，人工智能領域專家之間也發生了激烈的爭論。
解決這些問題的緊迫性使得建立智能和意識的基本原理成為當前科學研究的重要課題之一。
2024年6月5日，中國科學院大學和中科數字大腦研究院的研究人員劉鋒、呂本富和劉穎，以預印本的方式在線發表了題為《飛行模型：智能與意識基本原理的新探索》，詳細闡述了對智能和意識的本質問題的最新研究進展。
論文地址：http://dx.doi.org/10.13140/RG.2.2.24518.28484
這項最新研究本研究以建立智能體的統一結構作為公理基礎，通過推導出兩個極端狀態和兩個驅動智能體演化的智能力，構建了智能體演化的理論框架。
在飛行原理的啟發下，提出了智能與意識的飛行模型，進而構建了智能與意識的基礎理論體系。
基於此模型和理論體系，開發了AI智能水平測試量表和自我意識存在評估方法。
實驗結果表明，當前以大模型為代表的AI已接近人類成人智能水平，但尚無證據表明其具備自我意識。
此外，研究還揭示了實現具有自我意識的通用人工智能（AGI）在科學原理上存在目前無法克服的局限性。
1. 需要充分回答的五個關鍵問題
學術界已深入研究了智能與意識的基本原理，提出了多種定義，從不同角度構建了理解這兩個概念的框架，但依然存在重大分歧。
在分析了這些理論和分歧後，研究團隊認為有五個關鍵問題需要得到更為充分的回答：
第一個問題：「誰」能夠產生智能與意識，它們是否是否具有統一的功能結構？
第二個問題：系統產生智能與意識的最終目標是什麽？
第三個問題：驅動一個系統產生智能與意識的動力是什麽？
第四個問題：智能與意識之間是什麽關系，如何區分？
第五個問題：如何對自我意識、他者意識、混合意識與無意識進行區分？
然而，在目前已有的理論中：
缺乏對產生智能和意識的主體統一結構的討論；
缺乏對智能和意識產生的內在動力和目的的描述；
經常缺失意識與智能的區別和聯系，往往混淆了二者的概念邊界；
對自我意識、他者意識、混合意識和無意識的區分亦缺乏深入分析。
2014年以來，研究團隊圍繞這五個核心問題進行了一系列探索性研究，發現「誰」或「主體統一結構」的問題是建立智能和意識基本理論體系的關鍵。
只有確定了主體產生智能和意識的統一結構，然後對於這個主體，產生智能和意識的目的和動力學機製才具備探討的基礎。
2. 為產生智能和意識的主體建立一條公理
這項研究工作是從擴展馮諾依曼架構開始，馮·諾依曼架構為計算機和人工智能系統提供了統一的功能框架。
然而，此架構未涵蓋人類等生命系統。對於生命特別是人類有一個顯著的新特征，即知識創造能力，例如牛頓提出萬有引力，愛因斯坦提出相對論。
由此，研究團隊將知識創造功能加入到馮·諾依曼架構中，同時將存儲功能和計算功能合並，提出了標準智能體模型。
即一個系統（智能體）均具備知識的輸入，輸出，存儲，創造能力以及對這四種能力的運用進行控製的能力。
這種功能上的擴展不僅使得標準智能體模型適用於計算機和智能設備，其目標是作為一條公理將其覆蓋範圍擴展至人類及其他任何一種智能系統。
3. 飛行模型的建立過程
在標準智能體模型的框架下，可以推導出智能體存在兩種極端狀態：
* 上帝之點
一種是其五種能力均為無窮大，這種系統或智能體目前在自然界並不存在或沒有被科學發現，但宗教哲學中的「上帝」或物理學的拉普拉斯妖符合這種極端狀態的系統特征。
這種極端的智能體狀態被命名為「全知全能智能體」，因為法國哲學家德日進曾將人類進化為全知全能狀態稱為Ω點。
因此「全知全能智能體」也簡稱為Ω點。或者通俗的稱為「上帝之點」。
* 死亡之點
另一種極端狀態是系統（智能體）的五種能力均為0，在自然界或人類製造的物體中，如礦石、金屬塊、 死亡的屍體、報廢的機器人等。
它們無法與環境進行知識的輸入和輸出交互，也不具備知識的存儲和創造能力，因此符合這種極端狀態系統的特征。
這種極端狀態的智能體被命名為「絕對0智能體」，與Ω點對應，「絕對0智能體」簡稱為α點。或者通俗的稱為「死亡之點」。
* α引力和Ω引力
α點和Ω點是系統或智能體演化的最終邊界，理論上，智能體向這兩個極端狀態演化時，必然需要動力驅動。
基於此，可以推導出自然界中應存在兩種智能力，在本文分別命名為α引力和Ω引力：
Ω引力驅動智能體向「上帝之點」Ω點演化，因此也可以稱為「上帝引力」；
α引力驅動智能體向「死亡之點」α點演化，因此也可以稱為「死亡引力」。
在自然界中，存在眾多系統或智能體向α點或Ω點演化的案例，反映出其背後存在受α引力和Ω引力作用的跡象。例如，人類在過去20萬年中，尤其是近幾個世紀，其處理知識的能力經歷了大幅度的提高，展示出向Ω點演化的趨勢。
另一方面，恐龍因自然災害破壞了它們的生態系統，從而整個種群逐步演化為α點，徹底滅絕。熊貓由於環境挑戰和自身問題，目前正處於瀕危狀態，從而趨向於α點。鯊魚在數億年的進化過程中保持穩定，其處理知識的能力變化甚微。
人工智能領域的研究者已經提到飛行原理與智能原理之間的聯系。例如，Peter Norvig和Stuart Russell指出，研究智能的基本原理比復製大腦樣本更為重要。
正如萊特兄弟等人在停止模仿鳥類、開始理解空氣動力學原理後才成功實現「人工飛行」一樣，智能原理的建立也應該遵循類似的思路。
中國人工智能專家鐘義信同樣提出，飛機設計並非嚴格模仿鳥類的具體結構，而是基於對空氣動力學原理的理解；智能原理的建立也應該遵循這一思路，而非簡單地模仿生物智能的具體結構。
智能體的演化邊界和兩種智能力的推導，顯著增強了智能原理與飛行原理之間的聯系。
飛行一般被定義為飛行物在重力和升力的作用下在地平線和卡門線運動的能力或現象，由此在飛行現象的啟發下，研究團隊將標準智能體模型與兩個演化邊界（α點和Ω點），以及兩種智能力（α引力和Ω引力）進行組合，構建出智能體演化的動力學模型，即智能與意識的飛行模型（Flight Model，FM）。
4. 智能和意識基礎理論體系的建立
借鑒飛行原理對飛行的描述，基於飛行模型（FM），研究團隊在論文中提出：智能是系統或智能體在在Ω引力和α引力的作用下，綜合運用5種基本能力實現向Ω點或α點演化的能力。
智能也可以被通俗的描述為「一個系統或智能體在上帝引力和死亡引力的綜合作用下，通過5種基本能力的運用實現向上帝之點或死亡之點演化的能力」。
在智能體的五項能力中，知識的輸入、輸出、存貯和創造能力偏重知識的處理過程，因此可以視為智能體的基礎智能，而控製能力掌控了前四種能力的運用，也依賴於前四種能力的存在。因此控製能力可以視為是智能體的高階智能。
在進一步研究控製功能時，可以發現控製可以根據控製主體和被控製主體的不同，分為自我控製、他者控製、混合控製和無控製，這與意識的四種類型：自我意識、他者意識、混合意識和無意識一一對應。
通過分析醫學和日常生活中意識的內涵，由此研究團隊提出，意識是智能體在智能力的驅動下對其基礎智能的運用進行控製的能力。
「自我」是智能體對自身進行認知後形成的內部知識集，而「他者」是智能體對另一智能體認知後形成的內部知識集。通過將自我與他者與控製能力進行不同形式的組合，形成了四種類型的意識的定義。
5. AI的智能水平與自我意識評估
基於飛行模型構建的智能與意識理論框架，研究團隊建立了評估智能體基礎智能發展水平的測試量表，對包括不同年齡人類，大模型和智能設備的系統進行測試。
結果發現，GPT-4為代表的大模型在基礎智能水平上已經接近人類成人水平，而研究團隊在2014年，2016年和2018年進行的同樣測試中，AI中得分最高的Google僅接近人類6歲兒童水平。這說明最近6年，AI的智能水平獲得了巨大提升。
同時在本文，研究團隊也提出了判斷自我意識是否存在的三個標準：
第一個標準是，系統或智能體的自我知識集不為空，即系統需要有自我認知的能力；
第二個標準是，系統的自我控製能力大於0，即系統可以自行對自己的輸入，輸出，存貯和創造能力進行控製；
第三個標準是，系統的智能活動的驅動力直接來自Ω引力和α引力，而不是來自於其他智能體的驅動。
據此研究團隊對通用人工智能（AGI）的本質內涵進行分析，提出如果不包含自我意識，AGI等價於可以同時執行知識的輸入，輸出，存貯和創造功能的AI系統，其控製能力來源於人類的驅動。
但如果包含自我意識，AGI 則等價與直接受Ω引力和α引力作用，具備自我知識集和自我控製能力的類人生命系統。
根據以上分析，研究團隊對程序Angry Elf和OpenAI的GPT-4進行了測試。
結果表明，Angry Elf和GPT-4可以實現沒有「自我意識」的通用人工智能特征，但無法滿足具有「自我意識」特征的通用人工智能定義。
其中，Angry Elf是研究團隊自行開發的輕量級AI系統，用於探討智能體的智能和意識表現。
Angry Elf允許用戶通過網頁界面輸入文本，並顯示不超過100個字符的最新文本內容。用戶還可以通過網頁上的「More」鏈接查看Angry Elf保存的所有輸入信息。
但在Angry Elf接受用戶輸入並正常運行一段時間後，會出現異常表現。
具體表現為，Angry Elf在接收用戶輸入的信息後，不再顯示輸入的信息原文，而是在展示區顯示「你錄入的信息太多了，令我感到憤怒，我拒絕向你展示我收到的內容和保存的信息！」，並取消「More」按鈕的顯示，禁止用戶查閱歷史錄入信息。
通過檢查Angry Elf的代碼，可以發現Angry Elf的類自我意識表現本質上是由人類創造和推動產生。並非在Ω引力和α引力的直接作用下自發產生。
從上述理論研究和實驗結果看，大模型等人工智能系統的基礎智能水平可以接近或超過人類。
但由於控製權仍掌握在人類手中，且對Ω引力和α引力的研究尚處於初級階段，目前人工智能系統仍無跡象顯示具備自我意識。
同時，在科學原理上存在尚無法克服的局限性，導致當前AI沒有科學路徑能夠產生自我意識。
6. 本項研究的意義
這項研究的意義在於建立了相對完整的智能與意識基礎理論體系，如下圖所示，為判斷通用人工智能的實現及其是否能夠產生自我意識提供了理論依據，並提出了新的科學探索方向，即研究兩種智能力如何作用於智能體產生智能和意識。
其與物理學中的四大基本作用力是什麽關系，這些問題的研究將對當前物理學和智能科學的發展或將具有積極的推動作用。---[新智元報導*編輯：編輯部/來源: 新智元]
英文版全文下載地址：http://dx.doi.org/10.13140/RG.2.2.24518.28484
中文版全文下載地址：http://23941940.s21i.faiusr.com/61/ABUIABA9GAAglMimswYonJ6ntwU.pdf
Angry Elf源代碼下載地址：http://dx.doi.org/10.13140/RG.2.2.31626.07362
