六個月前，美國生命未來研究所（FLI， Future of Life Institute ）發布了一封由埃隆·馬斯克（Elon Musk）、史蒂夫·沃茲尼亞克（Steve Wozniak）和約書亞·本吉奧（Yoshua Bengio）等科技界知名人士署名的公開信。
生命未來研究所是一家關注人工智能「滅絕風險」的非營利組織。這封信呼籲科技公司在六個月內「暫停」開發比 OpenAI 的 GPT-4 更強大的人工智能語言模型。
顯然，它的呼籲並沒有奏效。
（來源：AI 生成）
我與麻省理工學院（MIT）教授、生命未來研究所的創始人兼總裁馬克斯•泰格馬克（Max Tegmark）坐下來聊了聊，回顧了自那以來發生的事情。以下是我們談話的要點。
談及改變人工智能風險的「奧弗頓窗口」，泰格馬克告訴我，在與人工智能研究人員和科技公司 CEO 的交談中，很明顯人們對人工智能帶來的（人類）滅絕風險感到非常焦慮，但沒有人覺得他們可以公開談論這個問題。
「因為他們害怕被嘲笑，被打上危言聳聽的標籤。」他說：「這封信的主要目標是讓有關對話成為主流，改變所謂的奧弗頓窗口，讓人們可以安全地表達這些擔憂。六個月後的今天，我們在這方面的努力顯然是成功的。」
但其效果僅此而已。 泰格馬克表示，「不太好的是，所有的公司仍在（人工智能模型領域）全速前進，而我們在美國仍然沒有有意義的監管。看起來，美國的政策制定者們儘管嘴上談論着這些東西，但今年不會通過任何有意義的法律來控制最危險的東西。」
那麼，他認為政府應該介入的理由是什麼？泰格馬克正在遊說美國政客，希望成立一個類似於美國食品藥品監督管理局（FDA，Food and Drug Administration）的機構，以執行有關人工智能的規定，並要求政府迫使科技公司暫停人工智能的開發。
「很明顯，像山姆·奧特曼（Sam Altman）、德米斯·哈薩比斯（Demis Hassabis）和達里奧·阿莫代伊（Dario Amodei）這樣的人工智能領導者，他們自己也非常擔心。但他們都知道他們不能獨自停下來，」泰格馬克說。只有自己單方面參與的暫停，對他們的公司來說「將是一場災難」。
他補充道：「否則他們將會在競爭中被淘汰出局，然後無論誰是 CEO，都會被一個不想停下來的人所取代。暫停相關研究的唯一方法是世界各國政府的介入，制定安全標準迫使所有人暫停。」
那麼馬斯克呢？馬斯克在呼籲暫停的公開信上簽了名，但緊接着卻成立了一家名為 X.AI 的新人工智能公司，開發能夠「理解宇宙真實本質」的人工智能系統，而且馬斯克還是生命未來研究所的顧問。「顯然，他想要暫停，就像許多其他人工智能領導者一樣。但只要大規模的暫停沒有出現，他就會認為自己也必須行動起來，才能留在這場遊戲中。」
為什麼泰格馬克認為科技公司的 CEO 心存人性的善良？他說「我為什麼認為他們真的希望人工智能有一個美好的未來，而不是一個糟糕的未來？我認識他們很多年了。我經常和他們交談。即使在私人談話中我也能看出來，我能感覺到這一點。」
一些批評者認為，關注滅絕風險會分散人們對當前危害的注意力，對於這些聲音，泰格馬克的回應是：「至關重要的是，那些非常關心當前問題的人和那些關心即將到來的危害的人要合作，而不是內鬥。我不會批評那些關注當前危害的人。我覺得他們這麼做很好，我也非常關心那些風險。如果人們參與這種內鬥，只會幫助大型科技公司分裂並打敗所有這些努力。」
根據泰格馬克的說法，我們現在應該避免三個錯誤：1.避免讓科技公司來主導立法。2. 避免為西方掀起另一場地緣政治競爭。3.避免只關注滅絕威脅或當下的風險，因為我們必須意識到，它們都是人類權力被剝奪的威脅的一部分。我們必須團結起來才能應對這些威脅。
作者簡介：梅麗莎·海基萊（Melissa Heikkilä）是《麻省理工科技評論》的資深記者，她着重報道人工智能及其如何改變我們的社會。此前，她曾在 POLITICO 撰寫有關人工智能政策和政治的文章。她還曾在《經濟學人》工作，並曾擔任新聞主播。-(支持：Ren/DeepTech深科..)
*MIT博士揭秘STING蛋白新功能，打開感知危險的新方式*
免疫系統一直是生物研究的最活躍領域之一。其一，是因為它和人類健康息息相關。其二，是因為生物系統與周遭病原菌的「軍備競賽」所創造的既多樣又複雜精細的免疫系統，對於進化規律和生物工程有着較強的啟發。
在人類的免疫系統之中，感知雙鏈 DNA 以及細菌入侵危險信號的 STING 蛋白，是一種兼顧進化保守性和創新性的獨特蛋白。在結構上，人和細菌的 STING 有着相似的配體結合區。但是，人源 STING 具有功能未知的獨特跨膜區域。
在功能上，人源 STING 的激活能夠進而激活多種下游反應。但是，除了針對干擾素的誘導之外，對於非經典自噬和炎症小體等其他下游通路激活原理，人們依舊不甚清楚。
在一些前人工作的啟發之下，MIT 劉炳旭博士和所在團隊，發現由 STING 誘導的非經典自噬和炎症小體，都是由 STING 引起的氫離子外流所引起的。
圖:劉炳旭（來源：劉炳旭）
作為氫離子通道，STING 在激活過程中會從內質網轉移到酸性的高爾基體過程中，從而誘導高爾基體氫離子外流激活的下游反應。
通過本次工作，該團隊發現 STING 作為一個免疫分子，可以感知「危險信號」，從而轉化成為離子外流，進而為免疫信號傳遞帶來新的範式。
據介紹，STING 一直是頗受關注的藥物靶點，尤其是在腫瘤免疫領域。以早期的細胞因子療法為例，它曾面臨多種下游通路的互相拮抗，以至於達不到理想效果。後來，人們發現對那些只會引起特定下游反應的細胞因子加以改造，可以達到更好的療效。而特定性地控制 STING 的下游反應，是否會引起更好的療效？這依然是一個開放性問題。
那麼，這一研究是如何完成的？據介紹，劉炳旭一直有夜裡閱讀和本行無關文獻的習慣（特別是實驗做不出來的時候）。此前的一篇研究非經典自噬的論文[1]、以及一篇研究研究 NLRP3 激活機理的論文[2]，這兩篇論文撰寫得既清晰、又漂亮，在讀完之後劉炳旭甚至連細節都記得。
2021 年初，他在研究其他問題時恰好讀到另外兩篇論文[3-4], 這讓他意識到 STING 會引起非經典自噬和炎症小體激活。
當時，他碰巧在研究 STING 多聚化的結構問題，所以在讀論文時多瞄了兩眼 STING 激活態的結構，結果發現跨膜區好像有個洞。
「想到 STING 如果是離子通道，那麼這個理論就可以解釋所有現象。但是，離子通道研究並不算我們實驗室專長，而我們的這個想法離既定免疫領域和離子通道傳統範式都相距較遠。後來，我們曾去尋求合作但卻四處碰壁，而且當時也沒有更好的證據支持我們的想法。」劉炳旭說。
2022 年初，當其他課題組第一次解出 C53/STING 分子結構時候，劉炳旭和同事意識到 C53 結合 STING 的位置，或許正好可以抑制 STING 離子通道功能。
2022 年 9 月中旬，劉炳旭拿到 C53 分子，後邊所有實驗基本都和預期保持一致。劉炳旭表示：「在我們想要 C53 分子的時候，沒有試劑公司賣這個藥物，於是就和開發這個分子的公司談判了 3 個月，就要談成的時候因為研究所和這個公司在細節上有着無法調節的矛盾，所以談崩了。」
談崩當天，他覺得沒法拿到分子也沒法做實驗，當時就和導師說這個課題沒法做了。但是到了晚上劉炳旭又覺得這麼漂亮的假設，就這麼放棄了有點不甘心。
「於是我去網上搜了一下，發現有公司剛剛開始售賣 C53 這個分子，貨品剛剛上架以至於貨號都是錯的，負責採購的人還需要打電話去定。C53 分子在兩天之後寄到，我們做了第一個實驗，結果和我們預計一模一樣，就知道我們的假設應該是對的。」劉炳旭說。
最終，相關論文以《人的 STING 是一種質子通道》（Human STING is a proton channel）為題發在Science，劉炳旭是第一作者兼共同通訊，MIT 教授達雷爾·歐文（Darrell J.Irvine）和美國博德研究所教授尼爾·哈科恩（Nir Hacohen）擔任共同通訊[5]。
圖 | 相關論文（來源：Science）
下一步，劉炳旭將加入美國華盛頓大學大衛·貝克（David Baker）課題組學習蛋白質設計。其表示：「讀博期間我在研究生物進化過程時，在獲得新能力去應對新挑戰的同時，也意識到了原裝系統的局限。自然進化依靠於已有模版進行組裝突變，在十億年的尺度上創造了令人嘆為觀止的複雜機器，但是對日新月異的人類社會的新需求，速度遠遠不夠。隨着理性設計功能的愈發增強，希望生物學研究能從解構時代進入建構時代。」
-(DeepTech深科..)
參考資料：
1.Xu et al, Cell, 2019
2.Chen et al，Nature, 2018
3.Fischer et al, JCB, 2020
4.Gaidt et al, Cell, 2017
5.Liu, B., Carlson, R. J., Pires, I. S., Gentili, M., Feng, E., Hellier, Q., ... & Hacohen, N. (2023). Human STING is a proton channel.Science, 381(6657), 508-514.
