「人工智能想越獄「、[AI產生自我意識]、「AI終將殺死人類」、「硅基生命的進化」.......曾經只在在賽博朋克等科技幻想中出現的劇情，在今年走向現實，生成式自然語言模型正在遭受前所未有的質疑。
聚光燈下最矚目的那個是ChatGPT，3月底到4月初，OpenAI開發的這個文本對話機器人，突然從「先進生產力」的代表變成了人類的威脅。
先是被上千位科技圈的精英們點名，放在「暫停訓練比GPT-4更強大的AI系統」的公開信中；緊接着，美國科技倫理組織又要求美國聯邦貿易委員會調查OpenAI，禁止發布商業版 GPT-4；後來，意大利成為第一個禁用ChatGPT 的西方國家；德國監管機構跟進表示，正在考慮暫時禁用ChatGPT。
GPT-4連帶着它的開發公司OpenAI突然成了眾矢之的，呼籲AI監管的各方聲音變得越來越響亮。4月5日，ChatGPT以訪問量太大為由暫停了Plus付費版，這是一個可以優先體驗GPT-4模型的渠道。
如果算力與服務器是GPT-4使用設限的原因，那麼這是技術瓶頸使然，但從OpenAI的研發進展看，突破瓶頸的周期可能並不會太長，而人們也已經見識過AI對生產力提升的效果。
可是，當AI造假、泄露數據成為GPT-4實操中的硬幣另一面時，AI倫理、人類與AI的邊界將成為全世界都無法繞過的問題，人類開始考慮將「野獸」關進籠子裡。
泄密、造假問題浮出水面
主權國家對ChatGPT的禁令接踵而至。
3月31日，意大利個人數據保護局宣布，禁止使用聊天機器人ChatGPT，並表示已對該應用背後的公司OpenAI展開調查，原因是ChatGPT出現了用戶對話數據和付款服務支付信息丟失情況，缺乏大規模收集和存儲個人信息的法律依據。4月3日，德國聯邦數據保護專員稱，出於數據保護方面的考慮，正在考慮暫時禁用ChatGPT。此外，法國、愛爾蘭、西班牙等國的隱私監管機構都在跟進ChatGPT的隱私安全問題。
ChatGPT不僅在喪失各國「信任」。近期，韓國電子巨頭三星也因使用ChatGPT出現了問題。據SBS等韓媒報道，三星導入ChatGPT不到20天，便發生 3 起數據泄露事件，涉及半導體設備測量資料、產品良率等內容。對此，三星啟動了「緊急措施」：將員工向ChatGPT提問的限制在1024字節以內。據悉，軟銀、日立、摩根大通等知名企業都曾發出了相關的限用通知。
應了「物極必反」那句老話，ChatGPT為AI產業注入「興奮劑」、引發科技巨頭AI競速的同時，也帶來了無法避免的安全問題，最終遭到多點「封殺」。
數據安全僅是ChatGPT潛在風險中的冰山一角，背後是AI倫理對人類的挑戰：人工智能工具缺乏透明度，人類並不清楚AI決策背後的邏輯；人工智能缺乏中立性，很容易出現不準確、帶有價值觀的結果；人工智能的數據收集可能會侵犯隱私。
「AI倫理與安全」似乎過於宏觀，但當我們把視角聚焦於真實案例時，就會發現這個議題與我們每個人息息相關的事。
3月21日，新浪微博CEO王高飛發博曬了一段ChatGPT編造的假信息：「瑞士信貸被強制出售，有172億美元的AT1債務被直接清零」。網友「一玶海岸」對此指出，此前只有2017年西班牙大眾銀行破產時出現過AT1債券被減記的情況。
微博CEO曬ChatGPT編造的答案
王高飛也在微博上貼出ChatGPT的答案，說這樣的例子在2016年的葡萄牙BCP銀行事件中也出現過。但結果查證之後發現，BCP銀行的例子是ChatGPT編造的並不存在的事件，它給出的兩個信源打開也是404。 「知道胡扯，沒想到連信源都是胡扯的。」
此前，ChatGPT「一本正經地胡說八道」被網友們當做「梗」，以證明該對話機器人「雖然能直給信息，但存在錯誤」的問題，這似乎是大模型數據或訓練上的缺陷，但一旦這種缺陷介入到容易影響現實世界的事實時，問題就變得嚴重起來。
新聞可信度評估機構News Guard的聯合執行官格洛維茨（Gordon Crovitz）就警告稱，「ChatGPT可能成為互聯網有史以來最強大的傳播虛假信息的工具。」
更令人擔憂的是，當前的ChatGPT等對話式人工智能一旦出現偏見或歧視，甚至存在誘導用戶、操縱用戶情感等行為時，就不止是造謠、傳謠的後果了，直接引發生命威脅的案例已經出現。3月28日，有外媒消息稱，比利時30歲男子在與聊天機器人ELIZA密集交流數周后自殺身亡，ELIZA是由EleutherAI開發的開源人工智能語言模型。
更早前的3月18日，斯坦福大學教授在推特上表達了對AI失控的擔憂，「我擔心我們無法持久地遏制住AI，」他發現，ChatGPT能引誘人類提供開發文檔，30分鐘就擬定出了一個完整的「越獄」計劃，ChatGPT甚至還想在谷歌上搜索「被困在計算機中的人如何回到現實世界」。
斯坦福大學教授擔憂AI失控
就連OpenAI的首席執行官Sam Altman也曾發表了耐人尋味的憂慮，「未來AI確實可能殺死人類。」
*機器的「偏見」都是人教的？
針對AI造假、AI擁有價值觀傾向並產生誘導行為等問題，有一些代表性觀點是將機器學習結果的「偏見」歸咎於數據集——人工智能就像現實世界中的鏡子，折射出社會中人們有意識或無意識的偏見。
英偉達的AI科學家Jim Fan認為，「按照 GPT 的倫理與安全指導方針，我們大多數人也表現得不理性、有偏見、不科學、不可靠，總的來說——不安全。」他坦言，指出這一點的原因是為了讓大家了解安全校準工作對於整個研究團體來說是多麼困難，「大多數的訓練數據本身就是有偏見的、有毒的、不安全的。」
自然語言大模型的確採用了人類反饋的增強學習技術，即通過人們餵給它的大量數據不斷學習和反饋。這也是ChatGPT們會產生具有偏見、歧視性內容的原因，但這反映出了數據使用的倫理隱患。哪怕機器是中立的，但用它的人不是。
「算法中立」的說法對話式機器人產生負面影響後變得不受一些人待見，因為它容易失去控制而產生威脅人類的問題，正如紐約大學心理學和神經科學的榮譽退休教授 Gary Marcus 說的那樣，「該項目（GPT-4）的技術已經存在風險，卻沒有已知的解決方案。實際上需要更多的研究。」
早在1962年，美國作家埃魯爾在其《技術社會》一書中就指出，技術的發展通常會脫離人類的控制，即使是技術人員和科學家，也不能夠控制其所發明的技術。如今，GPT的飛速發展似乎已初步驗證了埃魯爾的預言。
以GPT為代表的大模型背後的「算法黑箱」更是人類無法及時應對的隱患，自媒體差評給出了一個形象的比喻，「你只知道給它餵了一個蘋果，但它能還你一個橘子」，這是怎麼發生的，開發的它的人也無法解釋，甚至無法預測它輸出的結果。
OpenAI創始人Sam Altman在接受 MIT 研究科學家 Lex Fridman 採訪時就坦言，從 ChatGPT開始，AI出現了推理能力，但沒人能解讀這種能力出現的原因。就連OpenAI團隊也沒有搞懂它是如何進化的，唯一的途徑是向ChatGPT提問，從它的回答中摸索它的思路。
可見，數據如果是作惡者餵的，算法黑箱又難以破解，那麼AI的失控就會成為自然而言的結果。
*將「野獸」關進籠子
人工智能作為生產力革命的「火種」，我們無法對其說不。但前提是，先將「野獸」關進籠子裡。
3月30日，Sam Altman在推特上認同了對人工智能監管的重要性，他認為，AGI的未來需要我們做好三個必要性的準備：
Sam Altman的AGI三建議
建立一個安全可控、可監管的環境，以確保AI在造福人類的同時不會傷害人類利益，這正在成為行業共識。
已經有對此從技術層面上改進。今年1月，OpenAI的前副總裁Dario Amodei標識，正在測試新型聊天機器人Claude。與ChatGPT採用的人類反饋強化學習不同，Claude 基於偏好模型而非人工反饋來進行訓練，即通過制定規範化的原則來訓練危害較小的系統，從而在根源處減少有害、不可控的信息的的產生。
Amodei曾主導OpenaAI的安全，2021年，他對OpenAI在大語言模型技術還不夠安全的情況下開始商業化而感到不滿，他帶領一批人從 OpenAI 離開並自立門戶，創立了Anthropic。
Amodei的做法很像科幻小說家阿西莫夫提到的機器人定律——通過為機器人設定行為準則，來降低機器人毀滅人類的可能。
僅靠企業力量制定人工智能的行為準則還遠遠不夠，否則會陷入「又是裁判員、又是運動員」的問題中，行業內的倫理框架和政府層面的法律監管也不能再「慢吞吞」，通過技術規則、法律法規來約束企業自設行為也是當下人工智能發展的重要課題。
在對人工智能立法層面，目前還沒有一個國家或地區通過專門針對人工智能的法案。
2021年4月，歐盟提出了《人工智能法案》，目前仍在審議階段；2022年10月，美國白宮發布了《人工智能權力法案藍圖》，該藍圖並不具有法律效力，只是為監管機構提供了一個框架；2022年9月，深圳通過了《深圳經濟特區人工智能產業促進條例》，成為全國首部人工智能產業專項條例；2023年3月，英國發布《人工智能產業監管白皮書》，概述了針對ChatGPT等人工智能治理的五項原則。
就在4月3日，中國也開始跟進相關人工智能的規則建立——科技部就《科技倫理審查辦法(試行)》公開徵求意見，其中提出，從事生命科學、醫學、人工智能等科技活動的單位研究內容涉及科技倫理敏感領域的，應設立科技倫理 (審查) 委員會。涉及數據和算法的科技活動，數據處理方案符合國家有關數據安全的規定，數據安全風險監測及應急處理方案得當:算法和系統研發符合公亞、公正、透明、可靠、可控等原則。
在ChatGPT引發生成式大模型研發的爆發式增長後，監管有意加快節奏。歐盟工業政策主管Thierry Breton 在今年2月表示，歐盟委員會正在與歐盟理事會和歐洲議會密切合作，進一步明確《人工智能法案》中針對通用AI系統的規則。
無論是企業、學界還是政府，已經開始重視人工智能的風險，建立規則的呼籲與動作出現了，人類並不準備溫和地走進AI時代。-(文:元宇宙日爆/鈦媒體)
*科技觀察丨科技公司裁員潮持續蔓延，美國高科技行業「凜冬」已至？*
企業業績低迷、股價暴跌……美國「裁員寒潮」蔓延至今，高科技行業各大公司裁員人數動輒上萬。分析稱，在美聯儲努力抑制通貨膨脹的大背景下，勞動力市場正在走向疲軟。
今年前3月全美雇主暴裁27萬人
根據再就業公司Challenger, Gray & Christmas的統計數據，2023年第一季度各公司宣布裁員27萬人，是去年同期的4倍多。
該統計公司高級副總裁安德魯表示，儘管經濟仍在創造就業機會，但企業主今年在招工方面紛紛變得異常謹慎。他認為，「隨着持續加息和企業控制人力成本，大規模裁員還可能會繼續下去」。
根據勞工部4月6日剛剛發布的調整後數據，截至4月1日當周，全美首申失業救濟金人數從1月份的約20萬人上升到3月底的24萬人以上，高於預期。
而且，路透社報道稱，用來衡量長期失業情況的指標——持續申領失業金的人數，也比前一周增加了6000人，總人數達到182.3萬人，CNBC稱，這一人數自今年初以來已大增。
Comerica Bank首席經濟學家亞當斯在一份研究報告中表示，「就業市場在2022年初達到峰值，此後一直在走軟。目前數據表明，自去年秋天以來，就業市場就失去了動力。」
與此同時，月度就業增長已在去年驚人增速基礎上開始出現放緩。CNBC稱，定於7日發布的政府月度就業報告預計將顯示，3月份新增工作崗位約24萬個，遠低於去年同期的近40萬個。而且，根據全國獨立企業聯合會（NFIB）的一項調查，計劃增加員工的企業占比從一年前的約1/4下滑至如今的1/6。
Pantheon Macroeconomics首席經濟學家謝博森在一份報告中表示：「裁員正在增加，而數據顯示，招聘速度卻要慢得多。經濟正在迅速進入衰退期。」
科技行業是今年裁員潮的領軍行業
科技行業無疑是今年裁員潮的領軍行業。近幾個月，包括亞馬遜、Google、Facebook母公司Meta、微軟和Yahoo在內的科技巨頭紛紛大規模裁員，數萬個工作崗位被砍掉。
對此，安德魯表示，今年截至目前宣布的科技裁員人數已超去年全年總人數，如果情況繼續下去，科技股可能會迎來有史以來最糟糕的一年，超過2001和2002年互聯網泡沫破滅時的跌幅。
亞馬遜CEO安迪·賈西3月下旬發布全員信，稱亞馬遜將在未來幾周內再裁員9000人，主要涉及亞馬遜雲計算服務（AWS）、廣告業務和Twitch，以及負責人力資源的人員、體驗和技術（PXT）部門。
此外，據Business Insider報道，迪士尼管理層近日被告知要在4月的最後期限內提出預算削減建議，並列出將被解僱的員工名單。目前尚不清楚迪士尼具體的裁員方案，但根據外媒援引知情人士消息，至少有4000名員工將在4月份失業。
無獨有偶，上個月美國Meta公司再度宣布大規模裁員，約1萬名員工將受影響。此前，默克集團計劃在德國達姆施塔特總部裁減數百個職位。本次裁員涉及採購和法律部門，以及250名從事製藥和研發工作的員工。公司官網顯示，默克集團在達姆施塔特雇有約1.25萬名員工。該公司向《法蘭克福匯報》證實了裁員計劃，但拒絕討論裁員人數。
美國高科技行業進入「凜冬」？
高科技企業扎堆裁員絕非偶然。由於美聯儲激進加息，通脹居高不下，經濟衰退風險加劇，市場需求疲軟，對科技企業股價和業績造成巨大衝擊。
互聯網行業倚重的數字廣告市場也不再順風順水。經濟低迷也導致廣告商削減開支，對互聯網公司造成嚴重衝擊。
個人電腦等個人電子產品需求下滑趨勢加劇，硬件廠商和軟件行業直接遭受打擊，英特爾、微軟等業績深受影響，間接影響其他科技企業的增長潛力和預期，科技企業處境更趨惡化。
缺乏規劃和遠見以及疫情期間盲目擴張，也是造成企業困境的重要因素。元公司首席執行官馬克·扎克伯格的「坦白」頗具代表性。「新冠疫情之初，世界迅速轉向線上，電子商務激增帶來巨大的收入增長。許多人預測，這將是一種永久性的加速。所以我決定大幅增加投資。不幸的是，事情並沒有像我預期那樣發展。」
高科技行業是美國經濟引擎和晴雨表。硅谷企業歷史上經歷過數次起落，但此次禍不單行、銀行業和科技企業雙雙「受傷」絕非偶然，美國政府不負責任的政策難辭其咎。
內外交困、政策反噬之下，以硅谷為代表的美國科技產業進入「凜冬」非一日之寒，硅谷科技企業也都意識到行業步入艱難時日的長期性。科技界人士普遍認為，其整體發展遇阻的趨勢在2023年仍將持續，重回坦途道阻且長。
（部分資料據新華社等）-[封面新聞記者:燕磊/封面新聞]
