美財長耶倫警告：金融行業廣泛應用AI帶來潛在「重大風險」

6月6日周四，美國財政部長耶倫出席了金融穩定監督委員會（FSOC）有關人工智能與金融穩定的會議，並在開幕致辭中警告金融機構使用人工智能技術的潛在風險。

有分析稱，這是耶倫迄今為止對人工智能作出的最廣泛評論。據一位美國財政部官員向媒體透露，耶倫本人也嘗試用過人工智能聊天機器人。

上述委員會在2008年金融危機之後由美國財政部牽頭其他監管機構成立。本次為期兩天的會議與美國智庫布魯金斯學會合辦，「美國版銀監會」貨幣監理署OCC的負責人也會發表講話。

會議主題是討論金融服務領域使用AI帶來的潛在系統性風險，並分享鼓勵創新與有效監管的洞察。與會者包括監管部門，科技公司、保險公司和資產管理機構的高管，以及學者和銀行代表。

耶倫眼中的金融業利用AI「重大風險」：頭寸過於擁擠，放大市場波動？

耶倫在演講中透露，人工智能與金融穩定是拜登政府高度重視的話題，「在未來幾年只會變得更加重要」。金融公司使用人工智能帶來的「巨大機遇和重大風險」已成為美國財政部和金融穩定監督委員會的首要議題。

耶倫承認，人工智能為金融系統提供了巨大機遇，例如通過AI的預測能力進行投資組合管理，利用AI檢測異常的能力來打擊欺詐和非法融資，客服也開始實現自動化。在最新的發展中，自然語言處理、圖像識別和生成式人工智能有助於金融服務成本更低和更易於獲取：

    「我們看到，如果使用得當，人工智能可以提高效率、準確性和金融產品的可及性。」

但她同時警告稱，金融機構使用AI在促進機遇的同時伴隨著「重大風險」（significant risks）：

    「特定的脆弱性可能源於人工智能模型的復雜性和不透明性，風險管理框架不足以應對人工智能風險，以及由於許多市場參與者依賴相同的數據和模型而出現的相互關聯特征。

    開發模型、提供數據和雲服務的供應商集中度過高，也可能會加劇現有的第三方服務提供商風險。數據不足或有缺陷則可能延續現有的偏見或引入新的金融決策偏見。」

有分析指出，耶倫意在警告，如果許多投資者都依賴於產生相同結果的AI工具，這可能導致某些熱門交易的倉位押註擁擠，從而加劇市場上行或下行的走勢。

同時，如果只有少數幾家公司有能力提供AI模型，一旦其中一家公司出現問題，許多金融機構可能受到波及。更別提AI模型有時會產生有偏差或者歧視性的結果，但耶倫沒提AI系統產生錯誤答案的「幻覺」問題。

美國財政部也在利用AI打擊金融犯罪，FSOC去年首次警告AI對金融體系構成威脅

有美國財政部官員透露，FSOC正在努力探究人工智能如何對金融系統構成威脅，包括加大力度監控人工智能在金融行業的使用情況。

耶倫承認，美國財政部早就在利用AI技術來打擊非法金融行為，例如檢測洗錢、恐怖主義融資和逃避製裁等「我們面臨的一些最大風險」，美國國稅局則用AI來增強逃稅的欺詐檢測能力。

未來，美國政府和金融監管機構將繼續擴大利用最新技術的能力、深入了解AI在金融服務領域的用例，並將公開征求市場參與者、消費者、學者和社會公眾對金融領域AI應用的意見。

美國財政部還將舉辦人工智能和保險行業的圓桌會議，討論保險公司如何防止AI造成貸款歧視等潛在的消費者保護措施，並將同美國國內與國際的金融監管機構定期對話，共同探究和監測AI對國際金融體系和全球經濟的影響。

耶倫提到，除了促進信息共享和對話之外，金融穩定監督委員會及其成員機構將加強AI監管能力，在已有風險管理指導框架的基礎上，還會引入「場景分析」（scenario analysis）的方法：

    「鑒於人工智能技術發展迅速，金融公司和市場參與者的潛在用例也在快速演變，場景分析可以幫助監管機構和企業識別未來潛在的脆弱性，並告訴我們可以采取哪些措施來增強抵禦能力。」

去年12月，美國金融穩定監督委員會在2023年度報告中首次警告稱「人工智能對金融體系構成潛在威脅」，將人工智能在金融服務領域的廣泛應用視為一個「新興弱點」，AI可能帶來的某些風險包括網絡安全、合規和用戶隱私保護等問題。

在報告中，監管機構還提到了對ChatGPT等生成式AI模型「復雜性」的擔憂，除了這些模型可能會產生「幻覺」而提供有缺陷的結果之外，一些人工智能系統像是外部人員無法洞察的「黑箱運作」，令評估系統概念是否合理變得困難，進而增加對其適用性和可靠性的不確定風險。

例如，監管機構擔心，如果銀行依賴「神秘的」人工智能模型，就很難理解其底層系統到底有多安全。AI系統也可能產生並掩蓋有偏見或不準確的結果，導致公平借貸等消費者保護問題。

耶倫也在本次演講中援引了FSOC年報，稱美國財政部希望解決與人工智能相關的直接運營風險、網絡安全和欺詐挑戰。

去年的年報特意指出：「隨著人工智能方法的復雜性增加，錯誤和偏見會變得更加難以識別和糾正，這凸顯了AI技術開發者、使用該技術的金融行業公司，以及監管這些公司的監管機構必須保持警惕。」---來源: 華爾街見聞官方-

*OpenAI年薪僅6.5萬美元，奧特曼卻掌控28億美元創業帝國*

6月7日消息，盡管薩姆·奧特曼（Sam Altman）作為OpenAI的聯合創始人兼首席執行官而廣為人知，但他在風險投資和創業投資領域的角色同樣重要。鮮為人知的是，奧特曼掌管著價值超過28億美元的投資帝國，這與他在OpenAI領取的6.5萬美元薪資形成了鮮明對比。他的家族辦公室正在管理這一帝國，涵蓋了他廣泛而多元化的投資組合。

打造投資帝國

奧特曼及其風險投資基金已投資超過400家公司。他的投資帝國起源於2012年，當時他賣掉了定位服務公司Loopt，並利用這筆資金創建了他的第一個風險基金Hydrazine。

到了2014年，奧特曼已經投資了40家公司，並在個人博客中提到：「其中五家表現『非常出色』——根據上一輪融資或上一輪報價的估值，它們的價值已增長了約100倍或更多。」

此外，他從2015年到2019年領導了著名的矽谷孵化器Y Combinator，該機構曾為Stripe、Airbnb和Dropbox等企業提供種子輪融資。奧特曼還作為天使投資人及風險資本家，投資了包括Asana、Reddit、Instacart和Pinterest在內的100多家初創公司。

特別值得一提的是，奧特曼對Stripe的投資堪稱神來之筆。這家公司目前估值高達650億美元，是美國估值第三高的初創公司，僅次於SpaceX和OpenAI。奧特曼最初僅投資1.5萬美元，獲得了該公司2%的股份。盡管隨著時間的推移，他的股份已減少至不到2%，但這仍是他最為成功的投資之一。去年，Stripe還宣布與OpenAI建立合作夥伴關系，共同推動後者的技術商業化。

為支持其投資活動，奧特曼從摩根大通獲得了一筆貸款，並以其日益增長的投資組合作為抵押。這一策略盡管冒險，因初創公司的表現難以預測，但對他而言卻收效甚佳。這不僅使他能向初創公司投入巨資，還增強了他在這些公司中的影響力和股權。

影響力與財富

如今顯而易見，奧特曼通過投資積累的財富遠超過他在OpenAI的薪資所得。他能夠在管理一家大型人工智能公司的同時，建立起龐大的投資組合，這突顯了他在科技行業的獨特影響力。

他在Stripe所持的股份現已價值數十億美元，這無疑是他投資眼光的有力證明。隨著時間推移，他的投資組合不斷擴大，為他帶來了巨大的財富。這些財富使他能夠享受矽谷巨頭典型的奢華生活方式，包括在納帕谷和夏威夷擁有度假別墅，收藏豪華跑車，並支持他追求各種奢侈的愛好。

潛在利益沖突

然而，奧特曼的雙重角色也帶來了潛在的利益沖突。他在與OpenAI有合作關系的公司中持有股份，可能為他帶來個人經濟利益，從而影響OpenAI的商業決策。盡管奧特曼已主動回避了一些可能引發利益沖突的談判，但他的多重角色仍受到外界關註。

公司治理顧問、富理達律師事務所的合夥人路易斯·萊奧特（Louis Lehot）提出質疑：「奧特曼是否會利用他的影響力促使OpenAI以高價收購其投資的公司？他是否會動用OpenAI的資源助力其他企業？在他不持有OpenAI股份的情況下，這種潛在的沖突確實令人擔憂。」

以核能初創公司Helion Energy為例，奧特曼擔任該公司董事長，並曾開出過金額高達3.75億美元的最大單筆投資支票。與此同時，OpenAI正在與Helion洽談購買大量電力，以供其數據中心使用。

另一個例子是製造AI虛擬助手Ai Pin的Humane公司，其產品高度依賴OpenAI的軟件。奧特曼的控股公司在Humane擁有15%的股權，這一比例甚至超過了公司創始人貝瑟尼·邦喬爾諾（Bethany Bongiorno）和伊姆蘭·喬杜裏（Imran Chaudhri）各自所持的股份。

2019年，OpenAI決定從奧特曼支持的初創公司Rain AI購買價值5100萬美元的AI芯片。由於奧特曼在Rain AI擁有經濟利益，引發了人們對產品選擇偏向性的擔憂，尤其是在可能存在更優或更經濟的選項時。這種情況引起了對奧特曼的投資是否影響OpenAI決策的質疑。

奧特曼被批虛偽

奧特曼在同時領導大型機構與管理個人投資的方式，引起了外界（特別是其他風險投資家）的批評，他們指責他的做法虛偽。奧特曼能夠同時運營自己的風險基金Hydrazine和擔任Y Combinator的總裁，這種非傳統且具有爭議的安排備受關註。

在擔任Y Combinator總裁期間，奧特曼製定了規則，禁止其他合夥人經營個人風險基金，以確保他們全心為Y Combinator創造價值。然而，他自己繼續管理Hydrazine基金，從Y Combinator支持的初創公司中獲利。這種明顯的雙重標準引起了其他合夥人的不滿，並加劇了外界對其虛偽的指責。---（小小/來源: 易科技報導）