自前 OpenAI 聯合創始人、首席科學家 Ilya Sutskever 官宣離職一個月後，Ilya 終於終於有了新消息：成立新公司 SSI，專註於安全超級智能。
今日淩晨，Ilya 在 X 上「官宣」了這一消息。
Ilya 寫道，「我們將直截了當地追求安全超級智能（safe superintelligence，SSI），只有一個重點、一個目標和一個產品。我們將通過一個小型精幹的團隊所取得的革命性突破來實現這一目標。」
在接受彭博社采訪時，Ilya 表示，「它將完全不受外界壓力的影響，不必處理龐大而復雜的產品，也不必陷入競爭激烈的賽跑中。」
據 SSI 公司的官方公告介紹，他們將安全和能力作為一個技術問題，通過革命性的工程和科學突破加以解決，並計劃盡快提高能力，同時確保我們的安全始終處於領先地位。
「這樣，我們才能安心地擴大規模。」
「我們的專註意味著不會受到管理費用或產品周期的幹擾，我們的業務模式意味著安全、保障和進步都不會受到短期商業壓力的影響。」
完整公告如下：
超級智能已經觸手可及
構建安全的超級智能是我們這個時代最重要的技術問題。
我們已經啟動了世界上第一個專註於安全的超級智能的實驗室，目標和產品只有一個：安全超級智能。
它的名字叫 Safe Superintelligence Inc.。
安全超級智能是我們的使命、名稱和整個產品路線圖，因為它是我們唯一的關註點。我們的團隊、投資者和商業模式都是為了實現 SSI 而努力。
我們將安全和能力作為一個技術問題，通過革命性的工程和科學突破加以解決。我們計劃盡快提高能力，同時確保我們的安全始終處於領先地位。
這樣，我們才能安心地擴大規模。
我們的專註意味著不會受到管理費用或產品周期的幹擾，我們的業務模式意味著安全、保障和進步都不會受到短期商業壓力的影響。
我們在美國成立了這家公司，目前在帕洛阿爾托和特拉維夫設有辦事處，在那裏，我們根基深厚，有能力招募到頂尖的技術人才。
我們正在組建一支由全球最優秀的工程師和研究人員組成的精幹、高效的團隊，只專註於安全超級智能，而非其他。
如果你是這樣的人，我們將為你提供一個完成畢生事業的機會，幫助你解決我們這個時代最重要的技術挑戰。
現在正是時候。加入我們吧
Ilya Sutskever, Daniel Gross, Daniel Levy---2024 年 6 月 19 日
數十年來，研究人員一直在思考如何讓人工智能系統變得更安全。目前的技術水平是利用人類和人工智能來引導軟件朝著符合人類最佳利益的方向發展。至於如何阻止人工智能系統失控，這在很大程度上仍是一個哲學問題。
正如公司名稱所強調的，Ilya 將人工智能的安全性放在首位。當然，關鍵在於確定是什麽讓一個人工智能系統比另一個系統更安全，或者說，到底是什麽讓人工智能系統更安全。
Ilya 說，他花了數年時間來思考安全問題，並已經想到了一些辦法。但還沒有透露一些具體細節。
但他表示，新公司將嘗試通過人工智能系統中的工程突破來實現安全，而不是依靠臨時應用於技術的防護措施。他說，「我們所說的安全是指像核安全那樣的安全，而不是『信任和安全』那樣的安全。」
「我們可以說，我們希望它是一股善的力量。我們希望它能在一些關鍵價值觀的基礎上運行。我們所考慮的一些價值觀也許就是過去幾百年來取得巨大成功的價值觀。」
除了 Ilya，SSI 公司還有另外兩位聯合創始人。其中一位是投資人、前蘋果公司人工智能主管Daniel Gross，他因支持包括 Keen Technologies 在內的多家備受矚目的 AI 初創公司而備受關註；另一位聯合創始人是Daniel Levy，他曾在 OpenAI 與 Ilya 一起共事。
鑒於 Ilya 在人工智能行業近乎神話般的地位，幾個月來，圍繞他的身份不確定性一直是矽谷的焦點。作為一名大學研究員和後來谷歌的科學家，他在開發一系列關鍵的人工智能進展中發揮了重要作用，他在 OpenAI 早期的參與幫助 OpenAI 吸引到了對其成功至關重要的頂尖人才，他也因倡導建立越來越大的模型而聞名，對 ChatGPT 的崛起起到了至關重要的作用。
Ilya 說，大語言模型將在安全超級智能中發揮重要作用，但他們的目標是更強大的東西。對於目前的系統，「你和它說話，進行對話，然後就完成了」。他所追求的系統將更具通用性和擴展性。「你說的是一個自主開發技術的巨型超級數據中心。這很瘋狂吧？我們希望為其安全性做出貢獻。」---來源: 學術頭條-
https://twitter.com/ilyasut/status/1803472978753303014
https://www.bloomberg.com/news/articles/2024-06-19/openai-co-founder-plans-new-ai-focused-research-lab
