·「我認為，就激發人類潛能的手段而言，該工具將與之前發生的任何重大技術革命一樣重要。」
·「我也對（人工智能的）這種速度和步伐表示擔憂。我們做了很多決定來阻止事情發生，放慢速度。但我們可能已經為一些強大的模型準備了很長時間，由於這些原因，我們還沒有發布。」
OpenAI聯合創始人兼首席執行官山姆·奧特曼。
OpenAI聯合創始人兼首席執行官山姆·奧特曼（Sam Altman）近日在一次採訪中承認ChatGPT是個「可怕的產品」。
在紐約時報科技播客「Hard Fork」2月10日播出的節目中，奧特曼引用ChatGPT頻繁出現的錯誤消息時說：「人們真的只是去訪問一個有時能正常工作有時會宕機的網站。」
「他們正在輸入一些東西。他們一直在嘗試直到做對為止，然後複製那個答案並將其粘貼到其他地方——然後嘗試將其與搜索結果或其他工作流程整合。」他補充道。
自去年11月推出以來，ChatGPT 在互聯網上掀起了一場風暴。它已經顛覆了教育領域，幫助學生寫論文和通過考試。該機器人還相當擅長編寫求職信、代碼行和內幕文章。比爾·蓋茨甚至表示，ChatGPT中的技術將「改變我們的世界」。
在接受Hard Fork採訪時，奧特曼承認，ChatGPT的人工智能技術確實很酷。「人們真的很喜歡它，這讓我們很開心。但目前還沒有人會說這是一款出色的、集成良好的產品……但這裡有如此多的價值，人們願意忍受它。」奧特曼說。
奧特曼還透露：「我們可能已經為一些強大的模型準備了很長時間。」「當我們準備好時，當我們認為我們已經完成了校準工作和所有安全方面的思考，並與外部審計員和其他AGI實驗室合作時，我們就會發布這些東西。」
澎湃科技（www.thepaper.cn）編譯了部分節目內容：
凱西·牛頓（Casey Newton，著名科技媒體人）：山姆，當我看到新的Bing搜索結果頁面，左側是藍色鏈接，右側是AI生成的答案時，我的想法是，a，太酷了，b，出版商要輸了，因為當我可以在另一側獲得自然語言答案時，作為消費者，為什麼我要單擊藍色鏈接？搜索引擎優化以及如何出現在結果中更高的位置中，背後是一整個行業。那麼你們如何看待依賴人們點擊藍色鏈接的公司可能會對此做出的反應？
山姆·奧特曼（OpenAI聯合創始人兼首席執行官）：我認為微軟在將鏈接放入生成的內容中做得非常好，就在右側，如你所見。批評之一——對ChatGPT公平的批評是，你不確定它是否準確。因此，通過添加微軟所做的引用，我認為這將引導流量。
而且，如果在購買電視的示例中，最後發生的點擊是電視評測，那麼你會從他們那裡購買，並且你的意圖和可能通過它購買的幾率要高得多，我認為推薦流量的質量應該非常高。
凱西·牛頓：凱文，你怎麼看？
凱文·斯科特（微軟首席技術官）：出版商、廣告商和用戶都有新的機會以不同的方式使用該技術。所以我認為，在山姆看來，那裡會有很多價值，出版商有很多分發渠道，人們可以通過很多方式參與這個新市場。
凱西·牛頓：山姆，自從ChatGPT推出以來，我們已經看到一件事，那就是它並非萬無一失。它犯了很多錯誤，包括數學錯誤，只是憑空捏造東西。
你說過不應該將ChatGPT用於任何重要的事情。你如何考慮這一點，並將其插入可能成為每天被大量人使用的巨大、流行的搜索引擎中？你擔心這個人工智能可能犯的錯誤嗎？
山姆·奧特曼：首先，這是一個錯誤更少的更好的模型。但是基本模型仍然存在很多錯誤。但正如微軟今天所經歷的那樣，以及他們置於其上的所有層級，和圍繞它構建的所有技術，仍然會出現錯誤。但是準確性和實用性——自己檢查一下。不要相信我的話。但我認為它比ChatGPT的體驗有了顯著改善。隨着時間的推移，它會迅速好轉。
凱西·牛頓：人們使用Bing時是否有更應謹慎對待的搜索類別，它們可能比其他搜索更容易出錯？
山姆·奧特曼：我還沒有答案。顯然，我們將嘗試真正「中和」所有類別的查詢，因為你可以想象它們可能帶來的一些危害。
我認為我們將很快了解模型所犯的實際錯誤所在。每次我們發布一些東西時，我們都會學到很多東西，通過發布它並了解用戶如何與之交互。
ChatGPT進行了大量的學習。我要指出的一件事是所有這些技術的新穎性。3年前，GPT-3還沒有推出。我認為很少有人曾相信有意義的AI進步將會發生。
我認為這真的只是兩個多月的時間，已經引起了主流的關注和興趣，並試圖弄清楚我們將如何使用所有這些東西，如何適應。對於任何新技術，你都無法完美地預測所有問題和緩解措施。但如果你運行一個非常緊密的反饋循環，按照事情發展的速度，我認為我們可以非常快地獲得非常可靠的產品。
凱西·牛頓：據推測，你們已經使用這項技術，或者使用新的Bing，至少幾個星期了。我很好奇。它如何改變了你的搜索方式？或者你用它來做什麼，也許覺得以前的搜索工具可能不行？
山姆·奧特曼：它很快就變得不可或缺。當我無法訪問它時，我會想念它。一切都很異想天開——我有個14歲的女兒，她喜歡說「riz」和「bussing」之類的話。我不知道她在說什麼。你可以輸入這個，比如，嘿，我有一個十幾歲的孩子，她在說這些話，我不明白。
凱西·牛頓：你有Z世代翻譯器？
山姆·奧特曼：對。它真的非常擅長這樣的事情。我喜歡做東西，我一直在尋找工業用的套結縫紉機，之前進行了大量研究。使用新的Bing，它向我展示了我以前在任何其他搜索中從未見過的東西。它實際上確定了我認為我要購買的機器。
凱西·牛頓：ChatGPT推出後，我與谷歌的人聊，他們顯然非常嫉妒，他們會對我說，好吧，你必須明白，ChatGPT是一個演示。言外之意是，我們正在這裡建造真正的東西，總有一天你會看到的。
但是兩個月後你再看，沒有人把ChatGPT當作一個演示來對待。人們絕對會將其用作日常生活的一部分。我想我們會看到與Bing類似的東西。
山姆·奧特曼：是的，ChatGPT是個可怕的產品。而且它真的不是設計用於人們的……
凱西·牛頓：不過，怎麼說呢，山姆？因為它是一個你可以輸入的框，所以你幾乎可以得到任何你想要的東西。
山姆·奧特曼：當然。但是如果你想一想人們想要將它集成到工作流程中的方式，你希望它能夠使用自己數據的方式，與你的其他應用程序和服務集成的方式，人們真的只是去訪問一個有時能正常工作有時會宕機的網站。他們正在輸入一些東西。他們一直在嘗試直到做對為止，然後複製那個答案並將其粘貼到其他地方——然後嘗試將其與搜索結果或其他工作流程整合。
當然，這很酷。人們真的很喜歡它，這讓我們很開心。但目前還沒有人會說這是一款出色的、集成良好的產品。
凱西·牛頓：這不是1.0版本。
山姆·奧特曼：是的，它是0.7版本之類的東西。但這裡有如此多的價值，人們願意忍受它。現在，它是一個真正的產品了。
凱西·牛頓：我今天想了很多，因為我聽到微軟高管談論人工智能，關於Tay，這是2016年臭名昭著的聊天機器人。
山姆·奧特曼：這是我很久很久沒有聽到的名字了。
凱文·斯科特：這個聊天機器人出來後，幾乎立即被噴子抓住，教給它可怕的東西，把它變成了一場種族主義、否認大屠殺的災難。它被下架了。
我認為這對人工智能行業的很多人來說都是一個警示。我認為實際上，如果你與這些大型AI公司的人交談，這就是他們沒有像現在這樣迅速推出產品的很多原因，因為他們記得那一刻，哦，天哪，我們做了啥。
為此，在微軟內部很難獲得支持？有人說，等一下。上次發布AI聊天機器人，我們不是吸取了教訓嗎？傷疤好了嗎？
山姆·奧特曼：我懷疑還有傷疤。不過，有趣的是，我們從中學到的不是，哦，天哪，我們永遠不應該再這樣做了。而是，哦，天哪，我們需要真正認真對待負責任的AI安全和道德規範。這是催化劑之一，因為我們仍然非常非常認真地對待人工智能，並且堅信它將成為我們所有人見過的最重要的技術之一，如果不是最重要的技術，我們必須去解決所有這些問題，以避免再次犯類似的錯誤。這並不是說我們不會犯錯誤。但在過去的5年半里，我們一直在努力——不僅僅是闡明一套原則，以便我們可以將它們作為營銷材料推出，而是我們如何在每天的工作中將它們付諸實踐？
所以從這個意義上說，當這個新的突破來自OpenAI時，我們並沒有像你想象的那樣遇到那麼大的阻力。他們知道他們要鍛煉什麼肌肉，以確保我們可以自信地啟動它，我們是安全和負責任的。
凱文·斯科特：山姆，有些人，包括OpenAI的一些人，擔心人工智能部署到數十億人使用的工具中的速度，人們擔心它可能進展太快，讓人大跌眼鏡，一些安全工作並不像它應該的那樣穩健。那麼，對於那些擔心這一切太快以至於社會無法調整或需要設置必要護欄的人，你有什麼看法？
山姆·奧特曼：我也對這種速度和步伐表示擔憂。我們做了很多決定來阻止事情發生，放慢速度。關於傳言，你可以隨心所欲地相信，也可以不相信。
但我們可能已經為一些強大的模型準備了很長時間，由於這些原因，我們還沒有發布。
但我對兩件事情感覺非常強烈。第一，每個人都必須有機會了解這些工具，它的優點缺點、好處壞處，它們將如何被使用，決定未來是什麼樣子，共同創造它。有想法認為，這種技術應該保留在科技行業的一小部分中，因為這些人是我們可以信任的人，而其他人還沒有準備好，你會在人工智能社區的各個角落聽到不同的說法。
但我強烈拒絕。我認為這不是一個我們應該感到興奮的世界。鑑於我堅信這將改變許多，也許是社會的絕大多數方面，人們需要儘早參與進來。
隨着我們變得更好，他們需要看到它，不完美之處，等等，並參與討論它的發展方向，我們應該改變什麼，我們應該改進什麼，我們不應該做什麼。把它藏在實驗室的板凳上，只展示給我們認為準備好的人，這感覺不對。
第二，在我所看到的所有技術史中，如果不與現實接觸，你無法預測所有將要發生的美好事物及其誤用。因此，通過部署這些系統，通過學習，並通過獲得人類反饋來改進，我們已經做出了非常非常好的模型。
我希望我們部署的一切都能達到越來越高的一致性。在微軟和OpenAI，我們不是那些匆忙推出這些東西的公司。多年來，我們一直致力於此並進行研究。我認為，我們有一個非常負責任的方法。但我們確實相信必須儘早將全社會帶入帳篷。
凱西·牛頓：我很好奇你是否可以描述，即使只是一種模糊的方式，你正在探索什麼樣的能力，感覺有點太強大而無法分享，或者沒有經過適當的測試？因為這東西感覺——
山姆·奧特曼：你是說，你對加速事情感到緊張嗎，你能告訴我們一些瘋狂的事情嗎？
凱西·牛頓：我問的原因是因為我想有些人想了解。他們使用了ChatGPT，認為這真的很強大。他們可能認為這真的很酷。他們知道你們也在研究更多東西。但它確實聽起來，我不知道，神秘或怪異，我們一直在研究這些技術，它們更強大。
山姆·奧特曼：不馬上把這些東西拿出來的另一個缺點是，人們會認為我們有一個完整的通用人工智能（AGI），準備好按下按鈕，這還差得遠。
我們提供了你們看到的更強大的版本，以及一些我認為大體上符合你們期望的新內容。當我們準備好時，當我們認為我們已經完成了校準工作和所有安全方面的思考，並與外部審計員和其他AGI實驗室合作時，我們就會發布這些東西。
但是距離超級強大的系統肯定還有一些主要的想法缺失。我們還沒有弄清楚這些。據我所知，其他人也沒有。
凱西·牛頓：在安全和責任問題上，我們一直在嚴厲敲打你們。但我想知道你是否想在這裡勾勒出更多的烏托邦願景，因為一旦你把這些東西送到億萬人民的手中，這確實成為他們日常生活的一部分，那更光明的未來是什麼？你希望看到這些東西創造出來嗎？
山姆·奧特曼：我認為凱文和我都深信，如果你給人們更好的工具，如果你讓他們更有創造力，幫助他們更好、更快地思考，能夠做更多的事情，建立能夠擴展人類意志的技術，人們就會以令人難以置信的積極方式改變世界。世界上將有大量先進的人工智能成果。
我們將貢獻其中之一。其他人也將貢獻。微軟將以各種方式部署它。我認為，就激發人類潛能的手段而言，該工具將與之前發生的任何重大技術革命一樣重要。
而經濟賦能、創造性與成就賦能將會實現，我認為這可能會令人驚訝的積極。我們可能會在技術上碰壁，不想承諾我們已經解決了所有問題。我們當然不知道。但是軌跡看起來真的很好。
凱文·斯科特：軌跡是朝着更容易接近的方向發展。我一遍又一遍想到的是，我20年前寫的第一個機器學習代碼，獲得了研究生學位，一堆研究生教科書，一堆研究論文，還有耗費六個月的工作。要產生我當時的成果，一個積極進取的高中生現在可以在周末的幾個小時內完成。
因此，這些工具將更多的權力交到人們手中。所以現在，你甚至不必擁有計算機科學學位就可以用技術做非常複雜的事情。你可以接近它——
山姆·奧特曼：你可以用自然語言編程，這太酷了……
我在弗吉尼亞州中部的農村長大。人們是聰明的、有創業精神的和雄心勃勃的。你給他們強大的工具，他們就會去做有趣的事情。-來源:澎湃新聞-
