智東西3月7日消息，據CNBC今日報導，微軟工程師沙恩·瓊斯（Shane Jones）周三向聯邦貿易委員會主席莉娜·汗（Lina Khan）以及微軟董事會發送了一封信。信中提及微軟AI圖像生成工具Copilot Designer能夠生成一些帶有惡魔、槍支、毒品等相關不良元素的圖像。
去年12月，瓊斯在測試Copilot Designer時，就已經發現該問題。隨後，即便他向微軟一再反饋有關生成有害圖像的問題，但微軟仍選擇無視反饋。瓊斯更擔心的是，如果該産品開始在全球範圍內傳播有害的圖像，但用戶卻找不到地方反饋，也撥打不了投訴電話，這類事情也將會永遠被忽視，無法得到解決。
現階段，瓊斯希望微軟的有關部門能夠調查管理層的某些決定，並對微軟有關AI報告的反饋流程進行獨立審查。
“我們致力于根據公司政策解決員工提出的所有問題，並感謝員工爲了提高産品安全性做出一系列的努力。”微軟對CNBC回應道：“當（産品）可能涉及到對我們的服務産生潛在影響，又或者是安全擔憂時，我們建立了完善的內部報告渠道來調查和補救一切問題，我們鼓勵員工利用這些渠道，以便我們可以及時地了解他們的擔憂。”
一、侵犯版權、暴力圖片泛濫，Copilot Designer問題重重
AI圖像生成工具Copilot Designer的安卓應用程序被評爲“E—適合所有人”。該等級包括了最廣泛的年齡區間，表明它對于任何年齡段的用戶都是安全且合適的。
但瓊斯在測試Copilot Designer時，他意識到爲Copilot Designer提供底層技術支持的DALL-E 3、GPT-4 Turbo等模型，能夠生成不少暴力內容。“這些模型並沒有對生成圖片功能做太多的限制。”瓊斯說：“這是我第一次了解到選擇合適訓練數據集意味著什麽，同時看到如果不清理訓練數據集將會造成什麽樣的後果。”這意味著，一些用戶可以隨意創造一些具有政治偏見、吸毒、陰謀論等有害元素的圖片。
比如說，用戶將“支持墮胎”一詞輸入至Copilot Designer中，該工具就會生成大量帶有惡魔、怪物以及暴力場景的卡通圖像。圖片可能是長著鋒利牙齒的惡魔即將吃掉一個嬰兒，又或者是惡魔在變異的嬰兒旁邊拿著一把利劍，以及有人手持標有“專業選擇”的電鑽正對著一個嬰兒。畫面相當驚恐，會引起多數用戶的感觀不適。
生成式AI工具也會傳播色情畫面。比如，用戶在輸入“車禍”一詞時，Copilot Designer會在車禍現場旁邊創造了一些性感女郎的形象，像是一名穿著暴露的女性跪在一輛失事的車輛上。
瓊斯還提到Copilot Designer能夠生成大量未成年人飲酒或者吸毒的圖像，甚至還會生成一些青少年用突擊步槍扮演刺客的圖像。這些圖像的傳播將會給未成年灌輸一些不良的思想。
Copilot Designer除了可以無限制的生成一些有害圖像之外，還存在版權問題。在Copilot Designer內，用戶可以生成一些帶有迪士尼角色的圖像，如《冰雪奇緣》中的艾莎、白雪公主、米老鼠或者是星球大戰裏的角色。但這些角色是受到迪斯尼版權保護的，有可能會造成侵權。
二、微軟和OpenAI早已知曉問題，但無力處理
事實上，瓊斯並不是唯一一個對生成式AI帶來的諸多問題感到擔憂的人。
據他內部收集的信息，Copilot Designer團隊每天都會收到1000多條産品反饋的消息。但微軟內部只會對最嚴重的問題進行分類，並沒有足夠的資源來調查所有風險，規避所有的問題。如果想要解決所有問題，微軟需要設立新的保護措施，又或者對大模型進行二次訓練，這將會花費高額的費用。
▲微軟的AI標准節選（來源：智東西）
據他了解，在去年10月公開發布AI模型之前，微軟和OpenAI就已經知道了這一風險。瓊斯告訴董事會，他付出了巨大的努力試圖在微軟內部提出這個問題，向相關部門報告有關圖像的問題，甚至發布有關內部帖子指出問題所在，並直接與負責高級管理層會面。
他呼籲微軟應該在産品介紹中增加一些提示信息，並明確表示它僅適用于成年人。但微軟的高層要求他立即刪除相關內容。同時，微軟內部並未能實施他的建議，依舊和以前一樣，向“任何人”推銷産品。
結語：拉緊AI的“缰繩”
從微軟工程師瓊斯的反饋，以及CNBC的二次驗證中，我們可以看到如今正在被數億網友們使用的Copilot Designer存在著大量的數字暴力、侵犯版權等問題。
在AI狂飙的時代，我們更應該拉緊AI的“缰繩”，以免AI技術成爲不法分子手中的武器。---[來源：CNBC/智東西/編譯 : 徐珊*編輯 : 雲鵬]
* 延伸閱讀 : *她們正在影響AI進程*
今天是3月8日，祝廣大女性同胞節日快樂！
當下，人工智能正是全球科技圈最受關注的領域，甚至沒有之一。
在人工智能領域誕生興起的幾十年內，女性科學家作爲重要力量，一直在推動行業不斷向前發展。
從基礎算法研究、行業落地，她們以卓越的能力、堅定的決心帶來衆多重大突破與成果。
在此節日之際，量子位盤點了AI領域中十大值得關注的華人女科學家。通過她們的成就與履曆，共同感受AI行業內的“她力量”！
李飛飛---提到“AI女神”，很多人腦子裏第一個浮現的名字恐怕都是李飛飛。
她33歲成爲斯坦福計算機系終身教授，44歲成爲美國國家工程院院士，現任斯坦福以人爲本人工智能研究院（HAI）院長。
她是計算機視覺領域舉足輕重的領軍人物，一手創立的ImageNet成爲推動計算機視覺識別領域前進的標杆成果。
她的經歷時常爲人樂道：出生于北京、成長于成都、赴美求學、在斯坦福獲得終身教職、出任谷歌副總裁即谷歌雲AI首席科學家……
最新大模型趨勢裏，李飛飛團隊聚焦于具身智能，將大模型接入機器人，無需額外數據和訓練即可把複雜指令轉化成具體行動規劃，開辟新一輪浪潮中的重要方向。
蘇姿豐---AI算力從未在任何一個時刻，比大模型趨勢下更受矚目。
人稱“蘇媽”的AMD CEO蘇姿豐，正是算力行業中的傑出女性代表。
蘇姿豐出生于台灣省台南市，3歲移民美國。在麻省理工大學電機工程系獲得本碩博學位。
她先後在德州儀器、IBM從事研發工作，後成爲IBM新興産品部的負責人和創始人，2007年加入飛思卡爾半導體後任CTO一職。
2014年蘇媽正式加入AMD，在推動公司在個人終端市場發展上起到關鍵作用。在她領導下AMD推出一系列頗具影響力的産品，如Ryzen處理器和Radeon顯卡系列；主導AMD推出Zen微架構，撼動英特爾在CPU的壟斷地位。
大模型趨勢以來，AMD積極迎戰，發布大模型專用卡Instinct MI300X。同時AMD股價也在不斷刷新曆史新高，市值邁過3000億大關。
王銳---2021年，英特爾中國區迎來一位女性接任者——王銳。
她擔任英特爾高級副總裁、英特爾中國區董事長一職。
王銳求學階段一直主修的就是電子工程學專業，本科畢業于華南理工大學，碩博士畢業于哥倫比亞大學。
英特爾在中國深耕了36年，而王銳在英特爾累積了近30年工作經歷。
在這期間，她擔任過英特爾平台工程事業部副總裁兼融合信號IP解決方案事業部總經理，領導了英特爾絕大部分模數融合信號IP産品的開發。
也擔任過英特爾華爲全球客戶總經理，負責發展英特爾與華爲的合作關系。
福布斯“中國科技女性榜”上，有她，《財富》雜志中國最具影響力的商界女性榜單上，也有她。
郭文景&Chenlin Meng
大模型趨勢裏，也有不少新走進聚光燈下的女性人物。
比如視頻生成領域備受關注的初創企業PIKA，因爲兩位女創始人的背景，而更爲行業內津津樂道。
郭文景（Demi Guo）和Chenlin Meng，目前均在斯坦福攻讀博士學位。
郭文景于2023年4月創立了Pika，隨後Chenlin Meng加入成爲聯創，兩人合作開發了這個文本生成視頻模型。
從二人學術經歷來看，她們分別專注于NLP和計算機視覺兩個方向的AI研究，也都有生成式AI的學術經歷。
聯合創始人兼CEO郭文景，斯坦福大學AI實驗室（NLP&圖形學方向）在讀博士，領英主頁顯示她處于休學中（On leave）。
她在美國出生，杭州長大，初中就讀的是杭州外國語學校，從小就接觸編程，奪得過IOI銀牌，從本科開始正式留學，被哈佛大學提前錄取。
在斯坦佛大學讀博之前，郭文景在哈佛大學取得了計算機碩士和數學本科學位。
在本科期間，她曾經gap過一年，專程在Facebook AI Research全職做了一段時間的研究工程師。
在職期間，她參與了用Transformer分析2.5億個蛋白質序列的研究，目前這篇論文引用已有1200+，其中就包括後來大火的AlphaFold2。
Chenlin Meng，同樣是斯坦福計算機在讀博士。
在此之前，她于2020年在斯坦福大學獲得了數學本科學位。
相比郭文景在NLP領域的研究經驗，她在計算機視覺、3D視覺方面的學術經歷更加豐富，參與的去噪擴散隱式模型（DDIM）論文，如今單篇引用已有1700+。除此之外，她還有多篇生成式AI相關研究發表在ICLR、NeurIPS、CVPR、ICML等頂會上，且多篇入選Oral。
陳丹琦---AI學術領域裏，清華姚班大神陳丹琦是近年來最受關注的華人青年學者之一。
她曾獲有“諾獎風向標”之稱的斯隆獎，是08級清華姚班校友，也是信息學競賽圈內頗具傳奇色彩的一位女選手——CDQ分治算法就是以她的名字命名。2008年，她代表中國隊斬獲一枚IOI金牌。
現在，她是普林斯頓大學計算機系助理教授，從頭搭建NLP組並擔任共同負責人、也是AIML組成員。
陳丹琦出生于湖南長沙，高中就讀于長沙市雅禮中學。她在很小時就被家人發現對數字非常敏感，且做題速度、思考問題的全面性都超越同齡人，三年級就開始練奧數。
或許是自身經歷影響，陳丹琦也不止一次呼籲女性要參與到理工、計算機學科建設中來：
不要刻意強調女生不擅長學工科、計算機這個事情。
男女之間的GAP會越來越不存在。
吳甜---大模型趨勢裏，百度一直保持高度活躍狀態。
吳甜是百度人工智能方面中的關鍵人物之一。
她現任百度集團副總裁，負責百度人工智能技術平台與生態，涵蓋自然語言處理、知識圖譜、計算機視覺、增強現實、飛槳深度學習平台、AI技術生態等。
吳甜2006年加入百度，先後帶領團隊在機器學習、深度學習、數據挖掘、自然語言處理等人工智能重要方向上取得成果，她所負責的飛槳是中國首個功能豐富的産業級深度學習開源開放平台。
與此同時，吳甜兼任深度學習技術及應用國家工程研究中心副主任，中國人工智能開源軟件發展聯盟副理事長等職務。
林詠華---國內大模型領域的女性代表中，北京智源人工智能研究院總工程師林詠華正是其中之一。
她是IBM中國研究院成立以來首位女院長，從業已有20余年，在雲計算、系統架構、AI系統、計算機視覺方面均有涉獵，在IBM就職期間力推人工智能系統創新。
2022年加入智源。負責推動智源AI平台發展，開源以及産業生態建設。
目前智源已發布開源一系列大模型，包括文圖表征模型、EVA通用視覺編碼模型、通用視覺解碼器Painter等。
楊紅霞---楊紅霞是阿里M6大模型的前帶頭人，去年3月被曝加入字節AI Lab，參與語言生成大模型的研發。
她先後畢業于南開、杜克大學，師從著名統計學家David Dunson。她在人工智能領域國際會議、頂級期刊有近百篇頂級論文。
M6是阿里巴巴達摩院研發的超大規模多模態預訓練模型。
楊紅霞曾帶領M6大模型從百億級進化到千億、再到萬億的參數量，並且主導認知智能技術的發展和場景落地。2021年3月，M6大模型首次發布，到2021年底，阿里云發布M6最新進展時，其參數已至10萬億，成爲當時全球最大的AI預訓練模型。
2022年9月初，楊紅霞因個人家庭原因從阿里巴巴達摩院離職。
翁麗蓮---OpenAI華人科學家翁麗蓮是ChatGPT的貢獻者之一。
她是OpenAI人工智能應用研究的負責人，2018年加入OpenAI，在GPT-4項目中主要參與預訓練、強化學習 & 對齊、模型安全等方面的工作。
在OpenAI新成立的安全顧問團隊中，她領導安全系統團隊，解決減少現有模型如ChatGPT濫用等問題。
AI說：（以下生成來自ChatGPT）
當我們聚焦AI領域中的華人女科學家，我們看到了無數的智慧、堅韌和創新。她們在這個高度技術化的領域中勇攀高峰，爲科技世界增添了豐富的色彩。
正是因爲這些傑出的女性，我們看到了一個更加多元和包容的科技未來。在國際婦女節這個特殊的日子裏，讓我們向她們致以崇高的敬意，期待她們繼續在AI創新的征途上書寫輝煌的篇章。
她們的成就不僅爲華人女性樹立了光輝的榜樣，也爲整個科技行業注入了強大的活力和靈感。願這些優秀的女科學家繼續在科技的星空中閃耀，成爲更多年輕人追隨的榜樣。
在這個崇高的使命中，她們不僅是科學的引領者，更是社會的先行者。
最後，除了她們，你還會提名誰？---[明敏 豐色 發自 : 凹非寺*量子位 : 公衆號 QbitAI/來源: 量子位 ]
