人工智能作為一種新的技術手段，可以為傳統產業帶來許多創新和變革。以下是幾個方面的思考，介紹人工智能可以幫助傳統產業解決的迫切問題。
提高生產效率
傳統產業中，生產效率是一個非常重要的問題。人工智能可以通過優化生產流程、增加自動化設備和機器人的使用、提高生產質量和效率等方式，幫助傳統產業提高生產效率。例如，在製造業中，人工智能可以通過智能化的生產線和機器人，實現零件的自動化生產和組裝，從而提高生產效率和質量。
提升產品質量
傳統產業中，產品質量的提升是一個永恆的話題。人工智能可以通過分析大量的數據和圖像，識別產品的缺陷和問題，從而提升產品的質量。例如，在製造業中，人工智能可以通過對生產過程中的數據進行實時監測和分析，及時發現並解決生產問題，從而提升產品的質量和穩定性。
優化供應鏈管理
傳統產業中，供應鏈管理是一個非常複雜和困難的問題。人工智能可以通過分析供應鏈中的數據，識別供應鏈中的瓶頸和風險，從而優化供應鏈管理。例如，在物流業中，人工智能可以通過實時監測貨物的運輸和配送情況，及時調整運輸路線和配送計劃，提高物流效率和準確率。
推動創新和升級
傳統產業中，創新和升級是一個非常重要的問題。人工智能可以通過對傳統產業進行數字化和智能化改造，推動產業的創新和升級。例如，在農業領域中，人工智能可以通過對土壤、氣象和作物生長等數據的分析，幫助農民調整種植策略和管理模式，提高農業生產效率和質量。
提高客戶體驗
傳統產業中，客戶體驗是一個非常重要的問題。人工智能可以通過分析客戶行為和需求，提供個性化的服務和產品，從而提高客戶體驗。例如，在銀行和保險業中，人工智能可以通過分析客戶的財務和風險情況，提供更加貼合客戶需求的金融產品和服務，增強客戶的滿意度和忠誠度。
總之，人工智能作為一種新的技術手段，可以為傳統產業帶來許多創新和變革。通過提高生產效率、提升產品質量、優化供應鏈管理、推動創新和升級以及提高客戶體驗等方式，人工智能可以幫助傳統產業解決許多迫切需要解決的問題，促進傳統產業的數字化、智能化和可持續發展。-(格物信息/產業升級)
*馬上消費：大語言模型安全熱議下，金融行業AI風險的思考*
伴隨Disco Diffusion、ChatGPT等生成式AI產品相繼問世，AIGC正在掀起一場新的工業革命。近日，普華永道的分析師對外發布了關於生成式AI升級帶來的十一大安全趨勢研判，呼籲全球關注人工智能安全風險帶來的巨大挑戰。
金融行業信息化建設起步早，已成為人工智能應用最佳的領域之一，然而，技術創新也帶來了金融欺詐、交易公平等風險。馬上消費金融股份有限公司（以下簡稱「馬上消費」）作為科技驅動的金融機構，通過主動擁抱監管、建立消保委員會、嚴格數據管理、制定行業標準、加強技術人才培養與技術研發投入等方式，積極應對人工智能技術在消費金融領域的安全問題。
針對當前行業面臨的人工智能安全風險挑戰，馬上消費人工智能研究院院長陸全從人工智能在金融行業應用的現狀以及挑戰兩個方面分享對策與建議。
技術是把雙刃劍，效益與風險並存
金融行業因客戶群、龐大數據庫龐大等特性，在客服、投顧、風控等場景中人工智能技術應用成熟度處於領先地位。通過對大型數據集的學習分析，提供快速響應互動、個性化投資推薦等客戶服務，提供異常數據檢測、用戶行為分析等機構決策支撐。與此同時，在這些應用場景中，也存在着三大安全風險。
數據濫用造成的隱私泄露、金融欺詐風險。為保障金融服務質量，需要採集大量數據處理分析，對數據的採集存在擴大化問題，過度採集用戶的行為、偏好等隱私數據。
模型偏差造成的貸款歧視、交易公平風險。人工智能技術應用在信貸領域，可快速、低成本地對潛在借款人進行準確的評估，與傳統的信用評分體系相比，人工智能信用評分更加複雜。模型對大量用戶數據進行處理，建立多數人適用的評估規則，但存在認知和數據偏差導致對特定人群的信用偏見，產生貸款等服務歧視。
攻擊破壞造成的財產損失、業務停滯風險。金融行業相較於其他行業，對系統穩定和數據的依賴性更強，但由於人工智能技術的局限性存在脆弱易受攻擊的特點，面對攻擊造成的財產、大量數據丟失的損失不可估量，技術不穩定性對自身業務造成致命影響，可能直接導致業務停滯。
技術攻防對抗，創新升級新挑戰
人工智能在實踐和應用中面臨着諸多挑戰，由於AI模型、數據、系統的不成熟性造成的欺詐和安全問題不容忽視。人工智能技術開展針對自身的攻防安全技術研究，促使技術應用向可信、可靠、安全方向發展。
人臉識別攻擊，多模態融合防護。金融行業對身份認證的基礎需求加快人臉識別的應用，不法分子通過圖片、3D打印等物理方式攻擊突破人臉識別系統進行資金盜取詐騙。多模態生物識別技術相較於單一生物特徵，通過設計融合算法，綜合人臉幾何特徵、聲紋、虹膜等多種特徵，彌補某些生物特徵容易被偽造的弱點，提升識別精確度，形成對人臉識別攻擊的技術防禦。
馬上消費在多模態人臉識別應用中還加入了光電體積描記術識別、光場相機活體識別等活體檢測技術，持續進行防偽技術攻關，為客戶人身財產安全築造堅實的防護屏障。
數據污染攻擊，增強優化防護。數據污染攻擊通過投入污染數據，改變模型反饋機制，將惡意文件標記為善意的，讓系統做出錯誤的行為。在金融行業中，攻擊驗證環節的反饋，破解認證系統穩定性，可實施非法轉賬等詐騙行為。行業一般使用數據增強、穩健優化、模型遷移等方式來提高模型穩定性，馬上消費在此基礎上增設了異常檢測機制，對用戶訪問進行識別，不匹配預期模型和數據集的項目進行異常數據測試，通過刪減調整以減輕異常數據對模型的干擾。
模型竊取攻擊，多模型加密防護。模型竊取攻擊以模型重建和影子模型的形式獲取模型參數竊取重要商業決策模型，通常會造成用戶身份信息、交易數據、企業商業秘密等敏感信息泄露。馬上消費通過將機器學習模型與加密技術結合起來，利用差分隱私技術、多方安全計算技術等實現在加密條件下保護訓練過程數據的隱私性。同時，將數據分區訓練多個模型，根據多個模型的結果去做決策，提升模型竊取難度，抗惡意用戶訪問。
目前的人工智能安全技術是在特定的攻擊情況中針對性解決一些安全問題，實際人工智能安全風險沒有根本的技術解決方法。所謂「道高一尺，魔高一丈」，人工智能安全將持續處於一種攻防不斷對抗的狀態，因此相應的技術必須不斷更新升級，技術創新會不斷帶來新挑戰。
行業挑戰任重道遠，合力推動技術向善
人工智能的安全風險取決於技術發展及其安全可控的程度，安全保障需要社會全體的共同參與，為人工智能發展應用建立安全邊界、做好自我監管是未來長期我們要面臨的挑戰。
2022年3月，馬上消費牽頭成立行業首個AIF聯盟，堅持對金融黑產「零」容忍態度，凝聚同業合力，一同打擊金融黑產；在體制建設上，將消保納入頂層設計，實現100%產品和服務標準化消保評審體系，定期專項監督，做到消保全流程管控，使客戶滿意度持續提升。
依託科技研發創新，參與超30項金融科技標準編制工作，涉及研發運營一體化能力成熟度、開發平台通用能力要求等，獲得28項人工智能與交易安全領域備案認證，在標準及認證方面表現優秀，引領消金行業規範化發展。
然而，行業應對人工智能安全風險的挑戰依然任重道遠，各金融機構、科技企業仍需高度重視、積極迎接挑戰，提升人工智能技術研發能力，從數據治理、強化監管、規範制定方面降低風險，提供優質高效的金融服務，推動金融服務向智能安全可信方向發展。-(GPLP/財經熱議)
