ChatGPT席捲而來，GPU需求過猛引發缺貨漲價潮
【全球雲觀察/熱點關注】百度已不是中國第一大桌面搜索引擎，這個消息來自美國數據研究機構Statcounter公布的最新統計數據分析結果。
2023年4月，微軟旗下搜索引擎必應（Bing）在中國區桌面端市場份額占比超越百度。這再次將加持了ChatGPT的必應（Bing）推向行業的聚焦點，必應（Bing）在搜索引擎領域加速發展的背後，自然離不開強大AI算力的支撐。
在微軟嘗到大模型帶來的甜頭時，針對熱火朝天的ChatGPT迭代，各大科技公司也相繼在GPT領域加大投入。全球雲觀察分析指出，AI大模型全球發展雖然很快，但在大模型之爭的背後，卻隱藏着一場算力的大較量。作為AI算力的頂梁柱，GPU順理成章成為了暢銷貨。
當前，高性能GPU供不應求，據證券時報前段時間的消息透露，GPU價格也不斷上漲，例如A100 GPU市場單價已達15萬元，而在兩個月前的價格為10萬元，漲幅達到50%。並且A800價格也有明顯漲幅，目前價格在9.5萬元左右，上月價格為8.9萬元左右。
可以斷言，GPT席捲而來，對於致力於AI算力雲的創新雲廠商，也帶來了千載難逢的發展機會。在應對AI算力瓶頸的挑戰上，需要實現更大的AI算力突破與創新，其核心在於如何賦能模型訓練。
對於像微軟、谷歌等科技巨頭而言，有着雄厚的資本來押注並發展GPT，但是對於廣大的企業用戶而言，為支持大模型訓練，不可能投入數10億美元來構建AI算力基礎設施。在此之前，趨動科技（VirtAI Tech）CEO王鯤分析指出，ChatGPT面向行業化拓展正在呈現出模型變小的趨勢。當前ChatGPT正處於「make it perform」的可用階段，後續必然會走向好用、用得起的階段，ChatGPT走入「尋常百姓家」也是指日可待。
這一切足以說明了，用戶需要更靈活、更彈性、更經濟、更便捷的AI算力雲來支撐多樣化的模型訓練。如果可以像使用公有雲一樣在AI算力雲上按需選擇，賦能行業的模型訓練才會加速普及進度。
要做AI算力界的「頂流者」---憑什麼趨動雲如此有底氣？
在AI算力界，雖然不止趨動雲一家在專注，但是要做AI算力界的「頂流者」，趨動雲卻十分有底氣。為什麼？
一方面，趨動雲背靠趨動科技（VirtAI Tech），也是趨動科技利用其在算力資源池和開發訓練平台領域的深厚積累，面向企業、科研和個人AI開發者構建的開發和推理訓練服務。成立於2019年的趨動科技，有着其重要的歷史使命，通過技術創新與行業積累，實現AI算力普惠，助力人工智能賦能千行百業。
具體而言，趨動雲到底是什麼？趨動雲首席架構師對趨動雲做了一個明確的定義，趨動雲就是一個「一站式開發訓練平台」，用戶在這裡只需要關注AI開發訓練業務本身，而不用關心任何基礎設施細節。事實上，用戶也無法感知到這些細節，在平台上可以看到的虛擬GPU卡型號也是高度抽象的。其背後的AI硬件的差異和使用複雜性，已完全被趨動雲屏蔽。
這樣一來，「一站式」的定位，意味着通過為AI算法開發全流程提供優化服務，並構建全球開發者和項目資源分享社區。目前在開發訓練場景方面，趨動雲可以幫助AI開發者快速而靈活地實現最佳實踐。
由此而言，有積累，有用戶，趨動雲的底氣來得順其自然。不過，同樣是做AI算力雲的，為啥趨動雲就是不一樣呢？從趨動雲的行業能力與行業價值來看，有着更深入、更專業、更全面、更得道、更實用、更普惠的六大優勢，值得一看。
一，不深入，不頂流。
在於趨動雲對於GPU資源利用技術方面，不僅實現了多數廠商可以實現的GPU簡單虛擬化和任意虛擬化，而且還實現了遠程調用等GPU池化技術，進一步實現了更深入的行業落地。
二，不專業，不頂流。
趨動雲專注GPU池化雲的應用與落地，在行業布局上更注重對AI算力雲的用戶需求。通過池化算力，提供海量針對不同場景的實例規格，趨動雲可以為用戶提供高按需的有力保障。
三，不全面，不頂流。
要成為一個變革者，必然就需要和別人不一樣。眾多GPU算力提供商提供的好比毛坯房，趨動雲提供的好比精裝房，毛坯房與精裝房最核心的區別在於能否「拎包入住」。
「毛坯房」提供者，將用戶直接暴露在硬件管理之下，從而帶來一系列需要用戶關心和解決的事情。比如要申請指定的機器必須懂得硬件調度，要申請指定的GPU卡必須關心算力，要獲得相應的管理能力和離線訓練能力必須懂得管理環境、數據和代碼。這一切迫使用戶的數據與應用節點綁定，無法實現管理的靈活性。
「精裝房」提供者，趨動雲面向AI開發者實行「拎包入住」方式，並且開放大量數據集與源代碼集，也已經上線眾多模型，做了大量適合AI開發者的「剛需配套」，並且數據集在未來將進一步得到擴展。
四，不得道，不頂流。
這個道就是滿足不同類型用戶在使用AI算力雲方面所需要的靈活性、高效性、與高性價比。趨動雲的基因純正，擁有強大專業的技術團隊，得道多助，並已經初步構建起來了趨動雲的生態體系。目前前期主要構建AI開發者生態，已經連續多屆支持中國大學生計算機設計大賽人工智能應用邊緣智能應用挑戰賽，積極培養GPU池化模式的未來用戶基礎。
五，不實用，不頂流。
目前為止，趨動雲已經有包括高教、科研、互聯網、傳媒、醫療在內的諸多企業用戶眾多個人開發者用戶。在發展初期，就能夠受到用戶的熱捧，可見，趨動雲採取類似Flink基於公有雲的服務方式，有着很強的實用性。
六，不普惠，不頂流。
趨動雲從一開始就十分強調高性價比，從GPU池化技術層面實現用戶GPU算力資源的高利用率，從而降低應用成本，實現AI應用的普惠。相關測試表明，採用同樣模型訓練，達到相同精度，目前採用算力池化的趨動雲，比公有雲成本低60%。
很顯然，要做AI算力界的頂流者，普惠AI算力雲落在實處，這不僅是趨動雲重要的發展底氣，而且也是趨動科技肩負的重要歷史使命。在AI時代，對任何用戶而言，發展的每一步，都來之不易，AI算力的成本優化與效率優化十分重要，也迫切需要。在此，全球雲觀察分析認為，行業用戶的需求驅動，也將進一步加速趨動雲的發展與普及。
釋放GPU池化技術紅利---讓AI不只是有錢人玩的遊戲
然而，趨動雲不僅要做AI算力界的頂流者，更要做AI算力界的創新變革者。
趨動雲之所以能為用戶提供低成本、高按需保障、無廠商鎖定的AI算力，這與其採用了獨特的GPU池化技術分不開的。
或許你知道GPU虛擬化技術，或者叫GPU切片技術，但值得注意的是，傳統的GPU虛擬化技術基於硬件思維，只能對本地物理機上的GPU進行虛擬切割。而資源池化技術基於整個數據中心範圍，不僅可以支持本地資源虛擬化，而且打破單機資源調度的物理邊界，讓用戶透明使用任意物理機上、任意數量、任意品牌廠商的算力資源。
算力池化技術，可以看成是智算領域變革的關鍵技術，有着從計算時代邁向智算時代的劃時代的意義，其帶來重要的變革在於兩大「解耦」。一是實現用戶與硬件進行全面解耦。不僅避免了GPU綁定在某節點服務器帶來硬件資源遭遇故障的麻煩與危險。而且用戶不需要再關心AI硬件的細節，可以自定義AI算力來匹配業務應用需求，提高整體資源利用率，帶來更好的應用成果，加速行業發展。
二是實現CPU與GPU解耦。雖然這對網絡要求很高，但AIGC的發展，使得ChatGPT火爆後建立起來的新機房往往會搭建200G甚至更高性能的網絡環境。在網絡性能足夠強的情況下，CPU與GPU解耦合帶來的遠程性能損耗非常低，用戶幾乎感受不到。
進一步分析來看，要實現CPU與GPU解耦合，需要理解用戶代碼怎麼使用GPU，在便利性與性能上有所選擇，為此可以做API聚合優化，改變用戶代碼行為，從而讓用戶體驗到實現代碼調用性能更高。
據趨動雲首席架構師介紹，當前用戶採購的是固定支配的GPU服務器，而每個應用需要的GPU卡數不相同，以及需要的CPU和GPU配比也不相同。為此CPU與GPU解耦合之後，GPU池化技術可以充分利用碎片GPU資源，實現不同服務器節點上CPU和GPU資源的整合利用。
趨動雲帶給用戶兩大最直接的可見價值，就是便宜和好用。便宜在於趨動雲通過GPU池化技術實現了用戶AI算力資源靈活取用，打造GPU池化雲不僅節約成本，也為用戶提高了資源利用率，實現降本增效的目的。相對於公有雲GPU資源的包月制，趨動雲的按量付費來得更實惠。
好用在於通過雲化服務模式，避免了用戶對AI算力的運維麻煩。與此同時，趨動雲提供結構化管理與多元能力，提升了用戶模型訓練的便利性。加上趨動雲打造越來越豐富的社區資源，帶給用戶在大模型時代下更開放、更多元的應用價值。無需繁瑣的手工配置，可快速基於JupyterLab進行可視化編程，一鍵式提交離線任務，趨動雲的低上手門檻讓眾多企業玩轉AI不再為難。
「讓AI不只是有錢人玩的遊戲」，通過不斷釋放GPU池化技術紅利，一步一個腳印推動AI算力雲走向各個領域，走向行業普及，去滿足不同行業不同用戶的需要。事實上，趨動雲在眾多行業領域已經獲得了成功落地，比如基於趨動雲成功落地的復旦大學MOSS大模型等。
有差異化，才有生存發展空間。在AI算力雲的實際需求上，趨動雲給予復旦大學等各個行業的用戶以「精準扶持」。通常AI訓練對只讀性能要求高，偶爾也會修改數據集，但公有雲很難提供專業化的框架版本能力。因此，AI復現不僅需要算力支持，框架版本、環境配置、預訓練模型等方面更需要細緻的支持，AI對存儲的訴求也非常大，這源於通用存儲方案很難滿足AI訓練的過程，計算高性能帶來存儲IO瓶頸。在存儲上做優化，也可以提升用戶AI算力上的應用體驗。為此，基於趨動雲的存儲的能力，趨動雲不斷開拓生態合作，為用戶提供精準的支持。
從用戶角度出發，不僅對用戶屏蔽硬件細節，讓用戶只關注業務與自身應用，而且讓用戶快速實現AI算力配置，可見，趨動雲就是一個敏捷個性化的AI算力池化雲。
全球雲觀察分析認為，一個有競爭力的AI算力與一站式開發訓練平台服務，價格更美，用起來更美，其核心關鍵離不開高效價值的運營體系。隨着趨動雲在科教行業廣泛落地，通過大規模的應用實踐，對趨動雲邁向to B企業級行業領域帶來更多的實戰經驗，同時也進一步打磨趨動雲的整體運營體系，敏捷滿足用戶需求。
針對當前科技巨頭髮起的ChatGPT大戰，AI行業「卷」得越來越厲害，繼而誘發智算領域驚現AI大變局，也在催生行業大洗牌。臨近一年一度的「618」了，AI算力雲價格要不要也「卷」起來呢？為此，全球雲觀察從趨動雲運營總監文禹翔處了解到，在618期間，趨動雲也將推出算力金贈送、充值特惠等活動。在2023年6月1日-2023年6月21日的活動時間內參與充值活動，都可獲得贈送。充值越多優惠越多，對此有興趣的小夥伴可以積極參與一把。
連接算力連接人，模型訓練就上趨動雲。趨動雲可以幫助企業開發者、個人開發者和高校科學研究者們提升科研效率，同時有助於AI算法愛好者們降低學習門檻，讓愛好者們能更好地接觸到最新的前沿深度學習內容，輕鬆訓練自己的第一個模型。
命運對勇士低語：「你無法抵禦風暴」。勇士低語回應：「我，就是風暴」。
隨着智算領域變革潮來襲，AI算力雲有望成為下一個行業風暴，更有魅力的「AI算力池化雲」勢必會成為這場風暴的風眼。-阿明觀察-
