Long-LLM（長文本大模型）時代似乎來得有些突然，而引爆這場熱潮的，竟是一家由清華學霸牽頭的本土AI初創企業。
前不久，月之暗面（Moonshot AI）公司宣布旗下對話式 AI 助理産品 Kimi 應用現已支持200萬字無損上下文輸入。
對比去年10月份Kimi上線時僅支持的20萬字，這一波升級直接提升了10倍文本處理能力，同時也引起了強烈的市場反應，特別是在資本市場，Kimi概念股應運而生，諸如九安醫療、華策影視、中廣天擇等都受益于Kimi概念而實現了股價不同程度的漲幅。
這些刺激更讓大模型領域徹底卷起了長文本大戰。
01 "長文本"大戰，卷的不是字數而是財力
阿裏率先完成自家的大模型産品升級，強化長文本處理能力，免費面向大衆開放最高1000萬字的長文本處理能力。
360則緊隨其後，宣布旗下360智腦正式內測500萬字的長文本功能，並在360AI浏覽器開放給用戶使用。
而百度也宣布在下個月進行版本升級，開放長文本能力，文字範圍會在200萬-500萬字。
目前，文心一言的文本上限大致爲2.8萬字。而像GPT-4Turbo-128k公布的文本範圍也不過爲10萬漢字，Claude3200k上下文約16萬漢字。
可以說，這一波熱潮直接把國內的大模型廠商一下子都拉進了百萬量級的長文本競賽，而主流廠商的入局也爲這場"長文本"大戰增添了很多看頭。
目前來看，"長文本"大戰的賽點主要呈現在兩個方面。
一方面，是大模型的支持文本參數。類似阿裏通義千問的1000萬字、360智腦的500萬字、百度文心一言的200萬-500萬字、Kimi的200萬字等等，都在極力向市場爭"彩頭"，告訴用戶自家的長文本處理能力足夠"長"。
另一方面，是長文本處理能力的開放程度。有意思的是，Kimi是免費開放給用戶使用的，阿里通義千問的長文本處理功能也是免費的，360智腦、百度文心一言也沒有要收費的意思。——以"長文本"大戰爲例，今年的大模型競爭遠比去年要"卷"得多。
還記得去年大火的妙鴨相機，以及各式各樣的圖片生成式服務，都或多或少地通過各種形式如充值、辦會員等，要求用戶付費才能體驗。
今年大模型領域的這把"火"燒得旺，也燒得離奇地"free"。
爲什麽？
Kimi自升級以來，就有大量用戶不斷湧入，激增的流量更是一度讓月之暗面（Moonshot AI）的服務器承受了巨大的壓力，一度陷入宕機，旗下的App和小程序都無法正常使用。
根據月之暗面（Moonshot AI）發布的官方消息，從3.20觀測到流量異常增高後，已經進行了5次擴容工作。推理資源會持續配合流量進行擴容，以盡量承載持續增長的用戶量。
簡單來說，用戶對長文本功能是非常有興趣的，相關的市場需求還在保持持續性的、爆炸性的增長。同時，大量的用戶湧進，不僅提高了大模型産品的知名度，更重要的是在大量用戶的基礎上通過類似于UGC的模式去探索大模型的應用，或許更能進一步推動Long-LLM（長文本大模型）的商業化進程。
當然，在這個過程中，不可避免地就得投入大量資金，一旦商業化加速，大模型廠商就得做好"卷"財力的准備。
阿里通義千問目前免費對所有人開放高達萬頁的文檔處理能力，如果要計算成本，按照目前最便宜的市價0.1元/頁，10000頁的文檔光解析費用就要1000元，這還不包括解析完成之後大模型處理文檔的成本。考慮到通義千問網頁、APP、釘釘等多個端口的用戶基數，需要投入的資金恐怕不會是個小數目。
大模型的商業化在開始階段並非"賺錢"，而是"燒錢"。
02 長文本，直接"接駁"商業化場景
在大模型的商業化進程上，長文本的爆火是很關鍵的一環。
就大模型的技術原理而言，解決長文本問題是必要的。因爲文本長度的提高，對應的模型能解決問題的邊界也將大幅提升，兩者呈現出明顯的正向關系。
傳統的文本處理模型受限于訓練結構，可支持的文本範圍都不算長，在處理複雜任務和深度專業知識（這一類知識往往都是長篇巨著）時，只能拆解輸入訓練，由此就有可能導致輸出的結果上下文邏輯不連貫不順暢等問題。
區別于傳統的文本處理模型，長文本模型就具備更准確的文本理解和生成能力以及更強大的跨領域遷移能力。這對于打造垂直領域的行業專家是一個非常必要的能力支持，比如面向一些長篇巨制的醫療文獻、法律文件、財務報告等，長文本模型就具備更好的理解能力，對應完成跨領域學習和應用，從而打造出更專業的醫療助理、法律助理以及金融助理等應用。
話不多說，實踐一下。
在這裏，「智能相對論」向阿裏通義千問相繼"投喂"了幾本長達數百頁的專業書籍，涵蓋以《高産母豬飼養技術有問必答》爲代表的農業養殖、以《犬貓營養需要》爲代表的寵物喂養等等小衆領域。
結果所能實現的效果確實令人驚訝，阿裏通義千問不僅能高度概括總結這些長篇巨著的主要內容，還能有針對性的給出具體篇章的知識解答。比如，在《高産母豬飼養技術有問必答》一書中，「智能相對論」向其提問"夏季高溫提問應該如何飼養母豬？"很快就得到了書中的精煉解答。
這意味著什麽？只要用戶有足夠多的專業書籍"投喂"給大模型，那麽大模型就可以成長爲一個專業的專家助理，幫助用戶快速解答相關專業問題。
在日常生活中，或許有很多書籍是我們沒辦法去仔細閱讀和學習的，但是只要有長文本大模型予以支持，那麽基本上人人都能創造一個專業的垂直領域助理。
這或許會顛覆現在我們獲取信息、知識的渠道，去百度搜索或是去知乎提問、亦或是去小紅書討論這些路徑都將被替代。
在Kimi開放20萬字文本處理能力的時候，其做了一個簡單的對比，20萬字等于什麽？答案是等于先秦的全部古籍。隨著長文本大模型進入百萬量級的叠代，那麽這些能力還能實現進一步的進化，對應所賦予場景應用的機會就是無限的。
如今，在AI領域，Agent的話題也很火，被認爲是下一個主流的應用形態。那麽，打造Agent的關鍵是什麽？答案正是大模型的長文本處理能力。
比如，Kimi就在幫助元隆雅圖等公司進行營銷升級，基于長文本處理能力來提供爆品文案分析、文案寫作、市場分析、輔助營銷策劃等功能。
盡管現在很多相關的應用還處在探索階段，但是誰又能確定下一個爆款應用不是出自自家的大模型+某個C端用戶的想法/某個企業客戶的業務融合？正因如此，大模型廠商們才不顧一切的升級並開放長文本功能，爲下一場應用上的爆火做准備。
目前，長本文的火爆還只是技術上的，接下來的爆點大概率將是應用上的爆發。
03 寫在最後
2024年是大模型大規模走向商業化的關鍵一年。從Kimi的火爆程度來看，以長文本爲代表的技術叠代走向C端引發了非常積極的反饋。同時，在「智能相對論」的實踐中，也預感這一能力隨著技術的成熟和完善，必然會在C端用戶的手中被"玩出花來"。
只是目前很多的"玩法"還缺乏打磨，顯得比較粗糙。OpenAI在發布GPT商店時，就期望要打造一個全新的生態，人人都能創造自己的專屬GPTs。
現在，擺在大衆面前的長文本熱潮，其實就是一個全民時代到來的信號。只要用戶有書，會投喂，那麽同樣可以在國內的大模型平台上打造出屬于自己想要的專業助理，進而延伸到應用端的火爆。
當然，在這個過程中，書籍的版權問題、平台的審核問題以及巨大的流量湧入所帶來的諸多挑戰和問題，也是大模型走向商業化的難點。但是，其根本的方向是清晰的，Long-LLM（長文本大模型）時代已經拉開序幕，從技術到應用，接下來大模型廠商們有得卷了。
說實在，就目前各大廠商公布的參數，從500萬到1000萬，基本上也足夠用了。大模型在長文本技術層面或許不會再有什麽值得卷了，哪怕是有也只是背地裏正常叠代和發展。
接下來的爆點只能是往應用層面來看。不管是To C還是To B，誰家的平台最先把大衆化的應用探索並驗證出來，再加以打磨推向大衆市場，那麽誰就有可能成爲下一個市場的寵兒。---[文 : 智能相對論 沈浪/來源: 藍鯨財經]
