0
ChatGPT發布不過半年,全球性AI再造已經拉開序幕,甚至一開場直接進入白熱化競爭狀態。據不完全統計,國內類似ChatGPT的產品已經有接近40個。
面對這一波浪潮,不少企業已經率先開展行動,將大模型應用到自身業務中。不過,緊接著難題也隨之而來,不同廠商之間的大模型,到底應該如何選?怎么評判各家做大模型的實力?
當前,國內市場以“大模型”為名推出的產品雖有約四十款,但大模型領域仍未形成公認的行業標準,供使用者參考研判。
對于企業而言,缺乏評判標準的現狀,加劇了他們在面對大模型時的矛盾心理。
雷峰網在與企業交流時了解到,不少企業雖然秉持擁抱新技術的開放心態,但行業魚龍混雜,市場噪聲太大,又讓他們不得不更加謹慎對上。而“得算力者得大模型”的觀點甚囂塵上,更是影響了他們進一步接觸和使用大模型。
的確,算力焦慮,從大模型走紅的第一天起,就伴隨著各大廠商甚至整個科技行業,“互聯網大廠緊急備貨GPU為大模型開路”的傳聞一直沒有斷過。而在上個月,ChatGPT也因需求量太大,一度暫停升級服務,并停止 Plus 付費項目的銷售。
但事實上,“得算力者得大模型”這個觀點,存在一定片面性。GPU卡數量越多,并不意味著大模型的表現就越優秀、企業使用大模型的效果就越好。
廠商擁有上千、上萬張GPU卡,除了“買不起”,還會有“用不好”的問題,如此大規模的集群去做訓練,一旦出現bug就很難調整,這對廠商的整體調優服務能力、端到端成本的控制能力,都是一種考驗。
在大模型風起之初,企業判斷和選擇大模型廠商時,算力因素很多時候會被排在第一位,但大模型真正的使用效果和綜合體驗,是來自于算力、框架、模型、應用構筑的四層架構,相互配合所產生的“化學反應”。

打個比方,如果某個應用上經過調優,在同等算力情況下,性能提高50%,那就意味著算力需求可以降低50%。
企業如果想借助大模型,在業務發展踏上新臺階,需要的不止是智能算力,還需要靈活的框架平臺,豐富的大模型體系,以及對于業務來說更加優質的方案。更重要的一點,在四者之間,端到端的適配和優化,這是“既要、也要、還要”的端到端優化的過程。
就好比選擇智能手機,一開始人們買手機關心跑分,后來人們發現跑分并不等同于使用體驗。大模型也同樣如此,算力充足不代表使用體驗。
對很多企業而言,目前再接觸大模型,已經不再是“了解一下”“嘗嘗新鮮”的階段了,不少企業已經意識到,大模型對每個人、每個行業都有結構性影響。
陸奇在前不久的演講中談到,未來在大模型之上,將有更多大模型會更多的模型被建立,展開來說有兩類:一類是事情的模型,人類每一類需求都有領域/工作模型,其中有結構模型、流程模型、需求模型和任務模型,尤其是記憶和先驗;另一類是人的模型,包括認知/任務模型,它是個體的,其中有專業模型,有認知模型、運動模型和人的記憶先驗。人基本是這幾類模型的組合,律師也好,醫生也好,大量領域會有大量模型往前走。
百度等多家大模型廠商都向雷峰網透露,前來接觸的客戶已經從最開始的CEO層級,變成具體的技術和業務團隊,討論的內容也從天馬行空的想象,變成“大模型如何用好”這類更接地氣的主題。
他們談到,企業對大模型調度實際落地需求十分迫切,關心如何才能產生真正有成效的轉化,也逐漸開始更關注易用性、安全性、可擴展性等一系列具體的指標。
百度大模型落地企業是比較迅速的。
3月27日,也是文心一言發布后的11天,百度云低調舉行閉門溝通會,向首批企業客戶開啟內測,并推出全球首個一站式企業級大模型平臺——“文心千帆”,為企業提供包括數據標注處理、再訓練微調、大模型壓縮、指令(Prompt)自動化、編排功能等大模型推理、微調、托管等服務。
時隔兩月,內測進展究竟如何?5月9日,在百度云舉行的文心大模型技術交流會上,百度云對外展示了“文心千帆”在企業端落地情況。
據雷峰網(公眾號:雷峰網)了解,“文心千帆”結合不同企業需求,提供公有云和私有云兩種部署方式,公有云部署提供推理、微調和托管三類交付模式,而私有云部署提供軟件授權、軟硬一體、租賃服務三種交付模式。
這些不同的交付模式,可滿足不同企業的需求。
于許多企業而言,當前公司內部資深AI人才儲備并沒有那么充足,再加上近期通用人工智能的火爆,AI人才更是難招,許多大廠是直接重金開卷,招兵買馬。
在這種背景下,這些企業在選擇大模型開發平臺上,會重點關注大模型開發是否低門檻、高效率。
為給有專屬模型需求的企業降低模型訓練難度,“文心千帆”主打開箱即用,企業無需找大量資深AI人才進行繁瑣的環境配置工作,同時從數據處理、模型訓練、 到部署服務、 應用集成,每個環節都可以通過簡單的界面操作來實施,大幅降低企業使用門檻,提升了模型打磨效率,降低了成本。
此外,對于無需定制專屬模型的企業,“文心千帆”提供直接推理的交付方式,企業可直接調用文心一言,一鍵讓業務變得智能化。
除低門檻、高效率外,能否兼容各類大模型的開發與應用也是企業非常關心的問題。
當前大模型賽道并未發展到一家獨大的階段,開源社區也十分活躍,再加上在To B領域,客戶的選型決策有時候不只是看技術指標,而是要考慮客情、服務等等,企業往往有多樣化的選型需求。
因此,大模型開發平臺最好要能適應不同的模型。
據了解,“文心千帆”一方面支持文心一言模型的開發,企業可以直接調用文心一言的核心推理能力,輸出推理結果,也可以在其基礎上進行微調,得到專屬模型。另一方面,對于其他開源、閉源模型,“文心千帆”也提供了同樣提供數據準備、數據安全、微調等全套工具鏈。
當然,安全也是當下企業在選擇大模型平臺的重要因素。
2022年被稱為是“數據安全元年”,包括《數據安全法》在內,國家陸續出臺了一系列與數據及其安全保護相關的政策法規和標準規范,要求做好企業數據安全,尤其是黨政、金融、教育、電力等重點行業。
為確保數據安全、以及自主可控,“文心千帆”配備了完備的安全機制,來確保模型輸入輸出穩定,保障數據安全,此外,上文提到了百度云支持私有云部署方式,在私有云交付產品形態里面,企業可以選擇軟件授權、軟硬一體的一攬子方案、以及租賃方案。
“文心千帆”之所以能夠具備這么低門檻、高效率、安全等多種能力,離不開百度AI大底座技術支持。
這個大底座將百度多年產業深度實踐積累的全要素智算基礎設施,芯片、框架、模型、應用核心組件整合到一起,同時通過每一層之間的相互協同優化和適配,能夠為企業帶來更具性價比的智能算力、自主研發的深度學習框架,端到端的整體支持。
基于四層架構的優勢,大模型訓練的計算速度、管理和利用計算資源效率、開發效率極大提升。
據百度提供的數據顯示,與其他未經優化的架構相比,百度AI大底座在相同的時間內完成的計算量提升了90%以上,資源利率效率提升70%以上,開發人員的開發效率提升100%。
文心一言的迭代也可佐證百度AI底座的能力。在一個月內,文心一言完成4次大技術升級,大模型推理成本降到原來的十分之一或者說性能提升近10倍。
"AI大底座就是要幫助客戶從上云,進入到用數、賦智的快車道,極大降低AI產業應用的門檻,提升效率,企業只需要把精力聚焦在場景業務上。"百度集團執行副總裁沈抖說道。
“文心千帆”的首批內測企業涵蓋了智能辦公、旅行服務、電商直播、政務服務、金融服務五大領域。百度云也旨在從這五大領域入手,先打造出一些行業的樣板間。
時隔兩個月后的,本次文心大模型技術交流會上,我們已經可以看到許多成果。
比如說金融業,AI已經優化了不少從業者如投研工作者的工作流。過去研究人員寫一份投研報告,需要在數據終端查詢研報,搜索引擎了解新聞資訊,再利用辦公軟件處理分析、撰寫,整個流程復雜且分散。
但升級后的投研助手產品可直接以對話形式,完成信息歸集、觀點輔助生成、觀點寫作、投資決策管理全流程,讓研究員的工作重心轉移到附加值更高的研究邏輯優化上,顯著提升投研工作效率,實現專家經驗資產化沉淀。
百度智能云應用產品中心架構師孫珂透露,由于百度擁有整體的科技底座,包含算力、大模型、開發框架和少量的標注數據,在這之上,百度可以實現對資產、對財富、對營銷、還有包括對內控合規一系列資源的管控。在這個過程中,能夠在零售業務和對公業務上,提供各種各樣的創新服務,讓金融機構有對客界面更高效的提升,更集約化的框架。
另一個更容易被感知到的場景是旅游業,一般人們選擇外出旅游時,都要提前很久做攻略,包括定酒店、定機票,做路線攻略等等。
但現在只需要通過簡單的對話界面,輸入出行城市,目的地,出行方式,旅游時間等信息,幾句話溝通就可以按要求生成一個旅游規劃,同時完成機票、酒店的預訂。
而在電商行業,直播是當前每家企業不想也不敢錯過的風口,但對于一些中小企業來說,隨著直播團隊人員薪水、設備的價格水漲船高,許多商家養不起專業直播團隊。
而現在,企業只需要把商品的信息告訴AI,讓AI自動生成多種風格的商品帶貨腳本,再配合數字人主播,就可以幫企業把貨給賣出去。不需要花錢雇主播、撰寫話術、花時間培訓,有了專業AI直播加持,每個品牌都能7*24小時直播,提升電商銷售效果。
“經過度量,它的轉化率是無人直播的兩倍,有一個人總是比沒有一個人去直播它的轉化率要更高。”孫珂表示。
雷峰網進一步了解到,已經有超過300家產業里的生態伙伴,在和百度智能云探索大模型在真實場景里的落地,涵蓋了工業、金融、政務、運營商、教育等行業。
例如用友,將自身能力與文心一言相結合,形成B端企業管理軟件系統智能助手,服務于智能知識分析,財報分析,數據報表分析實踐等企業高頻的需求和場景。在電信行業國產中間件市場占有率最高的寶蘭德,也在測試中將自身的智能運維機器人與文心一言融合,提高了運維效率和自動化智能化程度,可以實現智能化故障診斷,以及智能解決方案推薦。
百度集團副總裁袁佛玉透露,在過去不到兩個月時間,百度智能云已經聯合產業伙伴深入超過400個具體的場景研發測試,“在其中看到了非常有價值的測試效果,也有一些測試效果還不夠理想,但我們正在雙向的去努力,去尋找在這個方向最先落地的機會。”
大模型與產業相結合,所迸發的想象力遠遠不止于此。隨著時間推移,毫無疑問將會有更多的企業迎接大模型,為業務帶來新的生產力。由此,一場產業升級的風暴即將來臨,而百度也已經做好準備。
雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。