三星、英特爾、長(zhǎng)安汽車……9月25日召開(kāi)的2024百度云智大會(huì),將大部分的時(shí)間交給了合作伙伴,視頻大模型Vidu、長(zhǎng)安啟源E07的背后都有百度智能云的支持,由客戶向市場(chǎng)安利。當(dāng)天,百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖拿出百舸AI計(jì)算平臺(tái)4.0、千帆大模型平臺(tái)3.0兩個(gè)AI基礎(chǔ)設(shè)施,同時(shí)升級(jí)了代碼助手等AI原生應(yīng)用,把3D超寫(xiě)實(shí)數(shù)字人價(jià)格從萬(wàn)元降至199元。2024年二季度,百度總營(yíng)收同比持平,智能云營(yíng)收增長(zhǎng)14%。和上年同期相比,百度智能云營(yíng)收增幅多了9個(gè)百分點(diǎn)。據(jù)不完全統(tǒng)計(jì),2024年二季度海內(nèi)外云大廠的營(yíng)收增幅從個(gè)位數(shù)到30%不等,入局者不進(jìn)則退。
“大模型有個(gè)著名的定律Scaling Law,是說(shuō)模型性能會(huì)隨著參數(shù)、算力、數(shù)據(jù)集的規(guī)模增加而提高,這個(gè)定律仍在繼續(xù)。馬斯克(特斯拉CEO)說(shuō)他們剛建設(shè)了10萬(wàn)卡的集群,未來(lái)還會(huì)擴(kuò)張到20萬(wàn)卡,這不是個(gè)例”,說(shuō)完,沈抖給了個(gè)更具象的概念:要部署10萬(wàn)卡集群,在物理層面要占據(jù)約10萬(wàn)平方米的空間,相當(dāng)于14個(gè)標(biāo)準(zhǔn)足球場(chǎng)的面積,這些服務(wù)器一天要消耗約300千瓦時(shí)的電力,相當(dāng)于北京市東城區(qū)一天的居民用電量。
挑戰(zhàn)在于跨地域部署、有效訓(xùn)練時(shí)長(zhǎng)占比低 。“用1.6萬(wàn)卡訓(xùn)練Llama3時(shí),每3小時(shí)就會(huì)出一次故障,推演到10萬(wàn)卡,意味著每30分鐘就要中斷一次。”沈抖說(shuō),“百舸4.0,正是為部署10萬(wàn)卡大規(guī)模集群而設(shè)計(jì)的。”
百舸4.0實(shí)現(xiàn)了在萬(wàn)卡規(guī)模集群上95%的多芯混合訓(xùn)練效能;能夠?qū)崿F(xiàn)工具層面的秒級(jí)部署,將萬(wàn)卡集群運(yùn)行準(zhǔn)備時(shí)間從數(shù)周最快縮減至1小時(shí);實(shí)現(xiàn)了超過(guò)99.5%的有效訓(xùn)練時(shí)長(zhǎng);長(zhǎng)文本推理效率提升了1倍以上。
千帆是企業(yè)級(jí)一站式大模型與AI原生應(yīng)用開(kāi)發(fā)及服務(wù)平臺(tái)。目前在千帆大模型平臺(tái)上,文心大模型日均調(diào)用量超7億次,累計(jì)幫助用戶精調(diào)3萬(wàn)個(gè)大模型,開(kāi)發(fā)出70多萬(wàn)個(gè)企業(yè)級(jí)應(yīng)用。過(guò)去一年,文心旗艦大模型降價(jià)幅度超90%。
千帆3.0的升級(jí)主要體現(xiàn)在模型開(kāi)發(fā)層、模型服務(wù)層、應(yīng)用開(kāi)發(fā)層上。具體到應(yīng)用開(kāi)發(fā),千帆升級(jí)了企業(yè)級(jí)RAG和企業(yè)級(jí)Agent開(kāi)發(fā),發(fā)布了低代碼AI應(yīng)用開(kāi)發(fā)平臺(tái)“AI速搭”,通過(guò)自然語(yǔ)言對(duì)話就能進(jìn)行企業(yè)級(jí)應(yīng)用開(kāi)發(fā)。
“云計(jì)算屬于AI基建,開(kāi)發(fā)者和企業(yè)客戶不光需要好用、易用的算力,也傾向于開(kāi)發(fā)門(mén)檻更低的平臺(tái),這是趨勢(shì),升級(jí)是無(wú)止境的。比的是價(jià)格、易用度和升級(jí)速度”,比達(dá)分析師李錦清向北京商報(bào)記者表示。
這些基礎(chǔ)設(shè)施的目的是開(kāi)發(fā)出AI原生應(yīng)用,百度當(dāng)天給打樣的數(shù)字人、智能客服、代碼提效類產(chǎn)品做了升級(jí)。曦靈數(shù)字人4.0支持根據(jù)文字快速生成不同妝造、不同行業(yè)特色的3D數(shù)字人形象和視頻,將3D超寫(xiě)實(shí)數(shù)字人的價(jià)格從萬(wàn)元降至199元。新版智能客服應(yīng)用“客悅”的問(wèn)題自助解決率升至92%。文心快碼服務(wù)超1萬(wàn)家企業(yè)客戶。
在業(yè)績(jī)層面,百度并未獨(dú)立披露智能云板塊營(yíng)收,僅公布了2024年二季度百度智能云營(yíng)收同比增長(zhǎng)14%。和同行相比,海外的亞馬遜云科技、微軟云和谷歌云二季度營(yíng)收同比增長(zhǎng)分別是19%、29%、28%,阿里云同期是6%。
北京商報(bào)記者 魏蔚
本網(wǎng)站所有內(nèi)容屬北京商報(bào)社有限公司,未經(jīng)許可不得轉(zhuǎn)載。 商報(bào)總機(jī):010-64101978 媒體合作:010-64101871
商報(bào)地址:北京市朝陽(yáng)區(qū)和平里西街21號(hào) 郵編:100013 法律顧問(wèn):北京市中同律師事務(wù)所(010-82011988)
網(wǎng)上有害信息舉報(bào) 違法和不良信息舉報(bào)電話:010-84276691 舉報(bào)郵箱:bjsb@bbtnews.com.cn
ICP備案編號(hào):京ICP備08003726號(hào)-1 京公網(wǎng)安備11010502045556號(hào) 互聯(lián)網(wǎng)新聞信息服務(wù)許可證11120220001號(hào)