您的位置: 首頁(yè) > 特刊

大模型進(jìn)入落地元年 百融云創(chuàng)從“卷技術(shù)”到“卷應(yīng)用”

出處:北京商報(bào) 網(wǎng)編:王巍 2024-05-15

“請(qǐng)幫我整理一份今天周會(huì)的會(huì)議紀(jì)要,再以此為基礎(chǔ)寫(xiě)一篇一千字的發(fā)言稿。”任務(wù)剛一下達(dá),一份整潔的會(huì)議紀(jì)要和一篇邏輯清晰、語(yǔ)句流暢的稿件,立刻出現(xiàn)在屏幕上。這是人工智能公司百融云創(chuàng)的員工,利用大模型辦公的日常。

2024年政府工作報(bào)告中,“人工智能+”作為新的發(fā)展戰(zhàn)略被正式提出。而在人工智能技術(shù)領(lǐng)域,大模型正以主角的姿態(tài)站在了歷史舞臺(tái)中央,引發(fā)了產(chǎn)業(yè)界“大煉模型”的狂潮。

過(guò)去兩年間,大模型市場(chǎng)處在造錘子的階段,當(dāng)歷史的時(shí)針指向了2024年,市場(chǎng)考驗(yàn)的則是釘釘子的能力。經(jīng)過(guò)了市場(chǎng)的狂熱,平復(fù)躁動(dòng)的心情后,我們?nèi)绾胃硇院涂茖W(xué)地認(rèn)識(shí)大模型的本質(zhì)?市場(chǎng)進(jìn)入應(yīng)用元年,從“大煉模型”到“大用模型”還要克服哪些挑戰(zhàn)?

企業(yè)供圖

三大視角透視大模型的本質(zhì)

●大模型即信息壓縮器

大模型的本質(zhì)是一個(gè)信息的無(wú)損壓縮器,目前最好的大模型產(chǎn)品可以實(shí)現(xiàn)30倍以上的信息壓縮比,這是一個(gè)非常驚人的數(shù)字。依靠強(qiáng)大的壓縮能力,大模型幾乎把所有互聯(lián)網(wǎng)上的人類知識(shí)都?jí)嚎s到了一個(gè)模型之中,讓其變得無(wú)所不知。

而且這種壓縮功能不是簡(jiǎn)單的信息抽象化和符號(hào)化,大模型能從海量信息里發(fā)掘潛在規(guī)律。這使得大模型擁有了類似人類思考的能力,即使面對(duì)不曾見(jiàn)過(guò)的情景,或者沒(méi)有見(jiàn)過(guò)的問(wèn)題,也能“舉一反三”進(jìn)行作答。

●大模型即操作系統(tǒng)

每個(gè)時(shí)代都有自己的操作系統(tǒng),比如PC時(shí)代的Windows、移動(dòng)互聯(lián)時(shí)代的iOS和Android,人工智能時(shí)代也不例外。大模型將成為人工智能時(shí)代的底層操作系統(tǒng),所有的芯片架構(gòu)、算法開(kāi)發(fā)等都將圍繞大模型而實(shí)現(xiàn)重構(gòu)。

●大模型即編程語(yǔ)言

同時(shí),大模型還是一種新的編程語(yǔ)言。

有了計(jì)算機(jī)就有了編程語(yǔ)言。從歷史來(lái)看,編程語(yǔ)言一直處于進(jìn)化之中,從最初的二進(jìn)制,到匯編語(yǔ)言,再到高級(jí)語(yǔ)言。編程語(yǔ)言的進(jìn)化史,就是編程門(mén)檻逐步降低的進(jìn)程。英偉達(dá)CEO黃仁勛認(rèn)為生成式AI的發(fā)展大幅降低了學(xué)習(xí)編程的重要性,“編程語(yǔ)言可以普及成為人類的語(yǔ)言,現(xiàn)在世界上每個(gè)人都是程序員。這就是人工智能的奇跡”。

大模型提示詞輸入、模型處理和輸出結(jié)果的作業(yè)模式,完全符合編程的基本流程?,F(xiàn)在,一些科技企業(yè)開(kāi)始將一部分代碼交給大模型去“寫(xiě)”了。

這三大技術(shù)要素共同奠定了大模型的革命性和時(shí)代性,使得其成為市場(chǎng)的“寵兒”。當(dāng)前,光是在國(guó)內(nèi)就大約有200多家企業(yè)投身于大模型的研發(fā),掀起“大煉模型”的浪潮,一些步伐矯健的企業(yè)站在了潮頭。

大模型技術(shù)浪潮激蕩

作為人工智能代表性企業(yè),百融云創(chuàng)持續(xù)推進(jìn)模型應(yīng)用一體化的協(xié)同戰(zhàn)略布局,基于深度學(xué)習(xí)Transformer框架,結(jié)合NLP(自然語(yǔ)言處理)、智能語(yǔ)音等技術(shù),打造了大模型“全家桶”。包括適用于垂直行業(yè)場(chǎng)景的BR-LLM、對(duì)話大模型VoiceGPT,適用于自動(dòng)編程的BR-Coder,適用于建模的ORCAGPT以及大模型的應(yīng)用一站式開(kāi)發(fā)平臺(tái)——賽博坦。

大模型“全家桶”是在時(shí)間的淬煉中厚積薄發(fā)的,它的背后有兩股力量,一個(gè)是長(zhǎng)期主義的推力,一個(gè)是產(chǎn)業(yè)需求的拉力,兩股力量相互交織,推動(dòng)大模型產(chǎn)品日益豐滿。

百融云創(chuàng)將場(chǎng)景需求、戰(zhàn)略投入、技術(shù)創(chuàng)新和組織建設(shè)四個(gè)環(huán)節(jié)融為一體,互為促進(jìn),全面推動(dòng)大模型的生產(chǎn)力化和生產(chǎn)工具化。比如,公司研發(fā)部門(mén)的同事利用BR-Coder將開(kāi)發(fā)崗位中的自動(dòng)生成代碼滲透率提升至10%,利用ORCA-GPT協(xié)助數(shù)據(jù)分析崗位將建模時(shí)間縮短30%。

還有一些同事利用大模型打造自己的專屬“助理”,實(shí)現(xiàn)人機(jī)協(xié)同辦公。在賽博坦平臺(tái)上完成角色個(gè)性、知識(shí)經(jīng)驗(yàn)、能力范圍等基礎(chǔ)設(shè)定,打造出一個(gè)專屬Bot,這一Bot可以是企業(yè)的數(shù)字員工、數(shù)字助理,也可以是行業(yè)專家,通過(guò)Bot協(xié)助完成重復(fù)枯燥的工作,員工可以將更多精力專注于更有價(jià)值的創(chuàng)新工作上。賽博坦平臺(tái)得到了公司人力、行政、運(yùn)維、客服等多個(gè)部門(mén)的積極應(yīng)用,使得工作效率大大提升。

同時(shí),百融云創(chuàng)還大力推動(dòng)多模態(tài)大模型的發(fā)展。比如基于語(yǔ)音的對(duì)話大模型VoiceGPT,可以實(shí)現(xiàn)低于500毫秒級(jí)的響應(yīng),在多輪次對(duì)話中對(duì)于客戶的語(yǔ)音識(shí)別準(zhǔn)確率能達(dá)到99%以上,在意識(shí)、感情和情緒的表達(dá)上,幾乎與真人無(wú)異;基于動(dòng)畫(huà)影像的數(shù)字人產(chǎn)品,能支持多國(guó)語(yǔ)言,勝任多區(qū)域的線上營(yíng)銷(xiāo)、線下接待等工作。

不僅僅是應(yīng)用層面的探索,在破解大模型底層技術(shù)困境上,百融云創(chuàng)也主動(dòng)出擊,準(zhǔn)確性和幻覺(jué)問(wèn)題是行業(yè)共性的底層挑戰(zhàn)。在解決大模型幻覺(jué)問(wèn)題上,百融云創(chuàng)采用了生成式增強(qiáng)檢索增強(qiáng)生成(RAG)技術(shù)方案,并對(duì)Q A場(chǎng)景專門(mén)做了模型能力的強(qiáng)化。這些工作不僅提高了大模型的準(zhǔn)確性和可靠性,還使其能夠更好地理解上下文,并將檢索到的知識(shí)融入到生成過(guò)程中,從而產(chǎn)生更加貼合實(shí)際需求的答案。在第三方測(cè)評(píng)機(jī)構(gòu)的測(cè)評(píng)中,產(chǎn)業(yè)大模型BR-LLM的準(zhǔn)確性和精準(zhǔn)性,取得了行業(yè)領(lǐng)先的成績(jī),多項(xiàng)指標(biāo)優(yōu)于ChatGPT3.5。

大模型走向產(chǎn)業(yè)要跨過(guò)多少高山

當(dāng)深入到具體的場(chǎng)景中,單有技術(shù)突破還不夠,還需要綜合化的工程能力,這背后涉及到垂直產(chǎn)業(yè)的行業(yè)特性、市場(chǎng)規(guī)模、用戶習(xí)慣等問(wèn)題。

百融云創(chuàng)不斷積累行業(yè)知識(shí),通過(guò)實(shí)踐優(yōu)化模型,充分發(fā)揮技術(shù)與知識(shí)雙輪驅(qū)動(dòng)優(yōu)勢(shì),形成飛輪效應(yīng)。比如語(yǔ)料這種知識(shí)要素,百融云創(chuàng)通過(guò)在特有場(chǎng)景中的閉環(huán)反饋,不斷優(yōu)化模型,產(chǎn)生專屬領(lǐng)域的語(yǔ)料,這些專屬語(yǔ)料反過(guò)來(lái)訓(xùn)練模型,這樣下一代的模型進(jìn)行交互時(shí)會(huì)更精準(zhǔn)有效。

舉例來(lái)說(shuō),比如車(chē)險(xiǎn)評(píng)估場(chǎng)景中,有的用戶報(bào)車(chē)號(hào)時(shí)會(huì)把J讀成勾,0讀成圈,可能很多時(shí)候人都會(huì)聽(tīng)錯(cuò),但是百融云創(chuàng)的VoiceGPT卻能夠準(zhǔn)確識(shí)別。在營(yíng)銷(xiāo)的場(chǎng)景下,有的電銷(xiāo)人員產(chǎn)品轉(zhuǎn)化率第一,有的排在倒數(shù)第一。百融云創(chuàng)將第一名的語(yǔ)料進(jìn)行分析和生成,將新生成的內(nèi)容給到此前排名倒數(shù)第一的人員,其轉(zhuǎn)化率瞬間得到大幅提升。這都得益于海量專屬領(lǐng)域知識(shí)的訓(xùn)練,模型的持續(xù)迭代升級(jí)。

同時(shí),大模型價(jià)值和作用的發(fā)揮,并非是孤立的。

比如資產(chǎn)運(yùn)營(yíng)這個(gè)場(chǎng)景,面對(duì)具體的復(fù)雜環(huán)節(jié),如果企業(yè)只是接入一個(gè)大模型基本上很難發(fā)揮作用。在具體作業(yè)環(huán)境中,百融云創(chuàng)首先要對(duì)海量的用戶進(jìn)行精準(zhǔn)分析,根據(jù)特性進(jìn)行分層分類。進(jìn)而構(gòu)建營(yíng)銷(xiāo)響應(yīng)模型,判斷哪些用戶響應(yīng)程度高,哪些壓根就不會(huì)有響應(yīng)。同時(shí),根據(jù)企業(yè)自身?yè)碛械母黝愘Y源制定策略,確定哪些用戶是需要活動(dòng)觸達(dá),哪些用戶是需要電話觸達(dá),針對(duì)不同的用戶要搭配怎樣的話術(shù)等。然后再接入大模型與客戶進(jìn)行多模態(tài)的交互,比如通過(guò)AIGC生成文案、圖片和視頻進(jìn)行產(chǎn)品營(yíng)銷(xiāo),通過(guò)智能語(yǔ)音與客戶進(jìn)行交互,促成交易的達(dá)成。最后,根據(jù)不同渠道用戶的反饋結(jié)果進(jìn)行復(fù)盤(pán)和反饋,進(jìn)而優(yōu)化整個(gè)流程的每一個(gè)環(huán)節(jié)。

當(dāng)前,百融云創(chuàng)大模型已經(jīng)在產(chǎn)業(yè)實(shí)現(xiàn)“落地生根”,在海量的場(chǎng)景中拔節(jié)生長(zhǎng)。以某城商行客戶營(yíng)銷(xiāo)場(chǎng)景為例,該城商行有幾十萬(wàn)名休眠白戶,百融云創(chuàng)首先通過(guò)數(shù)智化的手段,對(duì)用戶進(jìn)行洞察和分群,從而制定不同的策略去觸達(dá)用戶,再利用大模型與用戶進(jìn)行交互,最終搭配人工實(shí)現(xiàn)營(yíng)銷(xiāo)轉(zhuǎn)化。最終,在百融云創(chuàng)的助力下,大量的休眠戶得到了激活,每月貢獻(xiàn)了上億元AUM。

大模型正在成為重塑生產(chǎn)生活、引領(lǐng)時(shí)代變革的重要力量。大模型的浪潮已來(lái),然而光有浪潮還不夠,大模型還得越過(guò)“高山”,深入產(chǎn)業(yè),真正用起來(lái),與千行百業(yè)的融合發(fā)展。正如恩格斯所說(shuō):“社會(huì)一旦有技術(shù)上的需要,這種需要就會(huì)比十所大學(xué)更能把科學(xué)推向前進(jìn)。”

右側(cè)廣告
新聞排行

本網(wǎng)站所有內(nèi)容屬北京商報(bào)社有限公司,未經(jīng)許可不得轉(zhuǎn)載。 商報(bào)總機(jī):010-64101978 媒體合作:010-64101871

商報(bào)地址:北京市朝陽(yáng)區(qū)和平里西街21號(hào) 郵編:100013 法律顧問(wèn):北京市中同律師事務(wù)所(010-82011988)

網(wǎng)上有害信息舉報(bào)  違法和不良信息舉報(bào)電話:010-84276691 舉報(bào)郵箱:bjsb@bbtnews.com.cn

ICP備案編號(hào):京ICP備08003726號(hào)-1  京公網(wǎng)安備11010502045556號(hào)  互聯(lián)網(wǎng)新聞信息服務(wù)許可證11120220001號(hào)