容聯(lián)云將大模型的風(fēng)，吹到行業(yè)當(dāng)中原創(chuàng)
如何把大模型真正運(yùn)用到實(shí)際的業(yè)務(wù)場(chǎng)景中，從而塑造出具有針對(duì)性的行業(yè)大模型？這已經(jīng)成為每一個(gè)企業(yè)的焦點(diǎn)問題。
各行各業(yè)都希望能夠讓AI技術(shù)與各自的業(yè)務(wù)應(yīng)用深度融合，關(guān)于行業(yè)大模型的研發(fā)也就此展開。金融行業(yè)中許多銀行和保險(xiǎn)公司正運(yùn)用大數(shù)據(jù)和機(jī)器學(xué)習(xí)技術(shù)創(chuàng)新智能風(fēng)險(xiǎn)評(píng)估和欺詐檢測(cè)系統(tǒng)。制造業(yè)則依賴物聯(lián)網(wǎng)和機(jī)器視覺技術(shù)，推動(dòng)生產(chǎn)流程的智能化。醫(yī)療行業(yè)更是運(yùn)用深度學(xué)習(xí)技術(shù)，期望能夠?yàn)榛颊咛峁└_的診斷和治療。
要想成功實(shí)施行業(yè)大模型，容聯(lián)云AI研究院院長劉杰認(rèn)為需要從三個(gè)關(guān)鍵層面出發(fā)：第一，要對(duì)目標(biāo)行業(yè)有深入的了解，明確其業(yè)務(wù)特性和需求。第二，在模型建設(shè)中，必須確保它具備強(qiáng)大的核心能力，涵蓋基礎(chǔ)、通識(shí)和智能化等各個(gè)方面。第三，結(jié)合這些知識(shí)和能力為特定行業(yè)設(shè)計(jì)并實(shí)施真正有效的解決方案。
但是劉杰也在行業(yè)中看到一個(gè)現(xiàn)象，許多公司在大模型的熱潮中盲目跟風(fēng)，招募大量專家進(jìn)行研發(fā)，但最后可能發(fā)現(xiàn)應(yīng)用的效果并不如預(yù)期，導(dǎo)致項(xiàng)目的撤銷。劉杰認(rèn)為這實(shí)際上是一個(gè)警示，提示公司應(yīng)當(dāng)結(jié)合自己的戰(zhàn)略和產(chǎn)品去考慮研發(fā)大模型的必要性和目標(biāo)。
那么，當(dāng)前的行業(yè)大模型進(jìn)展到了哪一步呢？
向垂直行業(yè)的大模型進(jìn)發(fā)
容聯(lián)云很早就開始探索智能化道路：2017年，容聯(lián)云發(fā)布了語音+文本機(jī)器人，此后也持續(xù)在人工智能技術(shù)上進(jìn)行產(chǎn)品和解決方案的產(chǎn)業(yè)落地探索；2021年，容聯(lián)云收購客戶關(guān)系管理軟件服務(wù)商過河兵科技和數(shù)據(jù)智能服務(wù)商諸葛智能。容聯(lián)云已經(jīng)形成“通訊+數(shù)據(jù)+智能”的完整技術(shù)底座。
今年年初，隨著ChatGPT的爆火，容聯(lián)云的研發(fā)團(tuán)隊(duì)又意識(shí)到，他們的研發(fā)基礎(chǔ)和研究路線與 ChatGPT 也有許多契合之處，例如在產(chǎn)品和應(yīng)用中提升語言生成能力、查詢代碼生成能力和數(shù)據(jù)分析等認(rèn)知智能方面的技術(shù)。“技術(shù)的路線環(huán)節(jié)、方案等大框架是相通的。”劉杰解釋道。因此，容聯(lián)云很快將自己的研究方向與ChatGPT進(jìn)行了對(duì)比和鎖定，并開始投入前期的大模型基礎(chǔ)調(diào)研、算法和模型訓(xùn)練的研發(fā)過程。
容聯(lián)云在實(shí)現(xiàn)行業(yè)大模型的路徑已經(jīng)非常清晰，前半段會(huì)相對(duì)較快地搭建起技術(shù)流程并走通技術(shù)通路，后半段再與具體的業(yè)務(wù)場(chǎng)景和客戶的垂直應(yīng)用相結(jié)合，針對(duì)一些技術(shù)細(xì)節(jié)反復(fù)摸索和調(diào)試。
“容聯(lián)云在大模型研發(fā)過程中要著力解決后半段的問題，這也是未來一段時(shí)間我們將主要關(guān)注的問題。”劉杰說道。因?yàn)榕c場(chǎng)景結(jié)合的細(xì)節(jié)對(duì)模型最終的能力水平和質(zhì)量影響較大，例如需要使用何種規(guī)模的模型、如何實(shí)現(xiàn)并行的多機(jī)多卡訓(xùn)練、需要多少數(shù)據(jù)以及需要何種質(zhì)量的數(shù)據(jù)等數(shù)據(jù)工程上的問題。
“目前，關(guān)于行業(yè)大模型的各種技術(shù)的討論、分析和資料非常豐富，因此在這個(gè)層面上，技術(shù)上并不是關(guān)鍵障礙，而是如何更好地將現(xiàn)有的通用技術(shù)與具體場(chǎng)景進(jìn)行匹配，并進(jìn)行更好的能力研發(fā)和落地。”
三個(gè)層面打造行業(yè)大模型
容聯(lián)云的模型是技術(shù)的積累和實(shí)現(xiàn)，就是希望通過產(chǎn)品將這些技術(shù)能力轉(zhuǎn)化為賦能客戶的實(shí)用工具，增強(qiáng)客戶的生產(chǎn)力。容聯(lián)云采用了務(wù)實(shí)的策略，按照三個(gè)具體階段來實(shí)現(xiàn)行業(yè)大模型的能力。
首先，行業(yè)大型模型的加入使得在較少的訓(xùn)練數(shù)據(jù)上也能適應(yīng)新的業(yè)務(wù)場(chǎng)景，容聯(lián)云可以顯著提升其原有的AI和NLP能力，特別是在意圖識(shí)別、實(shí)體識(shí)別等方面。
其次，行業(yè)大模型使容聯(lián)云實(shí)現(xiàn)了一些之前沒有落的功能，如文案生成、問答上下文理解及文章解析等。
最后，容聯(lián)云整合行業(yè)大模型的能力，進(jìn)一步深化AI與業(yè)務(wù)的融合，創(chuàng)造出真正的AI原生智能化產(chǎn)品“赤兔大模型”。
三個(gè)層面構(gòu)成了容聯(lián)云從技術(shù)到產(chǎn)品的整體研發(fā)路徑。赤兔大模型是容聯(lián)云面向企業(yè)應(yīng)用的垂直行業(yè)多層次大語言模型，赤兔大模型聚焦懂交流、會(huì)分析、有知識(shí)、能執(zhí)行“四大能力”，為智能客服和營銷等場(chǎng)景保駕護(hù)航。
基于“赤兔大模型”，企業(yè)可以搭建自己的數(shù)智化服務(wù)和營銷相關(guān)業(yè)務(wù)場(chǎng)景，完成從“降本增效”到“價(jià)值創(chuàng)造”的進(jìn)化，賦能溝通智能2.0時(shí)代。劉杰介紹，在赤兔大模型加持下，智能溝通2.0將在AI基礎(chǔ)能力、會(huì)話分析洞察、對(duì)話能力、人機(jī)協(xié)同四個(gè)方面有大幅提升。
AI基礎(chǔ)能力方面，智能客服依賴的上下文意圖、情感識(shí)別、實(shí)體識(shí)別、信息抽取、相似問生成等能力均可通過AI大模型替換或做能力補(bǔ)充；會(huì)話分析洞察方面，AI大模型可對(duì)溝通記錄進(jìn)行質(zhì)檢標(biāo)記、主動(dòng)分析座席工作行為，自動(dòng)生成最佳實(shí)踐SOP，極大挖掘呼叫中心大量會(huì)話信息的潛在價(jià)值；對(duì)話能力方面，基于赤兔大模型豐富的參數(shù)和強(qiáng)大的內(nèi)容生成能力，能夠支持智能客服實(shí)現(xiàn)更加個(gè)性化的問答回復(fù)；人機(jī)協(xié)同方面，企業(yè)可以利用大模型做AI助手的工程化設(shè)計(jì)，從坐席話務(wù)前中后不同環(huán)節(jié)輔助陪伴坐席更好、更高效的完成業(yè)務(wù)。
依托赤兔大模型，企業(yè)客服可以實(shí)現(xiàn)多維度、細(xì)粒度的對(duì)話分析理解與內(nèi)容生產(chǎn)，通過意見挖掘、情感分析、立場(chǎng)檢測(cè)等洞察用戶需求。同時(shí)，赤兔大模型還針對(duì)多種場(chǎng)景的人機(jī)交互應(yīng)用，自動(dòng)生成業(yè)務(wù)話術(shù)及流程方案、問答知識(shí)庫，提升AI運(yùn)營效率、客服效能及銷售轉(zhuǎn)化。劉杰表示，豐富的內(nèi)部知識(shí)儲(chǔ)備，和靈活的外部知識(shí)運(yùn)用，可以解決大模型在真實(shí)性、即時(shí)性、邏輯性、可控性等方面的問題。
把握大模型工具，落地行業(yè)
赤兔大模型在落地行業(yè)的選擇上，容聯(lián)云并沒有“面面俱到”，而是把金融行業(yè)做深，做透。在金融領(lǐng)域，由于各塊業(yè)務(wù)、系統(tǒng)間數(shù)據(jù)不互通，往往需要SaaS廠商提供成型的解決方案。“赤兔大模型”結(jié)合金融領(lǐng)域知識(shí)進(jìn)行訓(xùn)練，可以真正理解客戶的開放問題，根據(jù)不同的業(yè)務(wù)需求和場(chǎng)景特點(diǎn)匹配相應(yīng)回答，提高金融服務(wù)的效果。
在實(shí)際落地場(chǎng)景中，金融客戶更多使用十億級(jí)參數(shù)規(guī)模的模型來完成服務(wù)。所以，赤兔大模型在參數(shù)規(guī)模和模型性能之間做到了極高的效率，以50～100億的參數(shù)達(dá)到了極高的生成能力，為客戶提供更高的性價(jià)比和滿足私有化部署的要求。
目前，赤兔大模型助力某國有大型券商企業(yè)對(duì)原有客戶聯(lián)絡(luò)中心系統(tǒng)進(jìn)行開創(chuàng)性價(jià)值升級(jí)，為其打造“全域客戶洞察+個(gè)性化營銷觸達(dá)”的解決方案。業(yè)務(wù)系統(tǒng)升級(jí)后，客戶體驗(yàn)顯著改善，開戶轉(zhuǎn)化率、月活率、交易額等核心指標(biāo)獲得長足提升。
赤兔大模型技術(shù)已經(jīng)在行業(yè)中得到驗(yàn)證并開始得到投入，隨著它逐漸成熟，容聯(lián)云也在研發(fā)更完善的赤兔大模型生態(tài)產(chǎn)品。容聯(lián)云的目標(biāo)是通過大模型的應(yīng)用，提升銷售團(tuán)隊(duì)的業(yè)務(wù)水平，特別是縮短普通銷售和金牌銷售之間的差距。大模型能夠更好地賦能一線銷售人員，特別是普通水平的銷售。劉杰表示，預(yù)計(jì)通過大模型的輔助，初級(jí)銷售的產(chǎn)能將提升近50%，而中級(jí)銷售的產(chǎn)能提升目標(biāo)為10%至30%。
在互聯(lián)網(wǎng)時(shí)代，網(wǎng)絡(luò)作為一種信息工具，極大程度上為信息的傳播提供了更加快速和便捷的方式。在AI時(shí)代，大模型作為一個(gè)智能工具，也為企業(yè)發(fā)展提供了新的思路和方向。
企業(yè)在這一階段紛紛入局并不是一件壞事，因?yàn)榕c自身業(yè)務(wù)相結(jié)合的行業(yè)大模型，必定會(huì)在激烈的市場(chǎng)競爭中占領(lǐng)先機(jī)。“根據(jù)自身業(yè)務(wù)、客戶和投入情況，做出具有個(gè)性化的行業(yè)大模型，共同向‘山頂’進(jìn)發(fā)。”劉杰說道。
本文章選自《數(shù)字化轉(zhuǎn)型方略》雜志，閱讀更多雜志內(nèi)容，請(qǐng)掃描下方二維碼
