李信馬 撰文
楊勇 編輯
2024年是人工智能和大模型快速發(fā)展的一年，年底 OpenAI 發(fā)布了最新版本的GPT-o3，強(qiáng)大的能力讓我們看到了AGI的未來。這一年也是大模型加速落地的一年，市場規(guī)模已達(dá)數(shù)百億，金融行業(yè)就是大模型技術(shù)重點落地的行業(yè)之一。
容聯(lián)云是國內(nèi)領(lǐng)先的智能通訊云服務(wù)商，在大模型的浪潮中，同樣積極擁抱新技術(shù)，發(fā)布了赤兔大模型，并在金融行業(yè)積極落地。
和智譜、騰訊、百度等耳熟能詳?shù)钠脚_型廠商不同，容聯(lián)云的定位更接近于應(yīng)用廠商，并不直接提供底層的算力資源或平臺能力，而是針對企業(yè)具體業(yè)務(wù)場景中的用戶服務(wù)需求，提供具體的應(yīng)用方案。
赤兔大模型是容聯(lián)云基于主流開源大模型，結(jié)合行業(yè)數(shù)據(jù)進(jìn)行微調(diào)訓(xùn)練而構(gòu)建的智能模型。多個主流開源大模型包括通義大模型、智譜大模型和混元大模型，在構(gòu)建時，容聯(lián)云還結(jié)合了金融、保險、銀行等多個垂直行業(yè)的實際數(shù)據(jù)，讓模型能夠更好地理解行業(yè)術(shù)語、業(yè)務(wù)流程和客戶需求，從而提供更精準(zhǔn)的服務(wù)，并隨著技術(shù)進(jìn)步和客戶需求的變化而持續(xù)迭代優(yōu)化。
具體來說，在預(yù)訓(xùn)練階段，容聯(lián)云會利用企業(yè)之間沉淀的數(shù)據(jù)資源。在以往的小模型時代，模型的能力主要依賴于大量的數(shù)據(jù)進(jìn)行訓(xùn)練，這些在小模型時代積累的腳本和數(shù)據(jù)，在大模型時代同樣可以直接被利用。
其次，容聯(lián)云會在垂直領(lǐng)域內(nèi)尋找公開的數(shù)據(jù)來增強(qiáng)模型的理解能力。例如在金融領(lǐng)域，有公開的企業(yè)介紹、產(chǎn)品介紹或服務(wù)條款等信息，這樣模型就能更好地理解金融相關(guān)的內(nèi)容。以牡丹卡為例，如果不進(jìn)行相關(guān)的訓(xùn)練，模型可能無法識別牡丹卡屬于哪家銀行。但是，當(dāng)提供了包含牡丹卡產(chǎn)品資料的數(shù)據(jù)后，模型就能自行理解并識別出相關(guān)信息。
此外，企業(yè)的歷史語料數(shù)據(jù)，比如客服中心的歷史語料，也可以用來調(diào)整和優(yōu)化模型。
在不久前容聯(lián)云舉辦的活動中，容聯(lián)云介紹了其大模型方案在金融領(lǐng)域的落地情況。比如在保險客服領(lǐng)域，企業(yè)面臨著一系列業(yè)務(wù)痛點，傳統(tǒng)客服服務(wù)時間有限，客戶在遇到問題時，往往需要等待人工客服上班才能得到解答，面對大量客戶咨詢和投訴，人工客服服務(wù)效率低下，業(yè)務(wù)高峰期客戶要等待很久，而且由于保險業(yè)務(wù)涉及大量專業(yè)知識和術(shù)語，客服人員專業(yè)水平參差不齊，也會影響到客戶的體驗，進(jìn)而影響企業(yè)的品牌口碑和市場競爭力。
針對行業(yè)存在的痛點，容聯(lián)云提供了基于大模型的智能客服解決方案，其中智能文本機(jī)器人能夠7*24小時不間斷地提供服務(wù)，該機(jī)器人具備強(qiáng)大的語義理解和自然語言處理能力，能夠準(zhǔn)確理解客戶問題給出相應(yīng)回答，并根據(jù)客戶需求提供個性化的服務(wù)方案。
通過引入大模型技術(shù)，容聯(lián)云實現(xiàn)了保單查詢、保全信息變更、線上理賠等一系列業(yè)務(wù)流程的自動化處理。針對保險業(yè)務(wù)對專業(yè)知識要求高的特點，容聯(lián)云構(gòu)建了智能知識庫系統(tǒng)，將大量保險專業(yè)知識和術(shù)語進(jìn)行結(jié)構(gòu)化處理，并通過大模型技術(shù)進(jìn)行語義理解和關(guān)聯(lián)分析，讓客服人員在使用智能知識庫時，可以快速準(zhǔn)確地找到所需知識點，提升專業(yè)水平和服務(wù)質(zhì)量。
據(jù)容聯(lián)云提供的數(shù)據(jù)顯示，智能文本機(jī)器人的首解率從原來的60%提升到了80%，轉(zhuǎn)人工率從84%降低到了55%。而且智能文本機(jī)器人和自動化業(yè)務(wù)流程處理功能減少人工客服的數(shù)量和工作時間，智能知識庫系統(tǒng)也降低了客服人員的培訓(xùn)成本和時間周期，提高了整體運營效率。
在會后的采訪中，容聯(lián)云副總裁孔淼認(rèn)為，大模型賦能金融行業(yè)，是典型的“技術(shù)驅(qū)動”，其表現(xiàn)是，首先影響對客服務(wù)環(huán)節(jié)，進(jìn)而改變客戶體驗。
金融行業(yè)從早期的電子網(wǎng)銀到后來的手機(jī)銀行，再發(fā)展到如今多元化的手機(jī)銀行服務(wù)，這一系列變革背后都是技術(shù)在推動。同樣，智能客服的興起等智能化技術(shù)的應(yīng)用，也是技術(shù)驅(qū)動的產(chǎn)物。
更早之前，全渠道客服的演變——從傳統(tǒng)的呼叫中心到在線客服的加入，同樣見證了技術(shù)（如互聯(lián)網(wǎng)移動化、大數(shù)據(jù)、小模型人工智能，直至現(xiàn)在的大模型人工智能）對行業(yè)的深刻影響。
技術(shù)驅(qū)動不僅帶來了服務(wù)形態(tài)的變化，還吸引了部分客戶嘗試這種新體驗或新技術(shù)，從而為存量市場帶來了增量流量。一些企業(yè)因此嘗到了甜頭，他們的客戶因為新技術(shù)的引入——比如個性化推薦等功能——而獲得了體驗上的提升，進(jìn)而實現(xiàn)了ROI的增長，這使得企業(yè)開始意識到新技術(shù)在新場景下的應(yīng)用潛力。
隨著這些新技術(shù)在應(yīng)用中不斷展現(xiàn)其價值，企業(yè)的需求也隨之發(fā)生變化。逐漸地，這些新的應(yīng)用方式和場景會形成一些新的標(biāo)準(zhǔn)，特別是在特定行業(yè)場景中，這些標(biāo)準(zhǔn)會逐漸演化為企業(yè)軟件的標(biāo)準(zhǔn)配置。
對于大模型如何在企業(yè)中落地，容聯(lián)云也經(jīng)歷市場認(rèn)知上的轉(zhuǎn)變。大模型初現(xiàn)時，業(yè)界普遍預(yù)期其將徹底改變客戶體驗和軟件行業(yè)格局，并傾向于以大模型為核心來解決問題，視其為萬能鑰匙。
然而，大模型雖強(qiáng)大，但也存在諸多局限，如幻覺現(xiàn)象等，需要加以約束，在企業(yè)內(nèi)部應(yīng)用時，還需關(guān)注流程效率、數(shù)據(jù)整合等實際問題，包括公有數(shù)據(jù)與私有數(shù)據(jù)的融合，以及RAG等配套措施的實施。
另外，訓(xùn)練大模型的成本極高，孔淼認(rèn)為，追求大模型的通用人工智能（AGI）固然是一種理論上的可能，但從性價比角度考慮，對企業(yè)來說大小模型結(jié)合是更為可行的方案。
經(jīng)過過去一年和客戶的溝通交流以及業(yè)務(wù)實踐，容聯(lián)云在選擇場景時，關(guān)注商業(yè)化公司的銷售路徑和市場化問題，區(qū)分存量市場和增量市場，確保所選場景具有市場潛力和商業(yè)價值。
“我們對這個事情的認(rèn)知其實是越來越細(xì)，到底哪些短期運營其實是可以產(chǎn)生商業(yè)效益的，就是所謂的能看到ROI的，哪些其實可能只是個‘癢點’，甚至只是一個‘嗨點’。”孔淼說到。
