來源:21世紀經濟報道

大模型技術的興起,正在悄然改變銀行智能客服場景。

記者瞭解到,今年以來,越來越多銀行都在積極將大模型技術應用在智能客服場景。

比如工行發佈的人工智能金融行業通用模型,可以支撐智能客服接聽客戶來電,顯著提升對客戶來電訴求和情緒的識別準確率,可更有效地響應客戶需求,且大幅縮減維護成本。

農行推出的金融AI大模型產品,着眼於藉助大模型技術提升智能客服等業務在金融領域的知識理解能力、內容生成能力及安全問答能力。

不久前,江蘇銀行也推出了其大模型平臺場景創新成果——基於基礎對話底座模型升級形成的“智慧小蘇L3”模型,能以“話務工單助理”身份融入到人工電話客服領域,不但提高客服的工單處理效率,還實現更高效、智能的客戶服務體驗。

一位正着手研發大模型+金融智能客服技術的第三方金融科技平臺人士向記者透露,通過廣泛調研,他們發現衆多中小銀行都希望將大模型技術優先應用在智能客服場景,以此實現進一步降本增效的目標。

一家城商行IT部門主管向記者直言,他們銀行高層對大模型技術在智能客服場景的應用,抱有極高的期望值——一是希望它能令銀行減少逾百位人工客服的人力成本,二是希望它能提供更具人性化與精準化的智能客服體驗,提升銀行在用戶心裏的口碑。

記者多方瞭解到,大模型技術要成功融入智能客服場景,並非易事。銀行業是對數據安全、客戶隱私以及決策準確性和專業性要求最高的行業之一,因此銀行特別看重智能客服場景的數據安全性,即大模型在輔助銀行智能客服“數字人”在線知識問答時,是否會出現無法對用戶身份準確識別、引發個人等隱私信息泄露等風險。

與此同時,在不斷強化智能客服大模型反饋訓練、提升智能客服的文本生成、言語理解、知識問答、邏輯推理等多方面能力同時,銀行如何解決大模型算力需求大、訓練與推理成本高等問題,同樣是一大挑戰。

復旦大學金融科技研究院院長柴洪峯認爲,金融數據和垂直領域大模型密切相關,存在數據安全、大模型安全可信和倫理等問題,同時金融領域也涉及個人等敏感信息保護,因此相關部門在致力於推進大模型與銀行智能客服場景融合同時,對金融大模型的有效監管同樣必不可少。

給銀行客服數字人裝“大腦”成效幾何

隨着銀行持續佈局智能客服業務,智能客服數字人應運而生。

目前,衆多銀行都推出自己的智能客服“數字人”,廣泛應用在移動端APP、對公業務、財富管理等零售業務等衆多場景。

但是,當前不少銀行的智能客服數字人的智能化程度不夠高,比如面對客戶提出的複雜問題就難以回答或答非所問,或不能準確理解用戶提問上下文內容並給出正確的答案。

究其原因,傳統的銀行智能客服數字人仍存在知識庫問題匹配不精確、提問語義理解不足、不具備上下文理解與答案抽取能力等三大痛點。尤其是基於RNN(循環神經網絡)的智能客服模型不能充分理解客戶提問,精準定位關鍵知識點能力不足,多依賴於單個知識庫條目形成回覆,且回覆多爲知識庫中原文,無上下文理解能力,導致客戶對話體驗不佳。

在這種情況下,越來越多銀行寄希望大模型技術能爲銀行智能客服數字人裝載“大腦”。

這背後,一是AI大模型在內容生成和語義理解方面有着卓越的表現,與智能客服行業有着較高的契合度。二是AI大模型還能在某種程度進一步提升智能客服的智能化程度。

比如AI大模型通過訓練海量數據,並對海量文本數據進行AI深入學習,令其語言理解能力得到持續提高,擁有處理更復雜信息的能力。於是基於AI大模型加持的智能客服,就能更加精準地理解客戶提問的上下文內容,快速準確識別用戶意圖,進而提供更可靠的客服。

記者獲悉,目前多家銀行在大模型與智能客服場景融合方面取得一定的進展。比如江蘇銀行的“智慧小蘇L3”模型通過智能語音識別技術將人工電話客服錄音自動轉換爲文本形式,並輸送到大語言模型平臺加工處理,就能自動摘要提取客戶需求,快速輸出工單信息,形成記錄、分析和查證的全流程自動化,令單筆工單處理時間縮減近60%,實現了更高效、智能的客戶服務體驗。

上述城商行IT部門主管向記者直言,若大模型技術成功應用在智能客服場景,就能大幅減少人工客服的人力成本支出,實現更好的降本增效目標

“當前我們的智能客服數字人只能解決約30%用戶的提問,其餘70%用戶的提問,仍需銀行轉入人工客服環節解決。但我們調研發現,大部分需人工客服解答的問題,主要集中在業務辦理、業務答疑、業務流程催促等領域,若大模型技術能令智能客服數字人精確理解用戶這些提問內容與提問意圖並給予精準回覆,未來可能只有10%的用戶提問需轉入人工客服解決,如此銀行將省下大筆人工客服成本開支。”他告訴記者。目前銀行正引入第三方金融科技平臺的大模型技術,嘗試對智能客戶數字人“大腦”進行優化,從而令後者能精準識別更多用戶的提問並給予相應的服務。

這位城商行IT部門主管強調,儘管大模型技術對銀行智能客服體驗有着明顯促進作用,但他們仍然先確保大模型技術“可靠穩健”,才考慮將它真正應用在智能客服場景。

“現階段大模型技術仍面臨算力需求大、訓練和推理成本高、金融數據質量有待改善、數據隱私安全與生成話術合規性等挑戰,大模型與銀行智能客服場景的融合絕非一帆順風。”他坦言。

大模型+銀行智能客服的多重挑戰

記者多方瞭解到,儘管大模型技術在銀行智能客服場景的應用已取得一定進展,但多家銀行仍直言大模型在智能客服場景的全面落地仍面臨諸多挑戰。

首先,大模型技術生成的部分內容質量仍不夠穩定,無法滿足用戶的實際需求。這背後,是銀行智能客服不但要針對客戶提問給出準確的回答,而且回答內容需完全符合金融監管要求,不能出現誤導客戶或使用違規詞彙等狀況。因此,銀行特別看重用於大模型技術訓練的數據質量與數量,力爭從源頭避免一些錯誤話術被納入大模型訓練範疇,但要做好這項工作,需銀行對海量數據先進行合規方面的AI覈查,工作量不小。

其次,由於銀行智能客服覆蓋的內容範圍廣泛,且信息迭代速度極高,需要AI大模型持續進行與時俱進的優化。這意味着大模型需要更多的訓練數據以提升其理解客戶提問意圖內容的精確度,但這需要銀行持續投入更高的AI大模型訓練成本,但衆多中小銀行未必能承受持續的高昂資金投入。

第三,大模型在銀行智能客服場景應用環節,能否有效解決科技倫理風險等問題,也是一大挑戰。

工行CTO呂仲濤曾表示,通過工行的前期實踐,大模型在文本、圖像等領域的AIGC能力優勢明顯,但它仍存在科技倫理風險等問題。

記者獲悉,在這種情況下,不少銀行放緩了大模型+智能客服的落地步伐,轉而優先面向金融文本、金融圖像分析理解創作的智力密集型場景,以人機協同方式提升業務人員工作質效。

前述第三方金融科技平臺人士指出,爲了加快大模型+智能客服的落地應用,也有部分中小銀行紛紛自行加大微調技術的研發,令大模型具備更強大的語義理解能力、更精準的知識庫匹配能力與更靈活的上下文理解能力和知識抽取能力,令銀行智能客服數字人與客戶開展多輪對話過程,能根據問答記錄更精準地識別用戶提問意圖,並生成相匹配且話術合規的回答內容。

“儘管中小銀行對大模型+智能客服儘早落地的期盼相當迫切,但我們仍需先進行反覆訓練,先確保大模型自動生成的內容萬無一失,才能將大模型+智能客服技術輸出。”他強調說。這背後,還需銀行與第三方金融科技平臺的密切合作,比如銀行需提供以往客戶向智能客服數字人提出的各類問題,才能令大模型的訓練“有的放矢”,進一步提升大模型在銀行智能客服場景的應用成效。

相關文章