21世紀經濟報道 記者李愿 北京報道
在以ChatGPT等為代表的人工智能大模型應用快速發展背景下,今年3月,中國農業銀行在同業中率先推出類ChatGPT的AI大模型應用ChatABC(中文名:小數),并在該行科技問答場景進行了內部試點。目前,ChatABC試點情況如何,未來還有哪些規劃?如何看待大模型對銀行業數字化轉型的影響,以及對未來發展有何展望,《21世紀經濟報道》記者近日對中國農業銀行研發中心副總經理趙煥芳進行了專訪。
趙煥芳對記者表示,大模型的出現會加速銀行數字化轉型的效率和質量,是各個銀行必須重視的發展方向。但大模型在金融領域的應用,目前還處于探索試點的初級階段,主要是面臨算力需求大、數據要求高、模型定制難、場景深入難、生態構建難、人才培養難六個方面的挑戰。
“國內金融機構優先在智能客服、知識問答、輔助編程、智能辦公等領域開展探索嘗試。”談及具體應用時,趙煥芳告訴記者,ChatABC目前在智能問答、智能客服、輔助編程、智能辦公、智能風控等多個領域同步進行試點,今年下半年還進一步提出“大模型+”的建設理念,規劃了智能客服、智能研發、智慧三農等9大領域,30余個場景,逐步培育“大模型+”生態,賦能數字化轉型提質增效。
趙煥芳認為,大模型未來可期,為了更好推進大模型在銀行業的應用,希望行業一起,能夠構建更大范圍的大模型應用生態體系,提供大模型快速落地、快速見效的探索實踐案例,加強人才培養和技術交流,共享時代賦予的AI大模型技術發展紅利。
趙煥芳,受訪者供圖
大模型為銀行業數字化轉型提供更強有力支撐
《21世紀》:你怎么看大模型對金融機構尤其是銀行業業務的影響,是否會對銀行數字化轉型邏輯帶來改變?
趙煥芳:大模型讓人工智能走向了通用人工智能,業界普遍認為點燃了AI革命的“瀏覽器時刻”和 “iPhone時刻”。以ChatGPT(GPT-4)為代表的大模型在邏輯推理、對話、多模態信息理解與生成等方面,展現了巨大的應用潛力。
大模型極大提升了AI應用的效率。拿武俠做個類比,傳統AI模型像是學會了八卦刀、梯云縱的武林人士,每一門武功都需要專門學習,且學習時間很長。大模型就像學會了九陰真經,打通了任督二脈,不管是少林長拳,還是武當太極拳,都能很快學會,而且威力巨大。大模型相對于傳統AI模型,就體現為通用智能的能力更強,適用場景更廣泛,應用效率更高。
大模型之所以能夠具備一定程度的通用智能,來源于大模型特有的兩個特點,一個叫“頓悟”,一個叫“涌現”?!邦D悟”是指模型學習了大量的樣本之后,忽然對于未知的樣本有了很好的預測能力,例如:學習了大量的1+1=2,2+2=4的案例后,頓悟了四則運算的規律,就是所謂的“書讀百遍,其義自見”;“涌現”是指,當模型參數量大到一定量級之后,出現一個非線性的智能能力的跳變,涌現出非常強的邏輯推理能力和思維能力,就是所謂的“忽如一夜春風來,千樹萬樹梨花開”。
銀行的數字化轉型的本質是用數據+算法的手段,以數字能力建設為核心,利用數字技術對業務流程、服務模式、運營方式等進行數字化重塑和改造,提高經營效率、提升服務水平等。銀行的數字化轉型,“用數”是關鍵。而以大模型為代表的人工智能,則是“用數”的高級階段,應用大模型預計未來會降低“用數”的門檻、提升“用數”的效能,數字技術可以更深入地賦能營銷、風控、運營、決策等銀行業務,為銀行業數字化轉型提供更強有力的支撐。
總結來說,大模型的出現會加速銀行數字化轉型的效率和質量,是各個銀行必須重視的發展方向。
《21世紀》:大模型發展較好的國家,銀行業在哪些場景上有大模型的應用,這對我國銀行業有何啟示?
趙煥芳:當前,國內外一些金融機構,都在積極探索大模型。例如:彭博在今年3月30日發布了BloombergGPT,該模型支持在輿論分析、量化交易、風險控制等多個方面賦能金融企業,與之類似的還有開源的FinGPT;摩根斯坦利則集成了OpenAI的服務作為財務顧問工具;摩根大通則利用大模型分析電子郵件的潛在風險。
當然,國外金融業在大模型的應用上也存在截然不同的態度。諸如美國銀行、花旗銀行、德意志銀行、高盛和富國銀行等,認為大模型存在數據安全和隱私保護等方面的問題,因此限制員工和交易過程中使用ChatGPT等服務。
對大模型應用的兩種態度,一定程度上反映了目前大模型的創新突破和應用局限。如何既發揮大模型的優勢,同時避免帶來安全隱患,給我們的啟示有如下三點:
一是安全為基:金融機構的數據是高度敏感,涉及客戶隱私和金融安全,必須在安全可控的環境下訓練、微調和使用大模型,嚴格按照《生成式人工智能服務管理暫行辦法》等監管要求開展相關工作,保持底線思維,穩步推進,切實維護國家金融安全和客戶公共利益。
二是可控為要:金融機構使用大模型必須采用私有化部署方式,預訓練的數據要確保合法性、合規性和準確性,避免模型出現價值觀、倫理道德、知識混淆等方面的問題。在通用大模型的基礎上需要進一步微調形成熟悉本領域、本單位的專用大模型,更好地支持行內的場景應用。
三是應用為王:大模型是高投入的領域,面臨算力、數據、人才等多方面的挑戰,金融機構要堅持“邊用邊建”的指導思想,找準應用場景的切入口,優先在知識檢索、客服輔助、編碼生成等方面積累經驗,并逐步向風控、決策、投研等核心業務領域深入探索,分步驟完成體系建設,積極穩妥地持續釋放業務價值。
大模型金融領域應用處于探索試點初級階段
《21世紀》:我國?模型如果要將大規模應用到銀行業的具體場景上,可能面臨哪些障礙或者短板?
趙煥芳:大模型在金融領域的應用,目前還處于探索試點的初級階段,仍然面臨以下幾個方面的挑戰:
第一,算力需求大。大模型需要大算力,英偉達GPU算力受限。國內頭部廠商的芯片需要加快發展,尤其是生態建設要盡快培育。同時算力資源的高效調度、異構融合和提質挖潛,也是突破算力限制的重要方向。
第二,數據要求高。大模型訓練依賴有組織的、高質量的數據,銀行要建立完整的大數據體系,持續推進數據治理和質量提升,進一步完善數據清洗、標注工作平臺和流程;要有更完善的數據安全、數據隱私保護的機制,確保模型訓練、應用的全流程閉環的管理。
第三,模型定制難?,F在通用的大模型多,但是行業大模型、垂直領域大模型少,真正懂銀行的大模型更是只能自主定制。定制模型投入高、周期長、難度大,需要銀行具備算力、人才等各方面的儲備。訓練和使用中還要解決模型遺忘、模型對齊等難題。
第四,場景深入難。目前大模型的概念很熱,各種應用效果宣傳的也很多,但是要和真實業務結合,卻往往是“有想法、沒辦法”,歸根結底是大模型存在“幻覺”的局限性。如何揚長避短,把大模型應用到更核心、更嚴謹的業務場景中是擴大應用的重中之重。
第五,生態構建難。大模型的快速、深入應用依賴于完整的生態支撐。大模型相關技術快速發展,很難由一家企業機構全部包辦。如何構建產學研各界協同創新的生態系統是大模型走向產業深度應用的挑戰。
第六,人才培養難。懂大模型、懂金融、懂數據的復合型人才是一將難求。傳統AI人才面對大模型,也在算力資源調度、模型訓練穩定性、模型性能調優等方面需要補課。尤其是金融機構如何進行大模型人才的培養、如何把AI人才持續盤活,是亟需解決的難題。
國家網信辦聯合發改委、教育部等部門發布了《生成式人工智能服務管理辦法(征求意見稿)》。該辦法在促進生成式人工智能健康發展和規范應用,維護國家安全和公民利益方面給出了根本遵循。既是促進生成式人工智能健康發展的重要要求,也是防范生成式人工智能服務風險的現實需要。一定程度上采取有效措施鼓勵生成式人工智能創新發展,同時實行包容審慎和分類分級監管。我們也會持續保持對于法律法規、監管政策的跟蹤和落實,審慎應用,守住數據安全和金融安全的底線。
《21世紀》:算?是我國?模型?質量發展的短板之?,你認為銀?業可以采取哪些?式來應對,農業銀?是如何做的?
趙煥芳:算力是阻礙金融行業大模型發展的障礙之一。眾所周知,目前先進的GPU芯片受到限制。金融機構要加快布局多元化的AI芯片,共同培育軟硬一體化的生態體系。有條件的金融機構建議建立全面自主的算力環境,但是考慮到算力的建設成本高、周期長,需要機房、網絡、供電等配套的同步升級,不具備條件的銀行也可以租用公有云算力快速滿足需求。
面對GPU算力短缺的問題,農業銀行的策略是“開源節流”:
開源,穩步擴展多元化算力支持能力:布局多元化算力體系,構建云原生的AI算力基礎;聯合國內頭部AI算力廠商持續推進大模型與基礎設施的適配,積極推進國內頭部算力芯片試點驗證,同時推動多元化芯片與原有GPU算力集群的異構融合,保持對算力資源的整體高效利用。
節流,高效利用現有算力資源:主要是對現有算力資源進行挖潛。一方面持續進行AI框架優化,通過應用加速框架、量化壓縮等方法,持續探索降低訓練側、推理側的算力資源占用。另一方面推進動態算力調度。結合算力上云與算力編排,實現計算任務的細粒度動態調度,支持計算資源的動態均衡分配,提升AI算力的利用效率。
農業銀行正逐步培育“大模型+”生態
《21世紀》:目前銀行機構在積極探索大模型在銀行應用場景的落地,主要聚焦在哪些方面,不同類型的銀行有何不同?農業銀行在哪些領域作了嘗試,效果如何?
趙煥芳:國內金融機構優先在智能客服、知識問答、輔助編程、智能辦公等領域開展探索嘗試,一方面是大模型在這些場景上有更好的表現,另一方面是這些場景相對來說對大模型的“幻覺”容忍度更高。
具體應用的時候,金融機構綜合資源投入、技術積累等方面的考量,采用不同的策略。大型銀行更傾向于“深度定制、建用結合”的自建模式,注重大模型能力體系建設,包括算力、AI平臺、模型訓練能力等;會結合自身數據優勢訓練定制化的大模型,會更加聚焦于自身大模型能力的沉淀,打造平臺化的支撐模式。中小型銀行可能會采取“直接引入、輕量快速”的引用策略,會更關注行業大模型、通用大模型的直接引入,通過API調用等形式,快速輕量對接場景應用。
農業銀行始終堅持對前沿技術的敏感和熱情,構建了算力、數據、模型、工具和應用五位一體的人工智能創新體系。在今年3月份創新推出大模型小數(ChatABC),該模型擁有百億級參數,具備問答、翻譯、編碼等功能。目前在智能問答、智能客服、輔助編程、智能辦公、智能風控等多個領域同步進行試點。其中智能問答場景已提供超過200萬次問答服務;輔助編碼場景支持代碼生成、單測生成、代碼翻譯等功能,已超過8萬行代碼投入生產應用。
今年下半年,我們進一步提出“大模型+”的建設理念,按照模型即服務(MAAS)方式,快速融入業務場景,規劃了智能客服、智能研發、智慧三農等9大領域,30余個場景,逐步培育“大模型+”生態,賦能數字化轉型提質增效。
《21世紀》:你對?模型在銀?業的未來發展有何展望,同時在各??的政策上有何意見建議?
趙煥芳:隨著大模型在探索中前進,在嘗試中創新,未來以大模型為創新引擎,可能為銀行業帶來三個新的趨勢:
新生態。從各自為戰的獨立應用到共享的大模型生態。當前國產大模型快速迭代升級,行業應用積極布局,進入了互相促進、相互牽引的良好局面。未來一定會從通用大模型到行業垂直大模型、企業私有大模型等多種模型共存,形成產業化、規?;瘧蒙鷳B體系。
新應用。從輔助支持型應用到經營決策的核心流程應用。受限于大模型幻覺、數據隱私保護等問題,當前大模型主要以輔助支持類為主,例如輔助編程、輔助問答等。未來隨著大模型能力的提升,以及知識圖譜、知識庫等技術能力的加持,大模型會進一步應用到核心業務流程,如風險防控、智能投研等場景。
新產品。從原有流程優化到大模型驅動模式創新。當前大模型的應用多是在現有流程中的嵌入和優化,并沒有出現類似ChatGPT的顛覆性金融產品。隨著大模型能力的增強和應用的深入,肯定會發展出顛覆性的金融產品,大模型驅動的模式創新才是未來競爭最大的變數。
大模型未來可期,為了更好推進大模型在銀行業的應用,有如下建議:
一是規范指引:建議要加快出臺大模型在金融行業應用的標準規范,要對大模型在銀行業的應用給予適當的包容度,在堅守安全底線的基礎上,適當鼓勵行業和企業進行主動創新。
二是協同創新:希望產學研各界聯合發力,面向業務賦能的最終目標,持續提升大模型能力。在算力、模型、平臺和人才培養等方面加強經驗交流,協同推進孵化重點場景應用試點。
三是穩妥推進:大模型還在快速發展過程中,其中會有技術、數據和法規各方面的風險和挑戰,尚未形成行業統一的解決方案。金融業在應用大模型過程中要堅持安全為第一考量,積極探索,穩妥推進,及時與監管部門同步相關進展,確保過程安全可控。
希望行業一起,能夠構建更大范圍的大模型應用生態體系,提供大模型快速落地、快速見效的探索實踐案例,加強人才培養和技術交流,共享時代賦予的AI大模型技術發展紅利。