21世紀經(jīng)濟報道 記者李愿 北京報道

在以ChatGPT等為代表的人工智能大模型應用快速發(fā)展背景下，今年3月，中國農業(yè)銀行在同業(yè)中率先推出類ChatGPT的AI大模型應用ChatABC（中文名：小數(shù)），并在該行科技問答場景進行了內部試點。目前，ChatABC試點情況如何，未來還有哪些規(guī)劃？如何看待大模型對銀行業(yè)數(shù)字化轉型的影響，以及對未來發(fā)展有何展望，《21世紀經(jīng)濟報道》記者近日對中國農業(yè)銀行研發(fā)中心副總經(jīng)理趙煥芳進行了專訪。

趙煥芳對記者表示，大模型的出現(xiàn)會加速銀行數(shù)字化轉型的效率和質量，是各個銀行必須重視的發(fā)展方向。但大模型在金融領域的應用，目前還處于探索試點的初級階段，主要是面臨算力需求大、數(shù)據(jù)要求高、模型定制難、場景深入難、生態(tài)構建難、人才培養(yǎng)難六個方面的挑戰(zhàn)。

“國內金融機構優(yōu)先在智能客服、知識問答、輔助編程、智能辦公等領域開展探索嘗試。”談及具體應用時，趙煥芳告訴記者，ChatABC目前在智能問答、智能客服、輔助編程、智能辦公、智能風控等多個領域同步進行試點，今年下半年還進一步提出“大模型+”的建設理念，規(guī)劃了智能客服、智能研發(fā)、智慧三農等9大領域，30余個場景，逐步培育“大模型+”生態(tài)，賦能數(shù)字化轉型提質增效。

趙煥芳認為，大模型未來可期，為了更好推進大模型在銀行業(yè)的應用，希望行業(yè)一起，能夠構建更大范圍的大模型應用生態(tài)體系，提供大模型快速落地、快速見效的探索實踐案例，加強人才培養(yǎng)和技術交流，共享時代賦予的AI大模型技術發(fā)展紅利。

趙煥芳，受訪者供圖

大模型為銀行業(yè)數(shù)字化轉型提供更強有力支撐

《21世紀》：你怎么看大模型對金融機構尤其是銀行業(yè)業(yè)務的影響，是否會對銀行數(shù)字化轉型邏輯帶來改變？

趙煥芳：大模型讓人工智能走向了通用人工智能，業(yè)界普遍認為點燃了AI革命的“瀏覽器時刻”和 “iPhone時刻”。以ChatGPT（GPT-4）為代表的大模型在邏輯推理、對話、多模態(tài)信息理解與生成等方面，展現(xiàn)了巨大的應用潛力。

大模型極大提升了AI應用的效率。拿武俠做個類比，傳統(tǒng)AI模型像是學會了八卦刀、梯云縱的武林人士，每一門武功都需要專門學習，且學習時間很長。大模型就像學會了九陰真經(jīng)，打通了任督二脈，不管是少林長拳，還是武當太極拳，都能很快學會，而且威力巨大。大模型相對于傳統(tǒng)AI模型，就體現(xiàn)為通用智能的能力更強，適用場景更廣泛，應用效率更高。

大模型之所以能夠具備一定程度的通用智能，來源于大模型特有的兩個特點，一個叫“頓悟”，一個叫“涌現(xiàn)”。“頓悟”是指模型學習了大量的樣本之后，忽然對于未知的樣本有了很好的預測能力，例如：學習了大量的1+1=2，2+2=4的案例后，頓悟了四則運算的規(guī)律，就是所謂的“書讀百遍，其義自見”；“涌現(xiàn)”是指，當模型參數(shù)量大到一定量級之后，出現(xiàn)一個非線性的智能能力的跳變，涌現(xiàn)出非常強的邏輯推理能力和思維能力，就是所謂的“忽如一夜春風來，千樹萬樹梨花開”。

銀行的數(shù)字化轉型的本質是用數(shù)據(jù)+算法的手段，以數(shù)字能力建設為核心，利用數(shù)字技術對業(yè)務流程、服務模式、運營方式等進行數(shù)字化重塑和改造，提高經(jīng)營效率、提升服務水平等。銀行的數(shù)字化轉型，“用數(shù)”是關鍵。而以大模型為代表的人工智能，則是“用數(shù)”的高級階段，應用大模型預計未來會降低“用數(shù)”的門檻、提升“用數(shù)”的效能，數(shù)字技術可以更深入地賦能營銷、風控、運營、決策等銀行業(yè)務，為銀行業(yè)數(shù)字化轉型提供更強有力的支撐。

總結來說，大模型的出現(xiàn)會加速銀行數(shù)字化轉型的效率和質量，是各個銀行必須重視的發(fā)展方向。

《21世紀》：大模型發(fā)展較好的國家，銀行業(yè)在哪些場景上有大模型的應用，這對我國銀行業(yè)有何啟示？

趙煥芳：當前，國內外一些金融機構，都在積極探索大模型。例如：彭博在今年3月30日發(fā)布了BloombergGPT，該模型支持在輿論分析、量化交易、風險控制等多個方面賦能金融企業(yè)，與之類似的還有開源的FinGPT；摩根斯坦利則集成了OpenAI的服務作為財務顧問工具；摩根大通則利用大模型分析電子郵件的潛在風險。

當然，國外金融業(yè)在大模型的應用上也存在截然不同的態(tài)度。諸如美國銀行、花旗銀行、德意志銀行、高盛和富國銀行等，認為大模型存在數(shù)據(jù)安全和隱私保護等方面的問題，因此限制員工和交易過程中使用ChatGPT等服務。

對大模型應用的兩種態(tài)度，一定程度上反映了目前大模型的創(chuàng)新突破和應用局限。如何既發(fā)揮大模型的優(yōu)勢，同時避免帶來安全隱患，給我們的啟示有如下三點：

一是安全為基：金融機構的數(shù)據(jù)是高度敏感，涉及客戶隱私和金融安全，必須在安全可控的環(huán)境下訓練、微調和使用大模型，嚴格按照《生成式人工智能服務管理暫行辦法》等監(jiān)管要求開展相關工作，保持底線思維，穩(wěn)步推進，切實維護國家金融安全和客戶公共利益。

二是可控為要：金融機構使用大模型必須采用私有化部署方式，預訓練的數(shù)據(jù)要確保合法性、合規(guī)性和準確性，避免模型出現(xiàn)價值觀、倫理道德、知識混淆等方面的問題。在通用大模型的基礎上需要進一步微調形成熟悉本領域、本單位的專用大模型，更好地支持行內的場景應用。

三是應用為王：大模型是高投入的領域，面臨算力、數(shù)據(jù)、人才等多方面的挑戰(zhàn)，金融機構要堅持“邊用邊建”的指導思想，找準應用場景的切入口，優(yōu)先在知識檢索、客服輔助、編碼生成等方面積累經(jīng)驗，并逐步向風控、決策、投研等核心業(yè)務領域深入探索，分步驟完成體系建設，積極穩(wěn)妥地持續(xù)釋放業(yè)務價值。

大模型金融領域應用處于探索試點初級階段

《21世紀》：我國?模型如果要將大規(guī)模應用到銀行業(yè)的具體場景上，可能面臨哪些障礙或者短板？

趙煥芳：大模型在金融領域的應用，目前還處于探索試點的初級階段，仍然面臨以下幾個方面的挑戰(zhàn)：

第一，算力需求大。大模型需要大算力，英偉達GPU算力受限。國內頭部廠商的芯片需要加快發(fā)展，尤其是生態(tài)建設要盡快培育。同時算力資源的高效調度、異構融合和提質挖潛，也是突破算力限制的重要方向。

第二，數(shù)據(jù)要求高。大模型訓練依賴有組織的、高質量的數(shù)據(jù)，銀行要建立完整的大數(shù)據(jù)體系，持續(xù)推進數(shù)據(jù)治理和質量提升，進一步完善數(shù)據(jù)清洗、標注工作平臺和流程；要有更完善的數(shù)據(jù)安全、數(shù)據(jù)隱私保護的機制，確保模型訓練、應用的全流程閉環(huán)的管理。

第三，模型定制難。現(xiàn)在通用的大模型多，但是行業(yè)大模型、垂直領域大模型少，真正懂銀行的大模型更是只能自主定制。定制模型投入高、周期長、難度大，需要銀行具備算力、人才等各方面的儲備。訓練和使用中還要解決模型遺忘、模型對齊等難題。

第四，場景深入難。目前大模型的概念很熱，各種應用效果宣傳的也很多，但是要和真實業(yè)務結合，卻往往是“有想法、沒辦法”，歸根結底是大模型存在“幻覺”的局限性。如何揚長避短，把大模型應用到更核心、更嚴謹?shù)臉I(yè)務場景中是擴大應用的重中之重。

第五，生態(tài)構建難。大模型的快速、深入應用依賴于完整的生態(tài)支撐。大模型相關技術快速發(fā)展，很難由一家企業(yè)機構全部包辦。如何構建產學研各界協(xié)同創(chuàng)新的生態(tài)系統(tǒng)是大模型走向產業(yè)深度應用的挑戰(zhàn)。

第六，人才培養(yǎng)難。懂大模型、懂金融、懂數(shù)據(jù)的復合型人才是一將難求。傳統(tǒng)AI人才面對大模型，也在算力資源調度、模型訓練穩(wěn)定性、模型性能調優(yōu)等方面需要補課。尤其是金融機構如何進行大模型人才的培養(yǎng)、如何把AI人才持續(xù)盤活，是亟需解決的難題。

國家網(wǎng)信辦聯(lián)合發(fā)改委、教育部等部門發(fā)布了《生成式人工智能服務管理辦法（征求意見稿）》。該辦法在促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和公民利益方面給出了根本遵循。既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務風險的現(xiàn)實需要。一定程度上采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，同時實行包容審慎和分類分級監(jiān)管。我們也會持續(xù)保持對于法律法規(guī)、監(jiān)管政策的跟蹤和落實，審慎應用，守住數(shù)據(jù)安全和金融安全的底線。

《21世紀》：算?是我國?模型?質量發(fā)展的短板之?，你認為銀?業(yè)可以采取哪些?式來應對，農業(yè)銀?是如何做的？

趙煥芳：算力是阻礙金融行業(yè)大模型發(fā)展的障礙之一。眾所周知，目前先進的GPU芯片受到限制。金融機構要加快布局多元化的AI芯片，共同培育軟硬一體化的生態(tài)體系。有條件的金融機構建議建立全面自主的算力環(huán)境，但是考慮到算力的建設成本高、周期長，需要機房、網(wǎng)絡、供電等配套的同步升級，不具備條件的銀行也可以租用公有云算力快速滿足需求。

面對GPU算力短缺的問題，農業(yè)銀行的策略是“開源節(jié)流”：

開源，穩(wěn)步擴展多元化算力支持能力：布局多元化算力體系，構建云原生的AI算力基礎；聯(lián)合國內頭部AI算力廠商持續(xù)推進大模型與基礎設施的適配，積極推進國內頭部算力芯片試點驗證，同時推動多元化芯片與原有GPU算力集群的異構融合，保持對算力資源的整體高效利用。

節(jié)流，高效利用現(xiàn)有算力資源：主要是對現(xiàn)有算力資源進行挖潛。一方面持續(xù)進行AI框架優(yōu)化，通過應用加速框架、量化壓縮等方法，持續(xù)探索降低訓練側、推理側的算力資源占用。另一方面推進動態(tài)算力調度。結合算力上云與算力編排，實現(xiàn)計算任務的細粒度動態(tài)調度，支持計算資源的動態(tài)均衡分配，提升AI算力的利用效率。

農業(yè)銀行正逐步培育“大模型+”生態(tài)

《21世紀》：目前銀行機構在積極探索大模型在銀行應用場景的落地，主要聚焦在哪些方面，不同類型的銀行有何不同？農業(yè)銀行在哪些領域作了嘗試，效果如何？

趙煥芳：國內金融機構優(yōu)先在智能客服、知識問答、輔助編程、智能辦公等領域開展探索嘗試，一方面是大模型在這些場景上有更好的表現(xiàn)，另一方面是這些場景相對來說對大模型的“幻覺”容忍度更高。

具體應用的時候，金融機構綜合資源投入、技術積累等方面的考量，采用不同的策略。大型銀行更傾向于“深度定制、建用結合”的自建模式，注重大模型能力體系建設，包括算力、AI平臺、模型訓練能力等；會結合自身數(shù)據(jù)優(yōu)勢訓練定制化的大模型，會更加聚焦于自身大模型能力的沉淀，打造平臺化的支撐模式。中小型銀行可能會采取“直接引入、輕量快速”的引用策略，會更關注行業(yè)大模型、通用大模型的直接引入，通過API調用等形式，快速輕量對接場景應用。

農業(yè)銀行始終堅持對前沿技術的敏感和熱情，構建了算力、數(shù)據(jù)、模型、工具和應用五位一體的人工智能創(chuàng)新體系。在今年3月份創(chuàng)新推出大模型小數(shù)（ChatABC），該模型擁有百億級參數(shù)，具備問答、翻譯、編碼等功能。目前在智能問答、智能客服、輔助編程、智能辦公、智能風控等多個領域同步進行試點。其中智能問答場景已提供超過200萬次問答服務；輔助編碼場景支持代碼生成、單測生成、代碼翻譯等功能，已超過8萬行代碼投入生產應用。

今年下半年，我們進一步提出“大模型+”的建設理念，按照模型即服務（MAAS）方式，快速融入業(yè)務場景，規(guī)劃了智能客服、智能研發(fā)、智慧三農等9大領域，30余個場景，逐步培育“大模型+”生態(tài)，賦能數(shù)字化轉型提質增效。

《21世紀》：你對?模型在銀?業(yè)的未來發(fā)展有何展望，同時在各??的政策上有何意見建議？

趙煥芳：隨著大模型在探索中前進，在嘗試中創(chuàng)新，未來以大模型為創(chuàng)新引擎，可能為銀行業(yè)帶來三個新的趨勢：

新生態(tài)。從各自為戰(zhàn)的獨立應用到共享的大模型生態(tài)。當前國產大模型快速迭代升級，行業(yè)應用積極布局，進入了互相促進、相互牽引的良好局面。未來一定會從通用大模型到行業(yè)垂直大模型、企業(yè)私有大模型等多種模型共存，形成產業(yè)化、規(guī)模化應用生態(tài)體系。

新應用。從輔助支持型應用到經(jīng)營決策的核心流程應用。受限于大模型幻覺、數(shù)據(jù)隱私保護等問題，當前大模型主要以輔助支持類為主，例如輔助編程、輔助問答等。未來隨著大模型能力的提升，以及知識圖譜、知識庫等技術能力的加持，大模型會進一步應用到核心業(yè)務流程，如風險防控、智能投研等場景。

新產品。從原有流程優(yōu)化到大模型驅動模式創(chuàng)新。當前大模型的應用多是在現(xiàn)有流程中的嵌入和優(yōu)化，并沒有出現(xiàn)類似ChatGPT的顛覆性金融產品。隨著大模型能力的增強和應用的深入，肯定會發(fā)展出顛覆性的金融產品，大模型驅動的模式創(chuàng)新才是未來競爭最大的變數(shù)。

大模型未來可期，為了更好推進大模型在銀行業(yè)的應用，有如下建議：

一是規(guī)范指引：建議要加快出臺大模型在金融行業(yè)應用的標準規(guī)范，要對大模型在銀行業(yè)的應用給予適當?shù)陌荻龋趫允匕踩拙€的基礎上，適當鼓勵行業(yè)和企業(yè)進行主動創(chuàng)新。

二是協(xié)同創(chuàng)新：希望產學研各界聯(lián)合發(fā)力，面向業(yè)務賦能的最終目標，持續(xù)提升大模型能力。在算力、模型、平臺和人才培養(yǎng)等方面加強經(jīng)驗交流，協(xié)同推進孵化重點場景應用試點。

三是穩(wěn)妥推進：大模型還在快速發(fā)展過程中，其中會有技術、數(shù)據(jù)和法規(guī)各方面的風險和挑戰(zhàn)，尚未形成行業(yè)統(tǒng)一的解決方案。金融業(yè)在應用大模型過程中要堅持安全為第一考量，積極探索，穩(wěn)妥推進，及時與監(jiān)管部門同步相關進展，確保過程安全可控。

希望行業(yè)一起，能夠構建更大范圍的大模型應用生態(tài)體系，提供大模型快速落地、快速見效的探索實踐案例，加強人才培養(yǎng)和技術交流，共享時代賦予的AI大模型技術發(fā)展紅利。