由《經濟觀察報》、經觀傳媒共同舉辦的“周期新變量 科技新格局”2024數字創(chuàng)新峰會于北京舉行。特別邀請金山云助理總裁、AI產品研發(fā)中心負責人徐寅斐在峰會上發(fā)表了《金山云瀚海、輕舟助力行業(yè)AI落地新范式》主旨演講。
徐寅斐認為,未來是AI服務千行百業(yè)的時代。金山云將繼續(xù)在人工智能和企業(yè)服務市場持續(xù)投入,行穩(wěn)致遠,致力于成為客戶最信賴的云伙伴。

以下為演講實錄:
這一次大模型帶來的是前所未有的能力升級,我們也堅信這是企業(yè)智能化升級的關鍵里程碑。當然,這個過程不會太快。模型有哪些能力?我們如何使用模型?如何更方便地集成到現(xiàn)有的系統(tǒng)中?這些都是需要解決的問題。因此,金山云發(fā)布了以行業(yè)大模型為中心的全棧能力,包括最核心的金山云輕舟行業(yè)大模型,以及構建企業(yè)級應用的各種AI原子能力。這些能力都會被集成到金山云瀚海平臺中,方便企業(yè)用戶更快地完成應用構建,幫助企業(yè)快速實現(xiàn)AI轉型。接下來,我將從模型、平臺和應用三個方面分別介紹。
首先,大模型是本次人工智能浪潮的核心,金山云致力于研發(fā)全棧的行業(yè)模型能力,從最基礎的金山云輕舟基座模型,到領域模型的訓練和定制能力,再到具體的行業(yè)模型訓練,金山云都在持續(xù)投入。在法務、金融和政務等重點行業(yè),金山云推出了對應的行業(yè)模型。在基座模型方面,我們擁有完全自研的金山云輕舟基座模型,在通用能力評測上緊隨國內開源模型的第一梯隊水平,并實現(xiàn)了多個規(guī)模的模型覆蓋,為企業(yè)客戶提供多樣化的選擇。
在行業(yè)模型方面,我們在法律、政務、金融等重點行業(yè)方向提供了業(yè)界領先的行業(yè)模型能力。例如,在法律領域,我們積累了數百億高質量法律預訓練語料和百萬級法律領域的SFT指令。結合基座模型的通用語料和訓練方法,我們的法律模型能力已達到行業(yè)頭部水平。從行業(yè)基準評測數據來看,我們的法律模型相比GPT-4以及目前國內最好的商業(yè)法律模型都具有明顯優(yōu)勢。
當然,一個好的模型并不直接等于一個好的應用。我們需要一個更好的范式,將模型能力轉換為客戶需要的各種應用能力,并將它們組織起來提供良好的定制能力。因此,我們發(fā)布了金山云瀚海平臺。這個平臺提供了兩個層面的能力:第一層是模型平臺,提供模型的微調、評測、推理以及數據加工的閉環(huán);第二層是應用平臺,整合編排所有原子應用能力,幫助客戶輕松構建自己專屬的應用。
從功能上來說,應用平臺為大模型應用構建提供了全流程的工具鏈。通過畫布功能,我們可以把平臺支持的各種能力以多種方式組織起來,形成比單純模型對話更復雜的應用邏輯。其中可調用的能力都是應用平臺上已經封裝好的,例如知識庫、大語言模型、自研的輕舟系列模型、傳統(tǒng)模型和多模態(tài)模型等。
除了編排功能和模型能力之外,應用平臺的核心優(yōu)勢在于業(yè)界領先的RIG(Retrieval, Integration, Generation)能力。我們在兩個核心方向上有重點投入:首先是文檔智能,即用戶上傳文檔和知識庫后,我們能否100%理解這些文檔。金山云瀚海應用平臺的文檔智能提供了從全格式識別到元素提取、版面識別到內容理解的全方位文檔理解能力,確保知識內容被100%解析和識別并入庫。
第二個核心能力是智能檢索。金山云瀚海平臺的智能檢索提供了多路、多階段遞進式的檢索召回能力,進一步提升檢索的準確性,為企業(yè)級知識應用的嚴肅性和高準確性需求提供了強有力的保障。
除了應用平臺,金山云還提供了更加完整的場景級企業(yè)應用能力。目前,知識類應用是大模型最擅長且企業(yè)普遍需求的場景。金山生態(tài)企業(yè)一直以辦公領域見長,因此在應用層能力上,我們圍繞一站式企業(yè)辦公場景打磨能力,提供了問、搜、審、寫四大主要場景應用能力。
首先是“問”,即基于知識庫的大模型問答能力。金山云內部第一個落地場景是售后場景,目標不是替換售后人員,而是作為售后員工的“副駕駛”。通過售后輔助,我們可以將一線售后問題的透傳率大大降低,提升售后服務的滿意度和時效性。
在“搜”這個場景中,我們在法律和政務領域上線了專業(yè)的搜索問答引擎,如金山云輕舟曉法,支持客戶多樣化的、私有的知識庫接入,并預置了最權威、時效性最強的政務和法律功能庫。結合金山云法律和政務行業(yè)大模型,我們能夠保證用戶檢索到最符合要求的資料。
第三個是“審”,即審核能力。在法律、政務、金融、企業(yè)等場景中,審核是普遍存在的剛性需求。金山云與合作伙伴聯(lián)合推出了合同審核產品,結合了傳統(tǒng)規(guī)則和審查清單的審核能力,以及基于大模型的智能定位分析優(yōu)化能力,大幅提升審核場景下的用戶體驗和效率。
最后是“寫”,即內容生成能力。內容生成是大模型誕生以來最普遍的落地形式,但真正為客戶提效的產品卻很少。在法律、政務等多個場景中,我們聯(lián)合生態(tài)伙伴提供了業(yè)界領先的文書寫作輔助能力,幫助企業(yè)客戶真正實現(xiàn)辦公提效。
基于以上模型、平臺和應用能力,我們在政務、法律、金融等多個行業(yè)實現(xiàn)了應用落地。例如,在政務場景中,結合金山云多年的政務耕耘經驗和生態(tài)伙伴的協(xié)作辦公能力,通過問、搜、審、寫四大核心應用能力,賦能珠海政務辦公AI提效,打造政企行業(yè)AI辦公的新生產力。在某大型車企的內部提效場景中,通過金山云瀚海應用平臺提供的應用編排、知識庫和RAG能力,金山云在短時間內實現(xiàn)了客戶內部知識庫系統(tǒng)的智能化,將內部知識獲取的平均時間從十數分鐘降低到幾分鐘,檢索準確率提升40%以上,大幅優(yōu)化了客戶內部知識流轉的效率。
在金融場景中,金山云通過金山云瀚海應用平臺和金山云輕舟金融行業(yè)模型,為某國有大行的制式報告生成場景提供了AI自研語言交互模型生成、內容溯源核對,賦能銀行對公信貸業(yè)務的提質提效。
以上就是金山云AI在企業(yè)服務場景中提供的全棧產品能力。我們相信,未來是AI服務千行百業(yè)的時代。金山云將繼續(xù)在人工智能和企業(yè)服務市場持續(xù)投入,行穩(wěn)致遠,致力于成為客戶最信賴的云伙伴。