作為人工智能領域頗具里程碑式的進展，ChatGPT以其驚艷的表現(xiàn)，迅速掀起了行業(yè)熱潮，使得大模型成為當下最為炙手可熱的技術方向之一。但在大模型落地過程中，如何既能保障大模型使用方的數(shù)據(jù)安全，又能保護大模型提供方的部署安全？

基于行業(yè)需求，金山云立足自身深耕云賽道十余年所積累的技術和服務優(yōu)勢，推出MaaS（Model as a Service）互信推理專區(qū)方案。作為中國知名的中立云服務商，金山云推出該方案的目的是在大模型廠商、用戶和金山云之間建立互信，以解決模型及數(shù)據(jù)的互信問題。

為了實現(xiàn)“互信”這個目標，金山云在技術思路和架構設計方面兼顧了基礎設施層面（網(wǎng)絡、存儲等）的安全和云原生層面（容器等）的安全。

（金山云MaaS互信推理專區(qū)方案邏輯架構圖）

在金山云MaaS互信推理專區(qū)方案中，模型廠商的互信虛擬網(wǎng)絡(Mutual Trust Virtual Private Cloud,以下簡稱互信VPC)是經過安全加固定制的（如上圖中所示），通過私有連接(Private Link )與用戶業(yè)務區(qū)域連通，經由堡壘機連接模型運維和開發(fā)區(qū)區(qū)域?；ヂ?lián)網(wǎng)相關的EIP、NAT和Peering等功能都會被禁用?；バ臯PC提供了豐富的流量管控手段，可通過私有連接、對等連接、安全組、ACL等功能靈活控制VPC與公網(wǎng)、VPC與VPC、VPC內云產品的流量進出，既保證了網(wǎng)絡的隔離，又能夠按需提供網(wǎng)絡的連通。 

在堡壘機層面，為了保障系統(tǒng)的安全性和合規(guī)性，同時也為了防范數(shù)據(jù)泄漏事件的發(fā)生，金山云在模型開發(fā)和推理區(qū)之間提供了行為與流量審計系統(tǒng)，用以跟蹤和監(jiān)控數(shù)據(jù)的流動，確保所有流量都可以被審計和驗證，可及時檢測和記錄任何非法流量的存在，識別潛在的安全威脅或數(shù)據(jù)泄露風險。

在金山云MaaS互信推理專區(qū)方案中，互信VPC通過私有連接進行點對點的打通，在保障業(yè)務流量安全穩(wěn)定的情況下，還具備一定的靈活性。訪問VPC內服務的流量均在金山云內網(wǎng)轉發(fā)，不經過公網(wǎng)，避免了通過公網(wǎng)訪問服務帶來的潛在安全風險。同時基于金山云內網(wǎng)建設的完備性，可提供大帶寬、低延時的高質量通信服務。

此外，金山云對MaaS互信推理專區(qū)內所有的出入流量進行記錄和行為審計，禁止所有未經審計的流量流出，定期向客戶提供審計報告。專區(qū)內部有文件存儲或對象存儲寫入的需求（如日志服務等），會在VPC內獨立部署一套存儲服務，對外不可讀寫。專區(qū)外可讀寫的對象存儲KS3(Kingsoft Cloud Standard Storage Service)，其控制權收歸于金山云，金山云通過權限控制保證該對象存儲只接收自研存儲網(wǎng)關Nas-J的讀寫請求，除此之外沒有其他任何權限。

云原生層面，出于數(shù)據(jù)安全性考慮，在采用容器服務納管GPU裸金屬服務器實現(xiàn)容器化改造的同時，金山云搭建了基于數(shù)據(jù)層面“Read Only”容器只讀環(huán)境，只將訓練好的模型進行推理運算，并在推理后將結果輸出到應用平臺中呈現(xiàn)給最終用戶。在模型推理期間，容器只讀取推理模型，不會把企業(yè)用戶的敏感數(shù)據(jù)暴露給模型廠商，能夠打消企業(yè)用戶對自身數(shù)據(jù)安全性方面的顧慮。

作為金山云重要的戰(zhàn)略伙伴之一，目前，MiniMax與金山云積極推動大模型生態(tài)建設。為了提供持續(xù)穩(wěn)定的模型能力服務，金山云MaaS互信推理專區(qū)方案已應用于“金山辦公+MiniMax”的實踐場景，保證了用戶數(shù)據(jù)及模型的安全和互信。根據(jù)實際業(yè)務需求，MiniMax將持續(xù)對模型進行Fine-tuning優(yōu)化，構建易用且規(guī)范的API接口和平臺，同時不斷對模型進行升級和優(yōu)化。

（金山辦公-MiniMax實施架構圖）

經過長時間積累，MiniMax是國內少有的同時擁有文本、語音、視覺三模態(tài)融合的通用大模型引擎能力，并打通產品全鏈路的創(chuàng)業(yè)公司。團隊將前沿的人工智能引擎技術，應用于多維度多場景的交互中，并以此進一步加速和賦能模型的進步和迭代。

MiniMax于今年3月推出面向企業(yè)級的大模型解決方案，為企業(yè)和開發(fā)者提供前沿的通用大模型能力，通過人工智能引擎技術底座幫助模型與業(yè)務流程順利融合，保障穩(wěn)定性及安全合規(guī)性。目前已接入數(shù)百家企業(yè)客戶，打通辦公協(xié)作、智能硬件、教育、醫(yī)療、客服等十余個行業(yè)場景?；贛iniMax出色的大模型能力，金山辦公已經與MiniMax開展深度合作，未來會進一步推動大模型在辦公領域的應用和快速落地。

在為金山辦公和MiniMax提供服務的過程中，金山云積累了MaaS服務的經驗。隨著技術迭代升級，該方案后續(xù)將引入大模型多租戶隔離、Finetuning訓練和推理一體化專區(qū)等更多功能和業(yè)務模塊，為越來越多大模型領域的企業(yè)提供服務。