【天極網(wǎng)IT新聞頻道】隨著AI應(yīng)用領(lǐng)域快速擴(kuò)展,如何在公有云上搭建更加高效的架構(gòu),加速AI運(yùn)算過程,成為諸多AI企業(yè)亟需解決的難題。近日,金山云宣布新一代云物理機(jī)CMLU1正式商用,作為傾力打造的全新一代核心計(jì)算產(chǎn)品,CMLU1搭載了國內(nèi)首款云端人工智能芯片——寒武紀(jì)MLU100,專注于為云端AI推理提供強(qiáng)悍的運(yùn)算能力支撐,在性能和能效方面實(shí)現(xiàn)了大幅度提升,能廣泛適用于語音、圖像、視頻等AI應(yīng)用場景。

更強(qiáng)計(jì)算力專注云端AI推理場景
此次金山云新一代云物理機(jī)搭載的MLU100云端智能芯片,作為面向人工智能大規(guī)模數(shù)據(jù)中心的核心芯片,具備能效高、運(yùn)算能力強(qiáng)等諸多優(yōu)勢,同時MLU100支持浮點(diǎn)運(yùn)算和整數(shù)運(yùn)算,F(xiàn)P16達(dá)到16 TFLOPS,INT8達(dá)到32 TOPS,適用于不同精度需求的推理場景。
在存儲方面,MLU100支持最大16GB的存儲(類似GPU的顯存),提供ECC保護(hù),極大提升整體存儲的性能。同時MLU100支持稀疏化,將稀疏化技術(shù)應(yīng)用于智能芯片中,通過稀疏化處理,可進(jìn)一步提高性能。在能效方面,MLU100采用了針對深度學(xué)習(xí)和人工智能應(yīng)用特點(diǎn)定制的指令集和處理器架構(gòu),具有更高的能效比。
基于金山云對服務(wù)器軟硬件的深度優(yōu)化,新一代云物理機(jī)可廣泛支持各類深度學(xué)習(xí)技術(shù)和多模態(tài)智能處理,能夠完美滿足視覺、語音、自然語言處理、經(jīng)典數(shù)據(jù)挖掘等領(lǐng)域在復(fù)雜場景下的云端智能處理需求,如海量數(shù)據(jù)、多任務(wù)、多模態(tài)、低延時、高通量等。
創(chuàng)新優(yōu)化技術(shù)全面提升AI開發(fā)效率
隨著云計(jì)算的快速發(fā)展,基于云端的大數(shù)據(jù)和人工智能技術(shù),正在被越來越多的企業(yè)所采用,如針對圖片識別、人臉識別等AI應(yīng)用很多已經(jīng)選擇部署在公有云上,但因?yàn)槿狈υ贫思軜?gòu)的深度優(yōu)化協(xié)同,導(dǎo)致TensorFlow、Caffe、MxNet等主流深度學(xué)習(xí)框在運(yùn)行時效率并不高,金山云與寒武紀(jì)基于創(chuàng)新的優(yōu)化技術(shù),通過完善軟件開發(fā)環(huán)境和開發(fā)工具,全面提升AI開發(fā)效率。
在軟件開發(fā)環(huán)境方面,寒武紀(jì)針對MLU100提供了完善的開發(fā)環(huán)境Cambricon NeuWare,使得MLU100能夠完美支持如TensorFlow、Caffe、Caffe2、MXNet、ONNX等主流編程框架,用戶可面向上述編程框架,便捷地開發(fā)和部署深度學(xué)習(xí)應(yīng)用。
在開發(fā)工具方面,寒武紀(jì)提供了三類:應(yīng)用開發(fā)類、功能調(diào)試類、性能調(diào)優(yōu)類。如應(yīng)用開發(fā)類工具中,包括機(jī)器學(xué)習(xí)庫、運(yùn)行時庫、編譯器、模型重訓(xùn)練工具和特定領(lǐng)域(如視頻分析領(lǐng)域)SDK等,能夠有效幫助用戶提升深度學(xué)習(xí)開發(fā)效率。
作為中國領(lǐng)先的云計(jì)算服務(wù)提供商,金山云始終致力于通過最前沿的技術(shù)、最高效的產(chǎn)品為客戶提供更加安全、穩(wěn)定、便捷的云服務(wù)。目前搭載寒武紀(jì)MLU100的新一代云物理機(jī)已開放商用,基于該實(shí)例高可靠和高性能的產(chǎn)品特性,讓用戶能夠更加快速、高效地構(gòu)建AI業(yè)務(wù),為業(yè)務(wù)發(fā)展加速。
隨著AI應(yīng)用領(lǐng)域快速擴(kuò)展,如何在公有云上搭建更加高效的架構(gòu),加速AI運(yùn)算過程,成為諸多AI企業(yè)亟需解決的難題。近日,金山云宣布新一代云物理機(jī)CMLU1正式商用,作為傾力打造的全新一代核心計(jì)算產(chǎn)品,CMLU1搭載了國內(nèi)首款云端人工智能芯片——寒武紀(jì)MLU100,專注于為云端AI推理提供強(qiáng)悍的運(yùn)算能力支撐,在性能和能效方面實(shí)現(xiàn)了大幅度提升,能廣泛適用于語音、圖像、視頻等AI應(yīng)用場景。
更強(qiáng)計(jì)算力專注云端AI推理場景
此次金山云新一代云物理機(jī)搭載的MLU100云端智能芯片,作為面向人工智能大規(guī)模數(shù)據(jù)中心的核心芯片,具備能效高、運(yùn)算能力強(qiáng)等諸多優(yōu)勢,同時MLU100支持浮點(diǎn)運(yùn)算和整數(shù)運(yùn)算,F(xiàn)P16達(dá)到16 TFLOPS,INT8達(dá)到32 TOPS,適用于不同精度需求的推理場景。
在存儲方面,MLU100支持最大16GB的存儲(類似GPU的顯存),提供ECC保護(hù),極大提升整體存儲的性能。同時MLU100支持稀疏化,將稀疏化技術(shù)應(yīng)用于智能芯片中,通過稀疏化處理,可進(jìn)一步提高性能。在能效方面,MLU100采用了針對深度學(xué)習(xí)和人工智能應(yīng)用特點(diǎn)定制的指令集和處理器架構(gòu),具有更高的能效比。
基于金山云對服務(wù)器軟硬件的深度優(yōu)化,新一代云物理機(jī)可廣泛支持各類深度學(xué)習(xí)技術(shù)和多模態(tài)智能處理,能夠完美滿足視覺、語音、自然語言處理、經(jīng)典數(shù)據(jù)挖掘等領(lǐng)域在復(fù)雜場景下的云端智能處理需求,如海量數(shù)據(jù)、多任務(wù)、多模態(tài)、低延時、高通量等。
創(chuàng)新優(yōu)化技術(shù)全面提升AI開發(fā)效率
隨著云計(jì)算的快速發(fā)展,基于云端的大數(shù)據(jù)和人工智能技術(shù),正在被越來越多的企業(yè)所采用,如針對圖片識別、人臉識別等AI應(yīng)用很多已經(jīng)選擇部署在公有云上,但因?yàn)槿狈υ贫思軜?gòu)的深度優(yōu)化協(xié)同,導(dǎo)致TensorFlow、Caffe、MxNet等主流深度學(xué)習(xí)框在運(yùn)行時效率并不高,金山云與寒武紀(jì)基于創(chuàng)新的優(yōu)化技術(shù),通過完善軟件開發(fā)環(huán)境和開發(fā)工具,全面提升AI開發(fā)效率。
在軟件開發(fā)環(huán)境方面,寒武紀(jì)針對MLU100提供了完善的開發(fā)環(huán)境Cambricon NeuWare,使得MLU100能夠完美支持如TensorFlow、Caffe、Caffe2、MXNet、ONNX等主流編程框架,用戶可面向上述編程框架,便捷地開發(fā)和部署深度學(xué)習(xí)應(yīng)用。
在開發(fā)工具方面,寒武紀(jì)提供了三類:應(yīng)用開發(fā)類、功能調(diào)試類、性能調(diào)優(yōu)類。如應(yīng)用開發(fā)類工具中,包括機(jī)器學(xué)習(xí)庫、運(yùn)行時庫、編譯器、模型重訓(xùn)練工具和特定領(lǐng)域(如視頻分析領(lǐng)域)SDK等,能夠有效幫助用戶提升深度學(xué)習(xí)開發(fā)效率。
作為中國領(lǐng)先的云計(jì)算服務(wù)提供商,金山云始終致力于通過最前沿的技術(shù)、最高效的產(chǎn)品為客戶提供更加安全、穩(wěn)定、便捷的云服務(wù)。目前搭載寒武紀(jì)MLU100的新一代云物理機(jī)已開放商用,基于該實(shí)例高可靠和高性能的產(chǎn)品特性,讓用戶能夠更加快速、高效地構(gòu)建AI業(yè)務(wù),為業(yè)務(wù)發(fā)展加速。