發(fā)揮GPU優(yōu)秀的并行計(jì)算能力,使用容器可以快速獲得需要的應(yīng)用環(huán)境,是目前推薦的深度學(xué)習(xí)與數(shù)據(jù)科學(xué)開展研究的方式。它便于資源的分配與調(diào)度,優(yōu)化異構(gòu)資源調(diào)度:提供彈性、高效、細(xì)粒度(支持GPU共享)、簡化異構(gòu)資源管理復(fù)雜性;提升可觀測性和使用效率, 可移植、可組裝、可重現(xiàn)的AI流程;可加載多種深度學(xué)習(xí)預(yù)訓(xùn)練模型模塊,預(yù)安裝pytorch、tensoflow等深度學(xué)習(xí)框架與相關(guān)計(jì)算庫。
隨著人工智能與邊緣計(jì)算的發(fā)展,各種數(shù)據(jù)科學(xué)的應(yīng)用落地,在在線教育行業(yè)中部署相關(guān)的服務(wù)去支持業(yè)務(wù)開展已成為大勢所趨——深度學(xué)習(xí)下的圖像識別、NLP等技術(shù)給行業(yè)帶來新發(fā)展空間。
數(shù)據(jù)規(guī)模在不斷增長,使用公有云部署業(yè)務(wù)是一種便捷的模式。但越來越多企業(yè)用戶發(fā)現(xiàn),大規(guī)模使用公有云基礎(chǔ)及其深度學(xué)習(xí)API服務(wù),已成為每年開支中的大頭。混合云部署的模式業(yè)務(wù)的模式可能成為更合理的選擇,把部分重要業(yè)務(wù)部署在企業(yè)私有云中,不僅可獲得對業(yè)務(wù)與數(shù)據(jù)安全的全面控制,據(jù)第三方測評,對中小型規(guī)模集群、私有部署甚至可能降低高達(dá)70%的運(yùn)維服務(wù)費(fèi)用。把部分業(yè)務(wù)私有部署,已成為在線教育行業(yè)中穩(wěn)健的選擇。
在混合云部署中,云原生計(jì)算成為先行崛起的理念。云原生計(jì)算依靠資源云化(虛擬化),應(yīng)用云化(標(biāo)準(zhǔn)化、自動(dòng)化、可拓展、高可用),云原生(互聯(lián)網(wǎng)規(guī)模、敏捷,彈性)的優(yōu)勢,逐漸成為人工智能深度學(xué)習(xí)、數(shù)據(jù)科學(xué)等應(yīng)用及服務(wù)的載體。