12月3日,2021阿里靈杰AI工程化峰會(huì)圓滿落幕。阿里巴巴集團(tuán)副總裁、阿里云智能計(jì)算平臺(tái)事業(yè)部負(fù)責(zé)人、達(dá)摩院 AI 平臺(tái)負(fù)責(zé)人賈揚(yáng)清,達(dá)摩院語(yǔ)音實(shí)驗(yàn)室負(fù)責(zé)人鄢志杰,阿里云智能研究員、機(jī)器學(xué)習(xí)PAI平臺(tái)和大數(shù)據(jù)平臺(tái)技術(shù)負(fù)責(zé)人林偉等11位技術(shù)牛人亮相本次峰會(huì),與開(kāi)發(fā)者共同探討AI落地產(chǎn)業(yè)的路徑探索與創(chuàng)新實(shí)踐。

賈揚(yáng)清:從需求視角出發(fā),擁抱云原生的AI時(shí)代

阿里巴巴集團(tuán)副總裁、阿里云智能計(jì)算平臺(tái)負(fù)責(zé)人、達(dá)摩院 AI 平臺(tái)負(fù)責(zé)人賈揚(yáng)清以一名AI老兵的身份,分享了經(jīng)歷多次浪潮后的觀察。他把早期的AI開(kāi)發(fā)人員比作“拓荒者”,身兼算法研究員、軟件工程師、數(shù)據(jù)工程師、系統(tǒng)工程師多種角色,嘗試把AI算法和應(yīng)用逐漸落地。

(圖:阿里巴巴集團(tuán)副總裁、阿里云智能計(jì)算平臺(tái)負(fù)責(zé)人、達(dá)摩院 AI 平臺(tái)負(fù)責(zé)人賈揚(yáng)清分享“一個(gè)AI開(kāi)發(fā)者的奇幻漂流”)

隨著技術(shù)發(fā)展,組件數(shù)量和模型算法的復(fù)雜度都在增加。時(shí)至今日,需要搭建一個(gè)統(tǒng)一的空間來(lái)拉通數(shù)據(jù)管理、算法迭代、模型訓(xùn)練及上線各環(huán)節(jié)。賈揚(yáng)清總結(jié)道,“AI的痛苦在于本質(zhì)上沒(méi)有范式。AI不是一個(gè)單點(diǎn)的產(chǎn)品,而是一系列能力的組合;另一方面,AI對(duì)標(biāo)準(zhǔn)的軟件和定制化服務(wù)協(xié)同的需求極強(qiáng)。”

因此,“AI開(kāi)發(fā)者需要的,不是從資源視角搭建起來(lái)的平臺(tái);而是從需求出發(fā),通過(guò)云原生、容器化方式鏈接資源的平臺(tái)”,這正是打造阿里靈杰的初衷。今年10月剛剛發(fā)布的阿里靈杰,通過(guò)一體化的大數(shù)據(jù)與AI產(chǎn)品體系,向用戶提供10萬(wàn)臺(tái)以上計(jì)算集群的彈性算力、上百種標(biāo)準(zhǔn)化算法和模型服務(wù)、以及覆蓋數(shù)據(jù)處理和機(jī)器學(xué)習(xí)全鏈路的管理能力。

簡(jiǎn)言之,阿里靈杰的核心價(jià)值在于,幫助今天的AI開(kāi)發(fā)者更好地將數(shù)據(jù)、算法和場(chǎng)景結(jié)合起來(lái),構(gòu)建更完整更復(fù)雜的解決方案,去解決產(chǎn)業(yè)中的實(shí)際問(wèn)題。

阿里靈杰AI工程平臺(tái):全鏈路提升效率

阿里云機(jī)器學(xué)習(xí)平臺(tái)PAI和大數(shù)據(jù)平臺(tái)技術(shù)負(fù)責(zé)人林偉認(rèn)為,數(shù)據(jù)、計(jì)算力、和算法有機(jī)結(jié)合才能推動(dòng)AI爆發(fā),阿里靈杰也基于三要素形成了獨(dú)特的思考和實(shí)踐。

第一,數(shù)據(jù)質(zhì)量決定模型的高度。因此,阿里靈杰從誕生第一天起就采用大數(shù)據(jù)與AI一體化的架構(gòu),通過(guò)湖倉(cāng)一體實(shí)現(xiàn)對(duì)多元異構(gòu)數(shù)據(jù)的存儲(chǔ)管理,通過(guò)DataWorks和智能標(biāo)注產(chǎn)品實(shí)現(xiàn)數(shù)據(jù)質(zhì)量提升和監(jiān)控,通過(guò)MaxCompute、Hologres、Flink等計(jì)算引擎完成實(shí)時(shí)或離線分析處理;

第二,算法開(kāi)發(fā)迭代速度是重要生產(chǎn)力。云原生的靈杰平臺(tái)能提供彈性的計(jì)算力,并具備良好的異構(gòu)硬件和端設(shè)備適配性,能提升模型開(kāi)發(fā)和部署效率。面向大模型,靈杰機(jī)器學(xué)習(xí)平臺(tái)的Whale框架可自動(dòng)實(shí)現(xiàn)分布式訓(xùn)練,FineTune框架可基于預(yù)訓(xùn)練大模型蒸餾出垂直場(chǎng)景的小模型,提升大模型生產(chǎn)速度和應(yīng)用價(jià)值;

第三,AI系統(tǒng)能力是核心能力。阿里巴巴集團(tuán)內(nèi)部AI應(yīng)用需求極大,推動(dòng)著靈杰機(jī)器學(xué)習(xí)平臺(tái)PAI的核心引擎不斷發(fā)展優(yōu)化,覆蓋超大規(guī)模稀疏模型訓(xùn)練及服務(wù)、超大規(guī)模多模態(tài)預(yù)訓(xùn)練模型、自動(dòng)編譯、大規(guī)模集群調(diào)度、ML Ops等方向。

(圖:阿里云機(jī)器學(xué)習(xí)平臺(tái)PAI和大數(shù)據(jù)平臺(tái)技術(shù)負(fù)責(zé)人林偉分享AI工程化技術(shù)趨勢(shì))

聚焦阿里靈杰的平臺(tái)產(chǎn)品能力,阿里云機(jī)器學(xué)習(xí)平臺(tái)PAI產(chǎn)品負(fù)責(zé)人黃博遠(yuǎn)帶來(lái)了一系列新功能發(fā)布。黃博遠(yuǎn)介紹,PAI提供從數(shù)據(jù)準(zhǔn)備、模型開(kāi)發(fā)、到模型部署、訓(xùn)練的全流程平臺(tái)能力,此次產(chǎn)品升級(jí)主要是3個(gè)方面:

1、 AI開(kāi)發(fā)全鏈路體驗(yàn)提升,發(fā)布AI工作空間實(shí)現(xiàn)精細(xì)化的團(tuán)隊(duì)開(kāi)發(fā)協(xié)作和AI資產(chǎn)管理。

2、 PAI集成開(kāi)源autoML框架NNI。PAI-DSW以jupyter插件形式集成NNI,讓自動(dòng)機(jī)器學(xué)習(xí)能力變得唾手可得;PAI-DLC分布式集群可進(jìn)行NNI HPO分布式訓(xùn)練,提升使用效果。此外,PAI-NNI加入了剪枝、稀疏化、量化等方向的提升,讓autoML的能力更易達(dá)到企業(yè)級(jí)應(yīng)用標(biāo)準(zhǔn)。

3、 基于PAI,可實(shí)現(xiàn)超大規(guī)模模型的構(gòu)建、垂直場(chǎng)景小模型蒸餾、以及AI應(yīng)用部署,讓AI更普惠。

從標(biāo)準(zhǔn)化AI服務(wù)到電商增長(zhǎng),阿里靈杰的產(chǎn)業(yè)化實(shí)踐

基于強(qiáng)大的基礎(chǔ)設(shè)施和工程能力,阿里靈杰在阿里內(nèi)外都積累了成功案例。達(dá)摩院語(yǔ)音實(shí)驗(yàn)室負(fù)責(zé)人鄢志杰認(rèn)為,AI行業(yè)已經(jīng)進(jìn)入發(fā)展的“下半場(chǎng)”,AI+產(chǎn)業(yè)”將是兌現(xiàn)AI價(jià)值的重要途徑,AI應(yīng)用將形成專業(yè)分工更精細(xì)的產(chǎn)業(yè)鏈生態(tài),“所有人將可使用AI,而AI也將予力所有人”。包含語(yǔ)音、視覺(jué)、NLP等能力在內(nèi)的阿里靈杰AI開(kāi)放服務(wù)正是基于這一愿景誕生,并具備開(kāi)箱即用、自主定制、成本經(jīng)濟(jì)的特點(diǎn)。

在電商領(lǐng)域,數(shù)據(jù)驅(qū)動(dòng)下的智能無(wú)處不在。阿里巴巴技術(shù)專家郭瑞杰表示,在電商場(chǎng)景中,用戶除了獲取信息,還存在比對(duì)、決策、售后等多個(gè)環(huán)節(jié),鏈路更長(zhǎng),并且算法效果也業(yè)務(wù)價(jià)值直接相關(guān)?；诙嗄攴e累的電商智能增長(zhǎng)工程平臺(tái),已經(jīng)上云并產(chǎn)品化,并在電商、零售、內(nèi)容社區(qū)、音視頻領(lǐng)域幫助企業(yè)客戶實(shí)現(xiàn)用戶和收入顯著增長(zhǎng)。

阿里云天池首屆“英特爾創(chuàng)新大師杯”頒獎(jiǎng)

為引導(dǎo)開(kāi)發(fā)者創(chuàng)新優(yōu)化技術(shù)解決方案,促進(jìn)AI行業(yè)溝通學(xué)習(xí),今年啟動(dòng)了由英特爾主辦,阿里云天池平臺(tái)聯(lián)合計(jì)算平臺(tái)機(jī)器學(xué)習(xí)PAI承辦的第一屆“英特爾創(chuàng)新大師杯”深度學(xué)習(xí)挑戰(zhàn)賽。比賽聚焦OCR及NLP的兩個(gè)經(jīng)典技術(shù)方向,通過(guò)多個(gè)實(shí)用場(chǎng)景面向全球廣大開(kāi)發(fā)者發(fā)布算法挑戰(zhàn)。

經(jīng)過(guò)數(shù)月征集和評(píng)選,“英特爾創(chuàng)新大師杯”頒獎(jiǎng)典禮也在此次峰會(huì)舉辦。阿里巴巴集團(tuán)副總裁、阿里云智能計(jì)算平臺(tái)事業(yè)部負(fù)責(zé)人、達(dá)摩院 AI 平臺(tái)負(fù)責(zé)人賈揚(yáng)清,阿里云智能研究員、機(jī)器學(xué)習(xí)PAI平臺(tái)和大數(shù)據(jù)平臺(tái)技術(shù)負(fù)責(zé)人林偉,英特爾公司中國(guó)區(qū)超大云計(jì)算軟件架構(gòu)總監(jiān)魏彬共同為獲獎(jiǎng)?wù)哳C獎(jiǎng)。

這次深度學(xué)習(xí)挑戰(zhàn)賽的順利舉行離不開(kāi)英特爾第三代至強(qiáng)?可擴(kuò)展處理器的強(qiáng)力支持。據(jù)英特爾公司中國(guó)區(qū)超大云計(jì)算軟件架構(gòu)總監(jiān)魏彬介紹,英特爾第三代至強(qiáng)?可擴(kuò)展處理器提供了澎湃的計(jì)算性能,不僅擁有VNNI指令集,提供強(qiáng)大的INT8的量化性能,還在新一代的平臺(tái)中增加了BF16的指令集,對(duì)既要求計(jì)算又要求精度的OCR以及NLP場(chǎng)景尤為適合;在軟件側(cè),英特爾還在框架層面上對(duì)Pytorch Tensorflow進(jìn)行了深度優(yōu)化。對(duì)本次比賽而言,選手也得以擁有良好的模型訓(xùn)練和優(yōu)化環(huán)境,無(wú)論在邊緣或是云端,都能讓工作負(fù)載處于安全狀態(tài),為開(kāi)發(fā)者的模型研發(fā)保駕護(hù)航。

聲明：本文為廣告信息，不代表本站觀點(diǎn)。如有違規(guī)或侵權(quán)，請(qǐng)聯(lián)系我們。