9 月 7 日,由中國(guó)工程院信息與電子工程學(xué)部主辦、海潮團(tuán)體承辦的 AICC 中國(guó)人工智能盤算年夜會(huì)在北京舉辦,國(guó)內(nèi)外數(shù)十位著名專家分享了 AI 在互聯(lián)網(wǎng)、云盤算、超算等浩瀚行業(yè)的立異實(shí)例。在現(xiàn)場(chǎng),機(jī)械之能采訪到英偉達(dá)全球副總裁暨中國(guó)區(qū)企業(yè)事業(yè)總司理沈威,與其就以后人工智能芯片市場(chǎng)和英偉達(dá)的底氣睜開了商量,沈威表現(xiàn):「除 GPU 生成合適深度進(jìn)修這一義務(wù)之外,英偉達(dá)的 CUDA 盤算平臺(tái)是決勝的癥結(jié)?!?/p>
弗成否定,GPU 為深度進(jìn)修的年夜范圍運(yùn)用奠基了硬件基本。但是,跟著人工智能時(shí)期的到來,深度進(jìn)修技巧公用芯片之爭(zhēng)也愈發(fā)熾熱。芯片巨子英特爾年夜量收買人工智能相干公司,研發(fā)人工智能公用芯片,站臺(tái) FPGA,并已與許多垂直范疇的企業(yè)停止協(xié)作;谷歌研制了基于硬件界說編程架構(gòu)的 TPU;曾是英偉達(dá)主要客戶的微軟也開端為本身的數(shù)據(jù)中間研發(fā)基于 FPGA 的可反復(fù)編程 AI 芯片。另外,一些專業(yè)的人工智能公司,如科年夜訊飛等,也在研發(fā)合適本身營(yíng)業(yè)的公用芯片。
GPU、FPGA、ASIC 是 AI 芯片市場(chǎng)打得熾熱的三種架構(gòu),個(gè)中 GPU 是以后的主流。與 CPU 比擬,GPU 在硬件架構(gòu)上具有更多的盤算單位,使其成為 AI 芯片的自然選擇;FPGA 即現(xiàn)場(chǎng)可編程門陣列,是一種軟件界說的架構(gòu),開辟者可以經(jīng)由過程編程界說片上單位的功效;ASIC 代指為專門目標(biāo)而設(shè)計(jì)的集成電路,將功效燒制到芯片上,合適較為穩(wěn)固的處理計(jì)劃,且產(chǎn)物進(jìn)級(jí)難度較年夜,但功耗較低。今朝,F(xiàn)PGA 和 ASIC 還處于實(shí)驗(yàn)階段,有才能應(yīng)用 FPGA 的人工智能廠家其實(shí)不多,絕年夜部門的 AI 芯片市場(chǎng)仍然被英偉達(dá)占據(jù),生態(tài)的構(gòu)建其實(shí)不輕易,F(xiàn)PGA 與 ASIC 的 AI 之路也任重而道遠(yuǎn)。
在其他廠家積極開辟新疆場(chǎng)時(shí),英偉達(dá)依然深信「 GPU 生成合適深度進(jìn)修義務(wù)」。9 月 7 日,英偉達(dá)全球副總裁、中國(guó)區(qū)企業(yè)事業(yè)總司理沈威在 AICC 上與機(jī)械之能就這一話題停止了評(píng)論辯論。沈威以為,英偉達(dá) CUDA 運(yùn)算平臺(tái)是癥結(jié),CUDA 讓 GPU 的盤算才能得以釋放,讓通俗的法式員也能用 JAVA、C++ 等編程說話在 GPU 上任務(wù)。
以下為采訪實(shí)錄,機(jī)械之能做了不轉(zhuǎn)變?cè)獾恼D:
人工智能芯片疆場(chǎng)愈發(fā)熾熱,豈論芯片廠商照樣AI范疇的垂直公司都在試圖搶占市場(chǎng)。這是能否英偉達(dá)的AI計(jì)謀形成影響?如今再提GPU是深度進(jìn)修芯片的獨(dú)一霸主能否不再適合?
從 2012 年谷歌的李飛飛傳授開啟 ImageNet 以來,我們很高興看到 GPU 在人工智能市場(chǎng)的接收度很高,同時(shí)我們也看到許多追隨者。不外我認(rèn)為這是一件功德,起首,這意味著這些公司中的任何一家,對(duì)人工智能、深度進(jìn)修這件工作都異常認(rèn)同。不外我們?cè)诟邫C(jī)能運(yùn)算、人工智能范疇曾經(jīng)投入了許多年,具有先發(fā)優(yōu)勢(shì)。從汗青的成長(zhǎng)來看,深度進(jìn)修為何要用英偉達(dá)的 GPU?由于深度進(jìn)修與高機(jī)能盤算關(guān)系異常親密,深度進(jìn)修義務(wù)中觸及到年夜量的運(yùn)算,這是英偉達(dá)異常善于的工作。
適才我們說的是硬件方面,硬件許多半導(dǎo)體廠商都在做。但他們都疏忽了一點(diǎn),就是平臺(tái)。我們的 CUDA 運(yùn)算平臺(tái)從 2006 年開端開放,到如今曾經(jīng)是第 9 代,CUDA 將 GPU 的高機(jī)能運(yùn)算才能開放給普通的法式員。固然半導(dǎo)體工藝是與時(shí)俱進(jìn)的,但假如沒有好的編程情況,技巧人員們照樣很難迎接此次深度進(jìn)修的海潮。這就直接答復(fù)了你的成績(jī)。豈論哪家公司,能夠他們?cè)谑袌?chǎng)上也曾經(jīng)有很長(zhǎng)時(shí)光了,但我小我以為,它的編程說話還不克不及針對(duì)數(shù)據(jù)中間的海量數(shù)據(jù)停止更方便地編程。年夜家能夠看到,在深度進(jìn)修時(shí)期,英偉達(dá)停止了一次面向人工智能的轉(zhuǎn)型,但其實(shí)我們?cè)缫唁亯|好相干才能。
如今GPU、FPGA、ASIC這三種架構(gòu)都能完成深度進(jìn)修義務(wù),你對(duì)這三種架構(gòu)的好壞勢(shì)作何評(píng)價(jià)?
深度進(jìn)修重要分為線下練習(xí)和線上推理,今朝在線下練習(xí)用戶無一破例地都在應(yīng)用 GPU 加快他們的練習(xí)進(jìn)程。不只僅是由于 GPU 的運(yùn)算速度快,更主要是英偉達(dá)樹立了一個(gè)完美的生態(tài)體系,我們供給了很多 SDK 來加快一切深度進(jìn)修框架,并和這些框架深度集成,如 cuDNN、NCCL、cuBLAS 等。在線上推理偏向,英偉達(dá)今朝的計(jì)劃是 TensroRT 加低功耗的 NVIDIA Tesla P4 GPU 加快器。如今國(guó)際各年夜云辦事供給商都在應(yīng)用 Tesla P4 做線上推理,包含科年夜訊飛。
現(xiàn)實(shí)上,深度進(jìn)修遠(yuǎn)沒有成熟,天天都在變更演進(jìn)、迭代,GPU 今朝照樣最好選擇。ASIC 是一種公用芯片,它是為了某種特定需求而專門定制的芯片,今朝還不克不及與 GPU 如許具有很成熟生態(tài)的通用芯片同日而語。FPGA 的生態(tài)體系才方才開端,途徑還很漫長(zhǎng)。
英偉達(dá)在無人駕駛和智能家居方面推出了本身的公用芯片,能否意味著英偉達(dá)重視這兩個(gè)運(yùn)用范疇?更遼闊的例如金融、醫(yī)療方面為什么沒有公用芯片的結(jié)構(gòu)?
GPU 生成處理深度進(jìn)修成績(jī),人工智能自己和人腦有許多相似的處所,須要眼睛看,頭腦想。英偉達(dá)愿望在 GPU 最善于、最深耕的視覺運(yùn)算上發(fā)力,是以英偉達(dá)在主動(dòng)駕駛和嵌入式端結(jié)構(gòu)了兩種產(chǎn)物。其他范疇我們也異常地看好,金融、醫(yī)療、制作是國(guó)際外迸發(fā)增加的幾個(gè) GPU 運(yùn)用點(diǎn),在這些范疇我們有許多的協(xié)作同伴。英偉達(dá)處在全部 IT 生態(tài)圈中,我們必需要跟分歧行業(yè)的公司停止協(xié)作。
今朝英偉達(dá)的生態(tài)圈中,有哪些比擬堅(jiān)實(shí)的協(xié)作同伴?
我們有分歧條理的協(xié)作同伴。一種是跟辦事器廠商的協(xié)作,由于在硬件層面單單為用戶供給 GPU,用戶是沒有方法應(yīng)用的,海潮,曙光,華為等都是我們的協(xié)作同伴;還有就是行業(yè)處理計(jì)劃層面,在一個(gè)零件做好以后,能夠會(huì)須要針對(duì)分歧行業(yè),例如醫(yī)療、制作業(yè)等等停止優(yōu)化,以合適客戶分歧的運(yùn)用場(chǎng)景,在這個(gè)層面科年夜訊飛、商湯都是我們的協(xié)作同伴,我們叫 Solution Partner。
這些協(xié)作同伴做得都很好,由于深度進(jìn)修才方才開端,很少有人在用過 CUDA 開辟情況以后說不愛好英偉達(dá)。由于你弗成能本身從零開端寫一些函數(shù)庫(kù)、優(yōu)化庫(kù),我卻是很獵奇,不消英偉達(dá)的人他們要怎樣做。深度進(jìn)修處理計(jì)劃供給商們?cè)谒惴ê蛿?shù)據(jù)方面都有本身的盡力,然則假如沒有我們 GPU 的加快,他們的更新迭代和開辟速度就會(huì)年夜年夜下降,走向市場(chǎng)的周期也會(huì)被拉長(zhǎng),所以我們也是贊助他們更快走向市場(chǎng)的必弗成少的要素。
如今有許多中小企業(yè)或高校試驗(yàn)室不克不及累贅年夜范圍的GPU集群,英偉達(dá)能否想要爭(zhēng)奪這一部門市場(chǎng)?
其實(shí)我們也有存眷到這一方面。我們和全球許多年夜公司一樣,會(huì)和許多高校協(xié)作教導(dǎo)、培訓(xùn)相干的項(xiàng)目,如今異常多高校在他們的盤算中間外面有 GPU 集群,而且我們也有協(xié)作開設(shè)相干課程。另外一方面,我信任年夜家也留意到了云盤算的成長(zhǎng),如今國(guó)際幾家搶先的云辦事廠商都曾經(jīng)用到了英偉達(dá)異常多 GPU,所以他們也供給異常多基于 GPU 的計(jì)劃。關(guān)于不想本身買裝備的廠家來講,我認(rèn)為云辦事是一種選擇。云是一種趨向,可以或許更快捷地惠及新的開辟者、新的始創(chuàng)公司。
