在深度學習的領域里,最重要的是數(shù)據(jù)和運算盗晨。誰的數(shù)據(jù)更多,誰的運算更快绞甥,誰就會占據(jù)優(yōu)勢献鬼。因此,在處理器的選擇上帖豫,可以用于通用基礎計算且運算速率更快的GPU迅速成為人工智能計算的主流芯片许夺。
2017年度GTC技術大會上,英偉達推出了他們公司最新研發(fā)的GPU——Volta镜伪。該芯片的核心是一款稱為“TensorCore(張量處理器)”的人工智能加速器扼褪,這是開發(fā)下一階段AI應用的硬件保障。然而粱栖,我們需要升級軟件话浇,更新AI算法,其原因有兩點:一是現(xiàn)有的AI算法不能充分利用這個加速器的性能闹究,二是為了獲得AI開發(fā)中另外的突破幔崖。
如果我們能充分利用這種新代芯片,不僅將大大推進AI應用的進展渣淤,甚至可能會創(chuàng)建新的AI應用赏寇。比如說,AI算法可以利用該種芯片的高速運行速度砂代,來更好地理解和綜合分析人類語言蹋订。語音識別系統(tǒng)將極大地完善,音頻的轉錄將更加準確刻伊,計算機將會有能表現(xiàn)出語言風格和情感的語音系統(tǒng)露戒。
有許多公司已經(jīng)認識到了AI所具有的巨大潛力,還研發(fā)出了強大的芯片捶箱,以期獲得AI的廣泛應用趋肖。例如硫舞,英偉達開發(fā)的GPU以及谷歌研發(fā)出的TPU。
這些芯片有一個共同點乍询,就是它們都根據(jù)程序局部性原理來不斷優(yōu)化算法铅惋。為了獲得局部性優(yōu)勢,需要AI芯片和AI算法的共同支持椰锹。目前泪滥,新興的AI芯片已經(jīng)可以為此提供基礎框架(例如Volta的“TensorCore”),但是更多的AI算法還沒有獲得與這種芯片的相應升級啰蹲。通俗地說园凫,當下通行的算法不能充分利用到該芯片的高速運行速度。
AI芯片的第一階段是并行驅動懒竖,即同時執(zhí)行多種任務十碗。
在海量數(shù)據(jù)集上訓練大型神經(jīng)網(wǎng)絡可以充分展示其易被現(xiàn)有并行芯片利用的顯著并行性。然而舅洋,目前來看汉惫,內存提取性能的發(fā)展遠遠不能滿足人們的需求。最終這些新芯片會面臨“內存墻”的困境著摔,即內存性能會嚴重限制芯片性能的發(fā)揮缓窜。
為了進入到下一階段,AI芯片仍要在局部性上下功夫谍咆。局部性可以體現(xiàn)為重復引用同一個變量雹洗。打個比方,您在雜貨店里購物卧波,您要按照購物清單買東西,清單一共列有10件商品庇茫,您如果想加快尋獲商品的速度的話港粱,可以請10個朋友,讓他們分別找到1件清單上商品旦签。這種方法雖然是并行驅動的查坪,但效率也非常低下,因為清單上不同的物品可能擺在一起宁炫,這就會產(chǎn)生讓不同的朋友來找尋相鄰物品的情況偿曙,從而降低了效率。一個更好的辦法是讓每個朋友去一個不同的過道羔巢,并只找那個過道的物品附直。這就是局部性解決目前“內存墻”困境的方式。
新代AI芯片需要具有顯著局部性特點的算法相適應霹早。目前矢锯,并不是所有的AI算法都能勝任這一任務,因為它們不具備顯著的局部性。計算機視覺算法由于其大量使用卷積神經(jīng)網(wǎng)絡而在局部性上顯有優(yōu)勢跛猛,但語言和語言應用中所使用的復現(xiàn)神經(jīng)網(wǎng)絡則需要稍加變動(尤其要對其推理能力進行優(yōu)化)帘既,以改善其局部性。
在百度的硅谷AI實驗室儡绩,研究人員嘗試了幾種完善算法的方式顷敞,來挖掘局部性的潛力。早期的實驗顯示出了我們非陈勾牛可能克服這一困難的跡象蒜吱。例如,研究人員發(fā)展了RNN網(wǎng)絡屈淫,讓其在低批量大小下達到了30倍速的提升管书。這開了一個好頭,但未來AI芯片的性能還要有更大的提升截碴。另一個研究方向是整合了來自卷積和復發(fā)神經(jīng)網(wǎng)絡的想法得來的梳侨,但這個方向的最優(yōu)解還在后頭。
深度學習的AI算法計算有限日丹,迄今為止的突破都是得益于運算速度更快的計算機的出現(xiàn)走哺。然而,當下的算法已經(jīng)取得了突破性進展哲虾,而且已經(jīng)在語音識別丙躏,機器翻譯和人類語音綜合方面得到了成果。目前束凑,進行下一階段AI算法研發(fā)的硬件已經(jīng)到位晒旅。早期實驗中的種種跡象表明——我們正處于下一代算法開發(fā)的前端。預計下一代算法能充分利用目前AI芯片的性能汪诉,并且可以引領我們得到其他方面的突破废恋。
聲明:本網(wǎng)站所收集的部分公開資料來源于互聯(lián)網(wǎng),轉載的目的在于傳遞更多信息及用于網(wǎng)絡分享扒寄,并不代表本站贊同其觀點和對其真實性負責鱼鼓,也不構成任何其他建議。本站部分作品是由網(wǎng)友自主投稿和發(fā)布木冈、編輯整理上傳半摔,對此類作品本站僅提供交流平臺,不為其版權負責演易。如果您發(fā)現(xiàn)網(wǎng)站上所用視頻脏偏、圖片、文字如涉及作品版權問題爱茫,請第一時間告知册灾,我們將根據(jù)您提供的證明材料確認版權并按國家標準支付稿酬或立即刪除內容涨旨,以保證您的權益!聯(lián)系電話:010-58612588 或 Email:editor@mmsonline.com.cn拷拗。
- 暫無反饋