在深度學(xué)習(xí)的領(lǐng)域里，最重要的是數(shù)據(jù)和運(yùn)算践瓷。誰的數(shù)據(jù)更多耕驰，誰的運(yùn)算更快，誰就會(huì)占據(jù)優(yōu)勢(shì)壹事。因此罕识，在處理器的選擇上，可以用于通用基礎(chǔ)計(jì)算且運(yùn)算速率更快的GPU迅速成為人工智能計(jì)算的主流芯片责什。

2017年度GTC技術(shù)大會(huì)上舒脐，英偉達(dá)推出了他們公司最新研發(fā)的GPU——Volta。該芯片的核心是一款稱為“TensorCore(張量處理器)”的人工智能加速器颓涉，這是開發(fā)下一階段AI應(yīng)用的硬件保障侨识。然而，我們需要升級(jí)軟件厅驼，更新AI算法骄熟，其原因有兩點(diǎn)：一是現(xiàn)有的AI算法不能充分利用這個(gè)加速器的性能，二是為了獲得AI開發(fā)中另外的突破华孙。

如果我們能充分利用這種新代芯片宦狭，不僅將大大推進(jìn)AI應(yīng)用的進(jìn)展，甚至可能會(huì)創(chuàng)建新的AI應(yīng)用海槐。比如說乘碑，AI算法可以利用該種芯片的高速運(yùn)行速度挖息，來更好地理解和綜合分析人類語言。語音識(shí)別系統(tǒng)將極大地完善蝉仇，音頻的轉(zhuǎn)錄將更加準(zhǔn)確旋讹，計(jì)算機(jī)將會(huì)有能表現(xiàn)出語言風(fēng)格和情感的語音系統(tǒng)。

有許多公司已經(jīng)認(rèn)識(shí)到了AI所具有的巨大潛力轿衔，還研發(fā)出了強(qiáng)大的芯片沉迹，以期獲得AI的廣泛應(yīng)用。例如害驹，英偉達(dá)開發(fā)的GPU以及谷歌研發(fā)出的TPU鞭呕。

這些芯片有一個(gè)共同點(diǎn)，就是它們都根據(jù)程序局部性原理來不斷優(yōu)化算法宛官。為了獲得局部性優(yōu)勢(shì)葫松，需要AI芯片和AI算法的共同支持。目前底洗，新興的AI芯片已經(jīng)可以為此提供基礎(chǔ)框架(例如Volta的“TensorCore”)腋么，但是更多的AI算法還沒有獲得與這種芯片的相應(yīng)升級(jí)。通俗地說亥揖，當(dāng)下通行的算法不能充分利用到該芯片的高速運(yùn)行速度贺跟。

AI芯片的第一階段是并行驅(qū)動(dòng)，即同時(shí)執(zhí)行多種任務(wù)绰瘾。

在海量數(shù)據(jù)集上訓(xùn)練大型神經(jīng)網(wǎng)絡(luò)可以充分展示其易被現(xiàn)有并行芯片利用的顯著并行性简骗。然而，目前來看蚜雏，內(nèi)存提取性能的發(fā)展遠(yuǎn)遠(yuǎn)不能滿足人們的需求愕泣。最終這些新芯片會(huì)面臨“內(nèi)存墻”的困境，即內(nèi)存性能會(huì)嚴(yán)重限制芯片性能的發(fā)揮附柜。

為了進(jìn)入到下一階段缓膀，AI芯片仍要在局部性上下功夫。局部性可以體現(xiàn)為重復(fù)引用同一個(gè)變量僚料。打個(gè)比方魂麦，您在雜貨店里購(gòu)物，您要按照購(gòu)物清單買東西假却，清單一共列有10件商品，您如果想加快尋獲商品的速度的話睹傻，可以請(qǐng)10個(gè)朋友夏跷，讓他們分別找到1件清單上商品。這種方法雖然是并行驅(qū)動(dòng)的明未，但效率也非常低下槽华，因?yàn)榍鍐紊喜煌奈锲房赡軘[在一起壹蔓，這就會(huì)產(chǎn)生讓不同的朋友來找尋相鄰物品的情況，從而降低了效率猫态。一個(gè)更好的辦法是讓每個(gè)朋友去一個(gè)不同的過道佣蓉，并只找那個(gè)過道的物品。這就是局部性解決目前“內(nèi)存墻”困境的方式亲雪。

新代AI芯片需要具有顯著局部性特點(diǎn)的算法相適應(yīng)勇凭。目前，并不是所有的AI算法都能勝任這一任務(wù)义辕，因?yàn)樗鼈儾痪邆滹@著的局部性虾标。計(jì)算機(jī)視覺算法由于其大量使用卷積神經(jīng)網(wǎng)絡(luò)而在局部性上顯有優(yōu)勢(shì)，但語言和語言應(yīng)用中所使用的復(fù)現(xiàn)神經(jīng)網(wǎng)絡(luò)則需要稍加變動(dòng)(尤其要對(duì)其推理能力進(jìn)行優(yōu)化)灌砖，以改善其局部性璧函。

在百度的硅谷AI實(shí)驗(yàn)室，研究人員嘗試了幾種完善算法的方式晌叽，來挖掘局部性的潛力甲施。早期的實(shí)驗(yàn)顯示出了我們非常可能克服這一困難的跡象囊砰。例如重我，研究人員發(fā)展了RNN網(wǎng)絡(luò)，讓其在低批量大小下達(dá)到了30倍速的提升玻冗。這開了一個(gè)好頭启脉，但未來AI芯片的性能還要有更大的提升。另一個(gè)研究方向是整合了來自卷積和復(fù)發(fā)神經(jīng)網(wǎng)絡(luò)的想法得來的逐枢，但這個(gè)方向的最優(yōu)解還在后頭综澄。

深度學(xué)習(xí)的AI算法計(jì)算有限，迄今為止的突破都是得益于運(yùn)算速度更快的計(jì)算機(jī)的出現(xiàn)遍跌。然而神卢，當(dāng)下的算法已經(jīng)取得了突破性進(jìn)展，而且已經(jīng)在語音識(shí)別哑立，機(jī)器翻譯和人類語音綜合方面得到了成果袒碍。目前，進(jìn)行下一階段AI算法研發(fā)的硬件已經(jīng)到位杰捂。早期實(shí)驗(yàn)中的種種跡象表明——我們正處于下一代算法開發(fā)的前端舆床。預(yù)計(jì)下一代算法能充分利用目前AI芯片的性能，并且可以引領(lǐng)我們得到其他方面的突破嫁佳。

聲明：本網(wǎng)站所收集的部分公開資料來源于互聯(lián)網(wǎng)挨队，轉(zhuǎn)載的目的在于傳遞更多信息及用于網(wǎng)絡(luò)分享，并不代表本站贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)蒿往，也不構(gòu)成任何其他建議盛垦。本站部分作品是由網(wǎng)友自主投稿和發(fā)布湿弦、編輯整理上傳，對(duì)此類作品本站僅提供交流平臺(tái)腾夯，不為其版權(quán)負(fù)責(zé)颊埃。如果您發(fā)現(xiàn)網(wǎng)站上所用視頻、圖片蝶俱、文字如涉及作品版權(quán)問題班利，請(qǐng)第一時(shí)間告知，我們將根據(jù)您提供的證明材料確認(rèn)版權(quán)并按國(guó)家標(biāo)準(zhǔn)支付稿酬或立即刪除內(nèi)容跷乐，以保證您的權(quán)益肥败！聯(lián)系電話：010-58612588 或 Email:editor@mmsonline.com.cn。