Facebook今年夏天宣告了其在神經(jīng)網(wǎng)絡(luò)練習上的新打破。 其研究人員能夠在一個小時內(nèi)運用256個GPU徹底練習好圖畫處理AI。 隨后，有一群不甘示弱的大學研究人員運用1600個Skylake處理器在32分鐘內(nèi)完結(jié)練習。 一個星期后，一個日本團隊在15分鐘內(nèi)就完結(jié)了練習。 明顯，業(yè)界現(xiàn)已展開了劇烈的AI比賽。

    根本上，練習一個神經(jīng)網(wǎng)絡(luò)的進程就是把盡可能多的數(shù)據(jù)以最快速度塞進一臺核算機，讓核算機對某個事物發(fā)生根本了解。

    ImageNet是核算機將圖畫與單詞相關(guān)聯(lián)的一種方法，它答應(yīng)核算機“檢查”圖畫并通知咱們它看到的是什么。假如你想要創(chuàng)立一個AI來查找包括“藍色襯衫”或“爸爸的淺笑”的圖畫，ImageNet對錯常有用的。

    現(xiàn)在，這類圖畫處理的基準是一個名為Resnet50的50層神經(jīng)網(wǎng)絡(luò)。用該網(wǎng)絡(luò)在一臺非?？斓暮怂銠C上練習一個深度學習體系，大約需求兩個星期。

    為了削減練習時刻，研究人員將處理器銜接在一起，運用它們的歸納才能。盡管這并不等同于時刻的指數(shù)級削減——兩臺核算機并不會將練習時刻從兩周縮減到一天，并且這還涉及到經(jīng)費問題。

    11月7日，加州大學伯克利分校、加州大學戴維斯分校和德州高檔核算中心的研究人員在32分鐘內(nèi)完結(jié)了對Resnet50模型的全面練習。這個團隊的精確度能夠和Facebook在60分鐘內(nèi)練習出的模型相媲美。

    不到一個星期，日本人工智能公司Preferred Networks運用自己的超級核算機（由1024個Nvidia Tesla GPU組成）在短短15分鐘內(nèi)練習出了相同的功用。


    日本公司Preferred Networks僅用了Facebook團隊四分之一的時刻就達到了相同的AI辨認準確度，最要害的原因可能就是minibatch的規(guī)劃。 Facebook運用了8,192個minibatch，而Preferred Networks運用了32,768。 添加minibatch的運用規(guī)劃并運用了四倍GPU后，Preferred Networks達到了現(xiàn)在的最短記載時刻。

    運用互聯(lián)網(wǎng)作為數(shù)據(jù)集，將協(xié)助咱們更快完結(jié)AI模型。 要讓機器更好地輿解人類，有必要讓它們得到一切能得到的數(shù)據(jù)。