斯坦福大學(xué)近日更新了DAWNBenchmark的4月份的成績。

DAWNBench是一套用于端到端深度學(xué)習(xí)訓(xùn)練和推理的基準(zhǔn)套件。它提供了一套通用的深學(xué)習(xí)評(píng)價(jià)指標(biāo)，用于量化訓(xùn)練時(shí)間、訓(xùn)練成本、推理延遲以及推理成本，并通過不同的優(yōu)化策略、模型體系結(jié)構(gòu)、軟件框架、云和硬件來計(jì)算推理成本。

Intel的ResNet模型(Caffe框架)，即完全由Xeon處理器構(gòu)建的亞馬遜EC2平臺(tái)，推理延遲和推理成本上都拿下第一。

具體來說，Intel平臺(tái)處理10000張圖片的延遲是9.96ms，成本0.02美元。成本方面，最接近Intel的是NVIDIA基于MXNet框架的K80顯卡+4 CPU平臺(tái)，0.07美元、延遲29.4ms。

測試中，Intel Xeon在計(jì)算方面的主要對(duì)手，一是谷歌自研的TPU v2(張量處理器)，二是NVIDIA的GPU陣列(包括Tesl V100)。

當(dāng)然，圖形識(shí)別(93%以上精度)的總訓(xùn)練時(shí)間上，基于谷歌TPU v2、TensorFlow學(xué)習(xí)框架的ResNet50模型高居第一，僅需30分鐘，比第一代提升了477倍。

這套測試我們可以這樣理解，不同硬件平臺(tái)相當(dāng)于考生，大家同時(shí)開始背一套考試題和答案，名叫谷歌的考生最先背會(huì)、Intel則是考場上作答速度和準(zhǔn)度最高的。

考慮到Intel正在全力研發(fā)圖形處理器，深度學(xué)習(xí)方面對(duì)NVIDIA和谷歌還有一場惡戰(zhàn)。