12 月 25 日消息，據(jù)英偉達官方消息，美團機器學習平臺使用 NVIDIA GPU，通過算子融合、計算圖等價替換等一系列優(yōu)化 ，相較于 CPU 在相同成本約束下，NVIDIA T4 GPU 大幅加速美團 CTR(Click-Through-Rate)模型預(yù)測性能，神經(jīng)網(wǎng)絡(luò)模型吞吐能力提升了 10 倍;同時在搜索精排場景中，端到端整體吞吐能力提升了一倍以上。

　　英偉達表示，美團的 CTR 模型過去一直在使用 CPU 推理的方式，但隨著用戶訪問量的提升和深度神經(jīng)網(wǎng)絡(luò)的引入，CTR 模型結(jié)構(gòu)趨于復(fù)雜，吞吐和計算量也越來越大，CPU 開始不能滿足模型對于算力的需求，而僅僅通過 CPU 服務(wù)器的堆疊帶來的性能提升性價比相較偏低。而 GPU 擁有數(shù)以千計的計算核心，可以在單機內(nèi)提供密集的并行計算能力，特別適合深度學習場景，在行業(yè)內(nèi)已經(jīng)在 CV、NLP 等領(lǐng)域展示了強大的能力。通過 CUDA 及相關(guān) API，NVIDIA 建立了完整的 GPU 生態(tài)系統(tǒng)?；诖耍缊F基礎(chǔ)研發(fā)平臺將 CTR 模型部署到 GPU 上，并通過一系列針對 CPU 與 GPU 的異構(gòu)系統(tǒng)并行計算設(shè)計、數(shù)據(jù)存儲方式和傳輸方式上的特定優(yōu)化。

　　NVIDIA Tesla T4 GPU 是一款推理加速器，搭載 NVIDIA Turing Tensor Core。官方稱，NVIDIA Tesla T4 GPU 具備人工智能推理的多精度計算性能，從 FP32 到 FP16 再到 INT8，又到 INT4 精度，T4 的性能比 CPU 高出 40 倍，實現(xiàn)性能的重大突破。

特別提醒：本網(wǎng)信息來自于互聯(lián)網(wǎng)，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實，對本文以及其中全部或者部分內(nèi)容、文字的真實性、完整性、及時性本站不作任何保證或承諾，并請自行核實相關(guān)內(nèi)容。本站不承擔此類作品侵權(quán)行為的直接責任及連帶責任。如若本網(wǎng)有任何內(nèi)容侵犯您的權(quán)益，請及時聯(lián)系我們，本站將會在24小時內(nèi)處理完畢。