本周四，總部位于英國(guó)的 AI 芯片公司 Graphcore 發(fā)布了新一代 IPU 產(chǎn)品 Bow，這是其第三代 IPU 系統(tǒng)，發(fā)布即面向客戶(hù)發(fā)貨。與上一代 IPU 相比，Bow IPU 性能提升 40% ，能耗比提升了 16%，電源效率也提升 16%。

　　值得注意的是，這一次 Bow IPU 的性能提升并非主要依賴(lài)采用更先進(jìn)的制程，Bow IPU 采用了和上一代 IPU 相同的臺(tái)積電 7nm，通過(guò)采用和臺(tái)積電共同開(kāi)發(fā)的先進(jìn)硅晶圓堆疊技術(shù)(3D Wafer-on-Wafer)達(dá)到性能和能耗比的提升。

　　Bow 作為世界首款 3D WoW 處理器，證明了芯片性能提升的范式從先進(jìn)制程向先進(jìn)封裝轉(zhuǎn)移的可行性。

　　新一代 IPU 性能提升 40%，價(jià)格保持不變

　　2016 年，Graphcore 成立并開(kāi)創(chuàng)了全新類(lèi)型處理器架構(gòu) IPU，因其在架構(gòu)上的創(chuàng)新曾被英國(guó)半導(dǎo)體之父 Hermann Hauser 稱(chēng)之為是計(jì)算機(jī)歷史上的第三次革命。

　　經(jīng)歷 6 年時(shí)間的發(fā)展，Graphcore 的 IPU 逐漸在在金融、醫(yī)療、電信、機(jī)器人、云和互聯(lián)網(wǎng)等領(lǐng)域取得成效。本周四，Graphcore 又推出了第三代產(chǎn)品 Bow IPU。

　　據(jù) Graphcore 介紹，第三代 IPU 相對(duì)于上一代 M2000，性能提高 40%，每瓦性能提升 16%，即能耗比實(shí)現(xiàn) 16% 的提升。不過(guò)，AI 芯片的真實(shí)性能還需要放在不同的應(yīng)用領(lǐng)域中討論。為此，Graphcore 也給出了在不同垂直領(lǐng)域中 Bow 的性能表現(xiàn)。

　　在圖像方面，無(wú)論是典型的 CNN 網(wǎng)絡(luò)，還是近期比較熱門(mén)的 Vision Transformer 網(wǎng)絡(luò)，以及深層次的文本到圖片的網(wǎng)絡(luò)，與上一代產(chǎn)品相比，Bow IPU 都有 30% 到 40% 的性能提升，在 EfficientNet-B4 這一項(xiàng)中，接近理論上限值。

　　BERT 訓(xùn)練模型是自然語(yǔ)言方面的經(jīng)典模型，基于 BERT，OpenAI 提出了 GPT-1、GPT-2、GPT-3 等縱向擴(kuò)展或橫向擴(kuò)展，通過(guò)更深的網(wǎng)絡(luò)層次和更寬的網(wǎng)絡(luò)寬度讓模型的性能和精度進(jìn)一步提高。

　　“我們可以看到，這些模型在我們最新的硬件形態(tài)上都有很大的性能提升。”Graphcore 中國(guó)工程副總裁、AI 算法科學(xué)家金琛介紹道。

　　不僅如此，轉(zhuǎn)換到實(shí)際模型中的吞吐量，與 IPU POD64 相比，在計(jì)算機(jī)視覺(jué)的 ResNet50 和 EifficientNet-B4 訓(xùn)練模型中，Bow Pod64 的吞吐量能夠達(dá)到 34% 和 39% 的性能提升。自然語(yǔ)言方面，BERT-Large Ph1 預(yù)訓(xùn)練模型和語(yǔ)音識(shí)別 Conformer Large 訓(xùn)練模型，后者都有 36% 的吞吐量提升。

　　作為英偉達(dá)的競(jìng)爭(zhēng)對(duì)手，Graphcore 自然不忘將 Bow Pod16 與 DGX-A100 進(jìn)行對(duì)比，實(shí)驗(yàn)數(shù)據(jù)表明，EfficientNet-B4 的 backbone 的訓(xùn)練在 DGX-A100 上需要花費(fèi) 70 個(gè)小時(shí)的訓(xùn)練時(shí)間，而在 Bow Pod16 上，只需要 14 小時(shí)左右。

　　接近理論極限的性能提升，Graphcore Bow IPU 是如何實(shí)現(xiàn)的?

　　5nm 不再是首選，采用先進(jìn)封裝性?xún)r(jià)比更高

　　從芯片的規(guī)格上看，Bow IPU 是世界上第一款基于臺(tái)積電的 3D Wafer-On-Wafer 的處理器，單個(gè)封裝中擁有超過(guò) 600 億個(gè)晶體管，具有 350 TeraFLOPS 的人工智能計(jì)算的性能，是上一代 MK2 IPU 的 1.4 倍。片內(nèi)存儲(chǔ)較上一代來(lái)看沒(méi)有變化，依然保持 0.9GB 的容量，不過(guò)吞吐量從 47.5TB 提高到了 65TB。

　　“變化主要體現(xiàn)在，它是一個(gè) 3D 封裝的處理器，晶體管的規(guī)模有所增加，算力和吞吐量均得到提升。”Graphcore 大中華區(qū)總裁兼全球首席營(yíng)收官盧濤說(shuō)道。而在大家都關(guān)注的工藝制程上，Bow IPU 延續(xù)了上一代臺(tái)積電 7nm 工藝制程，沒(méi)有變化。

　　理論上，一顆芯片的性能提升很大程度上取決于工藝制程上的進(jìn)步，但隨著工藝制程越來(lái)越逼近物理極限，摩爾定律逐漸失效，業(yè)界不得不尋找新的技術(shù)方向來(lái)延續(xù)摩爾定律。其中，3D 封裝就是被業(yè)界廣泛看好的技術(shù)方向。

　　中國(guó)工程院院士、浙江大學(xué)微納電子學(xué)院院長(zhǎng)吳漢明就曾在一次演講中提到，如果將芯片制造和芯片封裝相結(jié)合，也可以做到 65nm 工藝制程實(shí)現(xiàn) 40nm 工藝制程的性能功耗要求。

　　Bow IPU 正好驗(yàn)證了吳院士的觀點(diǎn)。

　　盧濤表示，Bow IPU 產(chǎn)品性能的提升主要來(lái)源于 3D WoW 和新增的 Die。

　　至于為何選擇改變封裝方式而不是更先進(jìn)的工藝，盧濤則表示 MK2 IPU 有 594 億個(gè)晶體管，大概 823 平方毫米，已經(jīng)是 7nm 單個(gè) Die 能夠生產(chǎn)的最精密的芯片。

　　“我們?cè)u(píng)估從 7nm、5nm，到 3nm 等不同工藝節(jié)點(diǎn)的收益時(shí)發(fā)現(xiàn)，從 7nm 到 5nm 的生產(chǎn)工藝提升所帶來(lái)的收益不像以前從 28nm 到 14nm 一樣，能夠帶來(lái)百分之幾十的收益，而是降到了 20%。這時(shí)候我們可以通過(guò)別的手段和方法獲得同樣的收益。”

　　通過(guò) 3D 堆疊的方式，Bow IPU 的兩個(gè) Die 增加了晶體管的數(shù)量，其中一個(gè) Die(Colossus Die)和上一代一樣，另一個(gè) Die 主要用于提高跨 Colossus Die 的電源功率傳輸，優(yōu)化 Colossus Die 的操作節(jié)點(diǎn)，從而轉(zhuǎn)化為有效的時(shí)鐘加速。

　　在同臺(tái)積電的合作方面，盧濤告訴雷峰網(wǎng)，Graphcore 在一年之前就同臺(tái)積電合作了一顆測(cè)試芯片，與臺(tái)積電的關(guān)系非常緊密，加上 AI 處理器本身規(guī)模較大，需要一些新技術(shù)支持落地，而從臺(tái)積電的角度而言，新的技術(shù)也需要有需求的產(chǎn)品共同推進(jìn)。

　　值得一提的是，雖然封裝方式有所變化，但 Bow IPU 開(kāi)箱即用，與前一代產(chǎn)品百分之百軟件兼容，不用修改任何代碼，老用戶(hù)無(wú)需做任何軟件適配工作就能獲得性能提升，價(jià)格保持不變。

　　目前，美國(guó)國(guó)家實(shí)驗(yàn)室 Pacific Northwest 已經(jīng)基于 Bow IPU 嘗試做一些基于 Transformer 的模型以及圖神經(jīng)網(wǎng)絡(luò)，面向計(jì)算化學(xué)和網(wǎng)絡(luò)安全方面的應(yīng)用，且給出了比較正面的反饋。

　　延續(xù) 3D 封裝，開(kāi)發(fā)超越人腦的超級(jí)智能機(jī)器

　　Bow IPU 使用 3D 封裝只是起點(diǎn)，面向未來(lái)，Graphcore 正在開(kāi)發(fā)一款可以用來(lái)超越人腦處理的超級(jí)智能機(jī)器。

　　Graphcore 將這款正在研發(fā)的產(chǎn)品命名為 Good Computer，一方面希望計(jì)算機(jī)能夠?yàn)檫@個(gè)世界帶來(lái)正面的影響，另一方面致敬著名計(jì)算機(jī)科學(xué)家 Good。

　　基于 3D WoW，預(yù)計(jì)未來(lái) Good Computer 將包含 8192 個(gè) IPU，提供超過(guò) 10 Exa-Flops 的 AI 算力，實(shí)現(xiàn) 4 PB 的存儲(chǔ)，可以助力超過(guò) 500 萬(wàn)億參數(shù)規(guī)模的人工智能模型的開(kāi)發(fā)。

　　取決于不同的配置，Good Computer 價(jià)格將在 100 萬(wàn)美元到 1.5 億美元之間。

　　盧濤表示，開(kāi)發(fā) Good Computer 還是會(huì)沿用 IPU 的體系結(jié)構(gòu)，IPU 的存儲(chǔ)是在處理器里面，雖然不叫類(lèi)腦、內(nèi)存計(jì)算或存算一體，但從某種程度上而言，IPU 的運(yùn)作機(jī)理接近大腦計(jì)算的工作原理，只是把計(jì)算和存儲(chǔ)相結(jié)合。

　　另外，Graphcore 也將從軟件方面更有效支持稀疏化以達(dá)到類(lèi)腦的計(jì)算量。

特別提醒：本網(wǎng)信息來(lái)自于互聯(lián)網(wǎng)，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí)，對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。本站不承擔(dān)此類(lèi)作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。如若本網(wǎng)有任何內(nèi)容侵犯您的權(quán)益，請(qǐng)及時(shí)聯(lián)系我們，本站將會(huì)在24小時(shí)內(nèi)處理完畢。