目前GPU服務器主要應用于科學計算、深度學習、高性能計算、視頻編解碼等不同場景領域。它為應用程序提供非凡的加速計算能力，將應用程序的計算密集型工作負載轉移到GPU上。根據Market Growth Insight數據顯示，到2026年底，應用于人工智能市場的GPU份額預計將達到20億美元。

一、什么是GPU服務器？

GPU即圖形處理器，又稱顯示核心、視覺處理器、顯示芯片，是一種專門用做圖像和圖形相關運算工作的微處理器。GPU服務器是基于GPU的應用于視頻編解碼、深度學習、科學計算等多種場景的快速、穩定、彈性的計算服務。

二、GPU服務器有什么作用？

GPU加速計算可以提供非凡的應用性能，能將應用計算密集部分的工作量轉移到GPU中，同時CPU仍然運行其余的程序代碼。從用戶的角度來看，應用程序的運行速度明顯加快。

理解GPU和CPU區別的一個簡單方法是比較它們處理任務的方式。CPU由幾個針對順序串行處理進行優化的核心組成，而GPU則具有由成千上萬個更小、更高效的核心組成的大規模并行計算架構(專為同時處理多個任務而設計)。

三、GPU服務器的主要應用場景

1、海量計算處理

GPU 服務器超強的計算功能可應用于海量數據處理方面的運算，如搜索、大數據推薦、智能輸入法等：

– 原本需要數天完成的數據量，采用 GPU 服務器在數小時內即可完成運算。

– 原本需要數十臺 CPU 服務器共同運算集群，采用單臺 GPU 服務器可完成。

2、深度學習模型

GPU服務器可作為深度學習訓練平臺：

– GPU服務器可直接加速計算服務，亦可直接與外界連接通信。

– GPU服務器和云服務器搭配使用，云服務器為 GPU 服務器提供計算平臺。

– 對象存儲 COS 可以為 GPU 服務器提供大數據量的云存儲服務。

四、如何正確選擇GPU服務器?

選擇GPU服務器時，首先要考慮業務需求，選擇合適的GPU型號。在HPC高性能計算中，也需要根據精度進行選擇。比如一些高性能計算要求雙精度，這時如果用P40或P4就不合適，只能用V100或P100。同時對顯存容量也會有要求。比如石油或石化勘探中的計算應用，對顯存的要求更高；有的還對總線標準有要求，所以GPU型號的選擇首先要看業務需求。

當GPU型號選定后，再考慮用什么樣GPU的服務器。這時我們需要考慮以下幾種情況：

1、租用邊緣服務器時，需要根據數量選擇相應的服務器如T4或P4，同時需要考慮服務器的使用場景，如火車站卡口、機場卡口或公安卡口等；中心端做Inference時可能需要V100的服務器；需要考慮吞吐量以及使用場景、數量等。

2、需要考慮客戶本身的使用人群和IT運維能力，對于BAT這樣的大公司來說，自身的運營能力比較強，所以這個時候會選擇通用的PCI-e服務器；對于一些IT運維能力不太強的客戶，更注重數字和數據標注。我們把這些人稱為數據科學家，選擇GPU服務器的標準會有所不同。

3、需要考慮配套軟件和服務的價值。

4、考慮整體GPU集群系統的成熟度和工程效率。比如像DGX這種集成GPU一體化的超級計算機，它有非常成熟的從底端的操作系統驅動Docker到其他部分都是固定且優化過的，這時效率比較高。

作為國內品牌服務器廠商，藍海大腦機架式GPU服務器擁有大規模并行處理能力和無與倫比的靈活性。它主要用于為計算密集型應用程序提供足夠的處理能力。GPU的優勢在于可以由CPU運行應用程序代碼，同時圖形處理單元(GPU)可以處理大規模并行架構的計算密集型任務。專用GPU服務器是醫療成像、廣播和視頻轉碼市場的理想選擇。

五、GPU服務器的種類有哪些？

對GPU服務器的分類，首先需要確定一個角度(維度)來對GPU服務器做分類。

1、按GPU服務器外形分類。 分為塔式GPU服務器、機架式GPU服務器

1）塔式GPU服務器

塔式GPU服務器機箱比較大，服務器的配置也可以很高，冗余擴展更可以很齊備，所以它的應用范圍非常廣，應該說使用率最高的一種服務器就是塔式服務器。我們平時常說的通用服務器一般都是塔式服務器，它可以集多種常見的服務應用于一身，不管是速度應用還是存儲應用都可以使用塔式服務器來解決。成本低于機架、刀片服務器。由于機箱較大，具備良好的擴展能力和散熱性能，可以配置多路處理器、多根內存、多塊硬盤、多個冗余電源和散熱風扇。

2）機架式服務器

外形看不像計算機，而像交換機，有1U（1U=1.75英寸=4.445cm）、2U、4U等規格。機架式服務器安裝在標準的19英寸機柜里面。該結構多為功能型服務器。

對于信息服務企業（如ISP/ICP/ISV/IDC）而言，選擇服務器時首先要考慮服務器的體積、功耗、發熱量等物理參數，因為信息服務企業通常使用大型專用機房統一部署和管理大量的服務器資源，機房通常設有嚴密的保安措施、良好的冷卻系統、多重備份的供電系統，其機房的造價相當昂貴。如何在有限的空間內部署更多的服務器直接關系到企業的服務成本，通常選用機械尺寸符合19英寸工業標準的機架式服務器。機架式服務器也有多種規格，例如1U（4.445cm高）、2U、4U、6U、8U等。通常1U的機架式服務器最節省空間，但性能和可擴展性較差，適合一些業務相對固定的使用領域。4U以上的產品性能較高，可擴展性好，一般支持4個以上的高性能處理器和大量的標準熱插拔部件。管理也十分方便，廠商通常提供相應的管理和監控工具，適合大訪問量的關鍵應用，但體積較大，空間利用率不高。

2、按GPU服務器接口進行分類

目前市面上可以進行交付的主要是傳統PCI-e總線和NV-Link接口。

1）NV-Link總線技術標準GPU服務器

NV-Link接口GPU的典型代表是NVIDIA V100，采用SXM2接口。DGX 2上有一個SXM3的接口。具有NV-Link總線標準的GPU服務器可以分為兩類：一類是英偉達設計的DGX超級計算機，另一類是英偉達合作伙伴設計的具有NV-Link接口的服務器。DGX超級計算機不僅提供硬件，還提供相關的軟件和服務。

2）傳統PCI-e數據總線GPU服務器

傳統PCI-e總線GPU服務器分為兩類，一類是OEM服務器，如曙光、浪潮、華為等國際品牌；另一類是非OEM服務器，也包括很多種。

3、按服務器環境分類

加固GPU服務器 也叫抗惡劣環境GPU服務器。一般是指在特殊的環境下工作的GPU服務器，如：車載GPU服務器、彈載GPU服務器、機載GPU服務器、船舶GPU服務器等特殊行業應用。不同應用行業、不同應用環境下的GPU服務器應用指標也不相同。一般來說車載GPU服務器最重要的技術指標是高低溫指標，機載GPU服務器最重要的技術指標是震動指標（沖擊震動或均速震動），船舶GPU服務器最重要的技術指標是三防指標（鹽、霧、霜），彈載GPU服務器要求的技術指標是就更全面啦！生產廠商幾乎都是國家隊如：706、716、909等。

4、按GPU散熱分類

液冷GPU服務器和水冷GPU服務器最大的不同點是散熱的方式不同。水冷服務器散熱方式是水（水的熱效比目前是優于液體的熱效比），但水有導電的通用性，所以水冷服務器目前還沒有在市上大量應用，液冷GPU服務器則不同，液冷GPU服務器是綜合熱效比、導熱比、可靠性等各項指標技術的綜合性技術的產物。最大的特點就是靜音、節能35%。目前生產廠商有如：藍海大腦、阿里、百度、字節跳動（正在研發中）等。

5、按CPU品牌分類

按照GPU品牌類型可分為Intel 處理器的GPU服務器、AMD 處理器的 GPU服務器或者ARM芯片的GPU服務器等。

6、按應用場景分類

按照應用場景可將GPU服務器分為圖形加速GPU服務器(如視頻編解碼)、AI訓練 GPU服務器、AI推理GPU服務器、科學計算GPU服務器。

申請創業報道，分享創業好點子。點擊此處，共同探討創業新機遇！