2023年以來，以ChatGPT為代表的生成式 AI（AIGC，Artificial Intelligence Generated Content）技術成為整個科技行業最熱門的討論話題。業內大模型已推出千億、萬億級參數量，底層GPU算力部署規模也達到萬卡級別，對智能算力的需求不斷增長。

在AI大模型的訓練中，數據中心已經成為了AI運算的“大腦”，網絡的性能成為了制約其規模擴展和性能提升的關鍵因素，一旦網絡性能不佳，就會影響分布式訓練的質量和速度。而EQDS技術，正是這個“大腦”中不可或缺的一部分。

何為EQDS？    

EQDS，全稱為Edge-queued datagram service，是一種新型的數據報服務，它的出現為數據中心帶來了革命性的變革。該技術將幾乎所有的排隊操作從數據中心網絡移動到了主機端側，對數據中心網絡流量傳輸進行了優化，包括帶寬提升、時延降低、流量負載均衡等。這就像是給數據中心裝上了一個“加速器”，讓數據傳輸更加流暢、高效。

EQDS DPDK可以在Host主機的用戶空間運行，提供類似DMA內存直接訪問能力。更重要的是，EQDS的實現不需要依賴于特定的硬件網卡，應用程序可以直接在用戶態執行數據傳輸，不需要在內核態與用戶態之間做上下文切換。這意味著，無論是通用計算、存儲還是高性能計算場景，EQDS都能輕松勝任。

EQDS是如何產生的？    

既然EQDS如此優秀，那它又是如何產生的呢？其實，EQDS的出現并非偶然。TCP協議雖然廣泛適用，但由于其本身的機制，導致通信過時延增加；RDMA技術雖然適用于高速網絡，但其只對擁塞信號“事后”作出反應的機制，也導致了長尾時延的增加。此外，TCP流量和RDMA流量共存時，會貪婪地占用帶寬，導致RDMA被抑制。正是在這樣的背景下，EQDS應運而生。

EQDS基于Credit信令機制，在無需交換機參與下實現了端到端的擁塞控制。主機接收端分發credit，確保主機發送端流量在接收端不會過載，解決了動態時延不確定性問題。

利用交換機逐包ECMP的方式，實現網絡側的負載均衡，同時在無需專用NIC支持的情況下實現接收端的數據包重組。

采用EQIF隧道技術，建立EQDS virtual interface虛擬隊列和隧道細粒度的調度策略，實現TCP和RDMA流量的公平共享。

經過實測驗證，EQDS技術在存儲網絡NVMe-OF場景下表現優異。

在不同網卡、不同場景下，NVMe over EQDS的性能表現幾乎相同，且明顯優于NVMe over TCP，稍遜色于NVMe over RDMA。當然，由于EQDS DPDK運行在用戶態，測試主機的CPU較低，無法完全發揮EQDS的性能。不過，只要采用AMD EPYC及以上的CPU，EQDS的性能將會得到充分發揮。

總的來說，EQDS技術為數據中心帶來了諸多價值。

它兼容標準網卡、協商階段確定對EQDS的支持、兼容與傳統網卡的TCP/IP通信、業務無感部署、基于EQIF欺騙應用層實現應用層面零修改、兼容RDMA、TCP/IP業務、數據面去RDMA+QP基于EQDS轉發、端側基于標卡實現DMA進行內存拷貝、端到端穩定低延時等。

EQDS可以透明地加速傳統的TCP和RDMA協議棧，并支持傳輸協議的演進，同時受益于未來的交換機增強功能而無需修改更高層的協議棧。更重要的是，基于EQDS的Credit機制實現發端流控、基于Spray方式充分利用所有鏈路、基于EQIF隧道策略實現多業務的公平調度等特性，使得EQDS成為了AI時代數據中心的新寵。

銳捷網絡推出AIGC網絡方案，囊括高性能以太網絡解決方案以及AI-FlexiForce網絡解決方案，來應對全球互聯網流量不斷增長和數據應用需求多樣化的發展趨勢。銳捷網絡致力于推動網絡技術的進步和發展，持續進行技術研發和產品開放創新，積極探索國內外先進技術，為全球的數據中心提供更加高效、可靠、智能的網絡解決方案，助力互聯網、運營商等各行各業的快速發展。