简谈以太网RDMA网卡的应用

时间：2020-04-01


各式各样的数据在网络介质中通过网络协议(如TCP/IP)进行传输时，如果信息量过大而不加以限制的话，那么**额的网络流量就会导致设备反应缓慢，由此就造成了网络延迟。

延迟越低越好，效率越高越好，这不仅仅是数据中心网络的要求，我们平常使用的内部网络同样也希望如此。当前的网络速度有万兆、2.5万兆、4万兆，甚至10万兆、20万兆……的趋势都已经来了，网络带宽似乎已经不是主要的瓶颈了，而服务器系统和CPU本身逐步转为了制约网络I/O的瓶颈，影响服务器的整体性能。
1. 如何解决问题？
解决问题的基本思路就是：通过应用程序直接读取和写入远程内存，而*CPU介入进行多次拷贝内存，还可绕过内核直接向网卡写数据，实现了高吞吐量、**低时延和低CPU开销的效果。
实现这样功能的技术就是RDMA（Remote Direct Memory Access）技术，也就把RDMA【远程直接数据存取】技术运用到了网卡控制器上。

那么具有RDMA功能的网卡和不具有RDMA网卡的有什么不同呢？
首先不具备RDMA功能的网卡的传输路径过程是：应用程序--->系统--->内存--->CPU--->内存--->硬盘---->内存--->网卡。
而具有RDMA功能的网卡，在进行数据传输时候，网卡绕过CPU来实现服务器间的内存数据交换：应用程序--->内存--->硬盘---->内存--->网卡。大大地简化了过程，传输效率有了明显的提升。

 

具有RDMA功能的网络和不具有RDMA功能的网络工作示意【图片来自网络】
（绿色表示RDMA的工作路径，橙色表示不具有RDMA功能的工作路径）

RDMA作为一种硬件实现的网络传输技术，可以大幅提升网络传输实效，帮助网络IO密集的业务（比如分布式存储、分布式数据库等）获得更低的时延以及更高的吞吐。
目前市场上能够支持RDMA功能的网卡产品并不普及，如我们熟知的Intel网卡，也只在X722-da2/da4上加入了单一的iWARP功能。
而由深圳市联瑞电子有限公司推出的三款国产万兆光纤网卡：联瑞LRES1004PF-2SFP+、联瑞LRES1005PF-4SFP+、联瑞LRES1009PF-SFP+均具有RoCE和iWARP的RDMA功能，同时成为国内首批具有RDMA功能的国产网卡之一。接下来还会有25G的支持RDMA的光纤网卡上市，我们拭目以待。
 
2. RDMA的应用
（1）在服务器群集上应用
RDMA用来把小型服务器连接为一个群集；可以处理一些十几颗处理器的高端服务器才能够处理的大型数据库。
（2）在高速集群和服务器区域网上应用
采用RDMA来获取高性能的协议，包括SDP（Sockets Direct Protocol）、SRP（SCSI RDMA Protocol）和DAFS（Direct Access File System）；
（3）在分布式应用程序的集群上应用
采用RDMA的通信库，包括DAPL（Direct Access Provider Library）、MPI（Message Passing Interface）和VIPL（Virtual Interface Provider Library），运行在分布式应用程序的集群是RDMA 能够大显身手的领域之一；
通过DAPL或VIPL以及集群上运行的数据库软件来使用RDMA，可在相同的节点数目下获得更高的性能和更好的延展性。使用MPI的集群科技运算应用程序，通过支持互连RDMA 实现了低延迟时间低开销和高吞吐量，这一结果也使它获得了巨大的性能提升其他初期的RDMA 应用；
iWARP/RDMA这类技术是通过DAFS的远程文件服务器访问、通过SRP的存储设备访问RDMA技术成为高速集群系统和存储域网络的基本特征技术。
还有用于RDMA的iSCSI扩展的iSER，充分利用了RDMA的功能。
RDMA的其他早期应用还有通过DAFS的远程文件服务器访问和通过SRP的刀片服务器存储访问。
（4）在NAS和SAN上应用
传统的直连存储DAS是以服务器为中心的存储结构，这一存储体系结构存在容量限制、连接距离有限、不易于共享和管理等不可克服的缺点。已经不能够满足网络时代的应用需求，
存储技术发生巨大变化出现了，出现了如：网络附加存储NAS、存储区域网络SAN。这些既能为网络上的应用系统提供丰富快速简便的存储资源，又能共享存储资源并对其实施集中管理，成为当前理想的存储管理和应用模式，
但NAS结构存在一些难以解决的问题如：传输能力有限、可扩展性有限、数据备份能力有限、并且不能对数据库服务提供有效的支持。
DAFS把RDMA的优点和NAS的存储能力集成在一起，全部的读写操作都直接通过RDMA驱动器执行，从而降低了网络文件协议所带来的系统负载，今后的NAS存储系统将会采用DAFS技术来提高系统性能，并且在性能和价格上与SAN 存储系统进行有力的竞争。
（5）在高性能数据中心上应用
数据中心、AI训练、云存储等

词条
词条说明
Smart NIC是什么？FPGA智能网卡简析
一、智能网卡是时代技术发展的需求 5G的到来，对软件定义网络（SDN）和网络功能虚拟化（NFV）提出了更加迫切的需求。现有的网络基础设施可支撑千**沟通，但不能支持实时沟通的数十亿物联网设备，这就需要运营商对网络进行虚拟化，构建更加灵活的网络基础设施。但是，软件解决方案并不能提供足够的网络可靠性和服务质量，而具有高级可编程功能SmartNIC，将在虚拟化网络中扮演非常重要的角色。打开UC浏
SIAF2019|深圳联瑞携以太网解决方案赋能工业自动化产业升级
SIAF广州国际工业自动化技术及装备展览会将于2019年3月10至12日在广州**琶洲展馆A区盛大举办。如往年一样，此次展会将透过展馆和专区将展品分门别类，共有四大主题展馆，以便观众网罗*产品和技术。四大主题展馆 2.1馆以机器人/智能装备/智能仓储为主题，展品以工业机器人技术及配件、气动系统及元器件，以及智能装备为主。 3.1和4.1馆以综合自动化/智慧工厂为主题，一如以往的
简说：边缘计算与防雷网卡
边缘计算（Edge Computing）起源于传媒领域，是指在靠近物或数据源头的一侧，采用网络、计算、存储、应用核心能力为一体的开放平台，就近提供较近端服务。其应用程序在边缘侧发起，产生更快的网络服务响应，满足行业在实时业务、应用智能、安全与隐私保护等方面的基本需求。边缘计算处于物理实体和工业连接之间，或处于物理实体的*。而云端计算，仍然可以访问边缘计算的历史数据。边缘网络通常由终端设备
国产光纤网卡：助力院校科学研究
国产光纤网卡：助力院校科学研究当前，互联网的连通所向披靡地覆盖了全民的生活大小事，给人民带来了*的便利性，浏览网络新闻、观看网络视频、网上购物……造就了“不出门过日子也**，不出门知晓天下事”的社会景象。在享受着互联网带来较大便利的同时，我们也知晓它与物理学有着千丝万缕的关系。早前的万维网是在欧洲核子研究组织（CERN）的高能物理学家们为了探索未知的希格斯粒子世界时提出并且实现的，同时其