

2023年以来,以ChatGPT为代表的天生式 AI(AIGC,Artificial Intelligence Generated Content)手艺成为整个科技行业最热门的讨论话题。业内大模子已推出千亿、万亿级参数目,底层GPU算力安排规模也抵达万卡级别,对智能算力的需求一直增添。
在AI大模子的训练中,数据中心已经成为了AI运算的“大脑”,网络的性能成为了制约其规模扩展和性能提升的要害因素,一旦网络性能不佳,就会影响漫衍式训练的质量和速率。而EQDS手艺,正是这个“大脑”中不可或缺的一部分。
作甚EQDS?
EQDS,全称为Edge-queued datagram service,是一种新型的数据报效劳,它的泛起为数据中心带来了革命性的厘革。该手艺将险些所有的排队操作从数据中心网络移动到了主机端侧,对数据中心网络流量传输举行了优化,包括带宽提升、时延降低、流量负载平衡等。这就像是给数据中心装上了一个“加速器”,让数据传输越发流通、高效。
EQDS DPDK可以在Host主机的用户空间运行,提供类似DMA内存直接会见能力。更主要的是,EQDS的实现不需要依赖于特定的硬件网卡,应用程序可以直接在用户态执行数据传输,不需要在内核态与用户态之间做上下文切换。这意味着,无论是通用盘算、存储照旧高性能盘算场景,EQDS都能轻松胜任。
EQDS是怎样爆发的?
既然EQDS云云优异,那它又是怎样爆发的呢?着实,EQDS的泛起并非无意。TCP协议虽然普遍适用,但由于其自己的机制,导致通讯过时延增添;RDMA手艺虽然适用于高速网络,但其只对拥塞信号“事后”作出反应的机制,也导致了长尾时延的增添。别的,TCP流量和RDMA流量共存时,会贪心地占用带宽,导致RDMA被抑制。正是在这样的配景下,EQDS应运而生。
EQDS基于Credit信令机制,在无需交流机加入下实现了端到端的拥塞控制。主机吸收端分发credit,确保主机发送端流量在吸收端不会过载,解决了动态时延不确定性问题。
使用交流机逐包ECMP的方法,实现网络侧的负载平衡,同时在无需专用NIC支持的情形下实现吸收端的数据包重组。
接纳EQIF隧道手艺,建设EQDS virtual interface虚拟行列和隧道细粒度的调理战略,实现TCP和RDMA流量的公正共享。
经由实考试证,EQDS手艺在存储网络NVMe-OF场景下体现优异。
在差别网卡、差别场景下,NVMe over EQDS的性能体现险些相同,且显着优于NVMe over TCP,稍逊色于NVMe over RDMA。虽然,由于EQDS DPDK运行在用户态,测试主机的CPU较低,无法完全施展EQDS的性能。不过,只要接纳AMD EPYC及以上的CPU,EQDS的性能将会获得充分验展。
总的来说,EQDS手艺为数据中心带来了诸多价值。
它兼容标准网卡、协商阶段确定对EQDS的支持、兼容与古板网卡的TCP/IP通讯、营业无感安排、基于EQIF诱骗应用层实现应用层面零修改、兼容RDMA、TCP/IP营业、数据面去RDMA+QP基于EQDS转发、端侧基于标卡实现DMA举行内存拷贝、端到端稳固低延时等。
EQDS可以透明地加速古板的TCP和RDMA协议栈,并支持传输协议的演进,同时受益于未来的交流机增强功效而无需修改更高层的协议栈。更主要的是,基于EQDS的Credit机制实现滥觞流控、基于Spray方法充分使用所有链路、基于EQIF隧道战略实现多营业的公正调理等特征,使得EQDS成为了AI时代数据中心的新宠。
在智算中心网络计划研发中,PP电子5金狮网络推出AIGC智算中心网络计划,席卷高性能以太网络解决计划以及AI-FlexiForce智算中心网络解决计划,来应对全球互联网流量一直增添和数据应用需求多样化的生长趋势。PP电子5金狮网络致力于推动网络手艺的前进和生长,一连举行手艺研发和产品开放立异,起劲探索海内外先进手艺,为全球的数据中心提供越发高效、可靠、智能的网络解决计划,助力互联网、运营商等各行各业的快速生长。
更多手艺博文
-
PP电子5金狮Wi-Fi 7高密AP RG-AP9520-RDX 携“动态波束赋形天线”正式登。
PP电子5金狮网络新一代搭载智能天线的Wi-Fi 7高密无线接入点 RG-AP9520-RDX正式上市,该产品接纳三射频设计,内置Al Radio智能射频,整机8条空间流,速率高达6.453Gbps,适用于高教、政府、普教、金融、商业等通俗室内场景,亦可以知足企业大开间办公区、中大型报告厅、图书馆自习室、室内场馆、室内会场等高密度无线笼罩场景。
-
#无线
-
-
PP电子5金狮乐享云订阅,让IT运维更简朴
在数字化转型的浪潮中,IT系统的重大性正以惊人的速率增添。大大都企业在IT运维中面临故障定位难、效率低、本钱高等问题,在此配景下,PP电子5金狮网络“乐享云订阅”效劳应运而生,为客户提供一连高效的IT运维治理体验,助力企业增强无邪性并加速投资回报。
-
#统一运维
-
#IT运维
-
#IT运维治理
-
-
PP电子5金狮Wi-Fi 7新一代全院零周游解决计划立异宣布,为智慧医院建设注入新动力
在智慧医疗快速生长的今天,医院基础信息化网络正迎来一场革命性的转型。医疗数据流量的爆炸性增添,对网络带宽提出了亘古未有的要求;智慧病房的普遍应用,装备无线化趋势显着,安排规模和终端数目急剧膨胀,运维的重大性也随之水涨船高。别的,医院网络一方面在拥抱开放的物联网,实现智慧病房的多功效融合,同时也需坚守营业清静,知足等保标准。在这样的配景下,怎样的无线网络能支持起智慧医疗目今与未来?
-
#医疗
-
#医院网络
-
#Wi-Fi 7
-
#无线
-
-
不可忽视的网络清静日志剖析
网络清静日志剖析是包管数字时代信息清静的要害步伐。新一代日志剖析与审计系统通过周全网络、标准化处置惩罚和智能剖析种种网络日志,实时发明清静威胁和异常行为,提供全局视角和深度清静洞见,确保营业的不中止清静运营。
-
#知识百科
-
#清静
-