数字世界的基石：英特尔以太网800系列适配器技术指南

  1906年,一家以复印/打印为主体业务的公司施乐(Xerox),在美国康涅狄格州的费尔菲尔德县成立。如今,该公司股票价格在13.7美元左右,和当今的全球PC行业标准制定者英特尔的股价相差数倍,但是就是这一个绝大多数人都未曾听说过的施乐公司,诞生了奠定未来的以太网技术。

  1973年,罗伯特·梅特卡夫提出了以太网的概念,并在Xerox Palo Alto Research Center (PARC)实验室中开发了第一个以太网原型系统。在随后的50年里,以太网经历了硬件商业化、IEEE 802.3标准化、双绞线Mbps传输网络的诞生直到……100Gbps以太网。随着以太网发展的还有服务器OEM/ODM服务商,有数据表示,在2022年全年,全球服务器出货金额达到1000.10亿美元,同比增长9.88%。出货量达到1350万台,同比增长10.66%。中国在世界服务器市场的位置举足轻重,在2022年,中国服务器市场出货金额全年预计达到273.4亿美元,占据全球服务器出货金额的1/4。

  目前服务器发展主要受到以下几个趋势影响:云计算、AI、边缘计算。这三点对以太网的依赖大多数表现在以下几个方面:

  高带宽和低延迟:由于云计算、AI和边缘计算需要大量数据的传输和处理,因此对网络通讯的带宽和延迟要求较高;

  云计算、AI和边缘计算需要网络通讯能够保持稳定并且可靠地传输数据,以确保系统的正常运行;

  由于涉及到大量的数据传输和处理,不管是商业网络还是国家敏感部门的通讯,需要具备高度的安全性,以防止数据泄露和网络攻击;

  云计算、AI和边缘计算需要网络通讯具备灵活性和可扩展性,以适应一直在变化的业务需求、数据规模扩充和成本效率优化。

  由于涉及到大量的数据传输和处理,网络通讯需要具备智能化的管理能力,以优化网络资源的利用和提高系统的性能。

  自2013年始,英特尔® 以太网适配器和控制器全球出货量持续处于良性上涨通道中,并在2022年创下历史新高。

  采购高性能以太网适配器的客户,正在面临本世纪以来最大的挑战,数据爆炸、云原生和微服务、工作负载演变等一系列产业与技术革命,正在冲击传统网络资源供应商。边缘计算的兴起,将数据处理和存储功能从传统的集中式数据中心转移到接近数据源和终端用户的边缘设备上。总的来说,边缘计算是一种利用边缘设备做数据处理和存储的计算模式,旨在提高数据处理效率,降低延迟,并支持大规模的物联网和智能设备应用。

  2022年,生成式AI模型一炮而红,大部分生成式AI模型采用了基于Transformer的架构,这种架构在自然语言处理领域中表现很出色,因为它能够在处理长文本时保持较好的性能。这使得AI模型能够生成自然、流畅的文本,不仅被人们作为聊天工具,还大范围的使用在法律、自媒体等几乎所有行业。

  该模型采用了大规模的预训练数据集,这使得它能够学习到更多的语言知识和语言模式。这些预训练数据集包括了从网络上收集的大量文本数据,如百科、新闻和网络用户的发帖等。这一些数据集使得生成式AI模型具备了更强的语言理解和生成能力,从而在自然语言生成领域中表现出色。

  巨大的访问请求+巨大的模型库,构成了生成式AI非常高的硬件壁垒,即便是AI语言大模型的代码公开发布,即便是全球用户对生成式AI资源请求如此渴求,也鲜有民间公司再组织起类似于OpenAI这类超大语言模型供全民使用,这也在无形中给服务器OEM/ODM商创造了一片新蓝海。

  当然了,要响应汇集全球海量访问请求的生成式AI模型服务器,对网络硬件的要求也极高。生成式AI模型常常要大量的内存来存储模型参数和中间计算结果。因此,服务器需要具备大容量的内存和硬件存储空间,如数百GB的内存容量进行交换数据,数PT的存储空间用来保证模型训练,最后为了能够更好的保证生成式AI模型能快速地接收和发送数据,服务器需要具备高带宽的网络接口,如更高速的网络接口。

  构建现代互联网基础设施的服务器节点进程,目前正面临了严峻的挑战。一方面服务提供商(SP)继续投入大量资金来扩展其网络并满足一直增长的数据流量需求,仅2018年到2023年,物联网消费市场已从61亿增长到147亿,这些都意味着网络基础设施需要持续的投资才能跟上,而服务提供商也在继续投入大量资金来扩展其网络并满足一直增长的数据流量需求。

  然而另一方面,服务器产品供应商面临来自其他同质化严重的制造商的竞争压力,不得不降低产品利润以维持竞争力;在全世界内,原材料价格波动、全球化供应链脱节、劳动力成本上升等因素已经导致了生产所带来的成本上升;即便在国内,社会对环保和可持续发展的关注也在持续不断的增加,OEM商需要仔细考虑如何降低产品的能耗和环境影响,以响应“零碳发展”号召,符合社会和政府的要求。

  以物联网技术为例,目前每个区域的物联网的设备接入需求可能还只是“数以千计”,而在未来可预测的数年内,将有数十亿个小工具连接到互联网,单是人体内部或许都将有大量高速网络的植入体设备。大量连接互联网的小工具无法通过物联网系统连接。因此,必须实施分散式架构,以最好能够降低服务器的负担。连接问题能在区块链技术中得到解决,而区块链技术又需要具备如下特征的节点:

  在Intel® Ethernet 800 Series系列新产品前,大部分网络服务供应商广泛采用了英特尔500/700系列适配器。英特尔X710系列10 Gb以太网(GbE)服务器网络适配器可满足下一代数据中心的苛刻需求。通过为服务器和网络虚拟化、小数据包性能和低功耗提供无与伦比的功能;数据中心网络具有灵活性、可扩展性和弹性。

  上一代产品Intel® Ethernet 700 Series已拥有非常出色的网络服务处理性能,支持高达25Gbe规范,为客户提供差异化的、安全的互联网服务。包括文件防火墙:即经过签名和身份验证的FW保护、FW安全检测和恢复措施;

  VXLAN、NVGRE和GENEVE资源卸载:这些无状态资源卸载为覆盖网络保留了应用程序性能。有了这些卸载,就非常有可能在CPU核心之间优化分配网络流量。同时,X710从主机软件中卸载LSO、GSO和校验和,由此减少了CPU开销。

  移动和云应用程序加速:英特尔的数据计划开发工具包(DPDK)提供了一个开放的驱动程序,用户都能够在其中微调小数据包性能,它提供128字节的线字节的近线路速率。

  虚拟化性能:借助英特尔虚拟化技术(VT),X710系列适配器可在虚拟化服务器环境中提供出色的I/O性能。这些适配器通过为每个虚拟机(VM)的网络流量提供智能卸载来减少I/O瓶颈,从而为小数据包提供近线速率速度,并支持几乎无限量的隔离流量,以便您可以扩展云环境;

  使用动态设备个性化(DDP)配置文件包修改表定义,通过应用DDP Profile来满足网络控制器的功能需求;

  低延迟:英特尔® 以太网流导器提供基于硬件的应用转发服务,英特尔数据直接I/O使CPU缓存成为I/O数据的主要收发地,而不是DRAM。综合看来,延迟得到了有效降低,而吞吐量提高了三倍;

  在同样的基础设施上(配合安装的网络适配器)优化不同网络环境下的流量处理,而无需重置网络适配器或者重启服务器。

  而新一代Intel® Ethernet 800 Series不仅带来了100Gbps具备极其高效的队列利用率,通过分配和隔离每个应用程序的网络资源,实现性能最大化。Intel® Ethernet 800 Series系列网络适配器支持高达100Gbps的传输速度,并更新了更多先进功能,以优化工作负载性能。

  提供要求苛刻的云工作负载(包括边缘服务、Web 服务器、数据库应用程序、缓存服务器和存储目标)所需的带宽和更高的应用程序吞吐量。

  为高带宽网络和通信工作负载(包括移动核心、5G RAN 和网络设备)提供数据包分类和排序优化。

  Intel® Ethernet 800 Series系列广泛的适配器产品组合具有不一样的端口数量和外形规格,可在高效利用服务器处理器的同时提供性能。

  对不同介质类型和以太网交换机进行广泛的网络互操作性测试,以实现一流的兼容性

  支持数据平面开发套件(DPDK),可实现更快的网络功能虚拟化(NFV)、高级数据包转发和高效的数据包处理

  Redis内存数据库结构较为复杂,它支持多种数据结构,包括字符串、哈希表、列表、集合、有序集合等,对这种数据的提升也很明显,增加50%可预测性,降低45%延迟,增加30%吞吐量。

  数据库后端服务器对适配器的要求主要有:带宽、延迟、稳定性、支持协议、硬件加速等,使用英特尔800系列以太网适配器后,45%可预测性,降低15%延迟,增加75%吞吐量。

  注:这些是网络中的不同协议和技术,用于在不同的网络层次上实现虚拟化、隔离、封装和路由等功能。

  其中,NV03、VXLAN、NVGRE和GENEVE是用于虚拟化网络的隧道协议,可以在物理网络之上创建虚拟网络,实现虚拟机、容器等虚拟化实例之间的通信。

  C-VLAN、S-VLAN、Q-in-Q是用于实现虚拟局域网(VLAN)的技术,可以将一个物理网络划分为多个逻辑网络,实现网络隔离和流量控制等功能。

  GTP、IPoE、L2TP、MPLS、PPPoE是用于实现不一样的网络连接和路由的协议和技术,如移动网络、宽带接入、虚拟专用网等。

  DDP可定制包过滤,以及增强的数据平面开发套件 (DPDK) ,支持云和NFV工作负载的高级包转发和高效包处理。

  800系列固件在驱动程序初始化时加载了一个增强的DDP配置文件,具有许多特定于工作负载的协议,以获得更大的灵活性。当系统中存在多个800系列以太网适配器时,每个适配器的通道能够正常的使用不同的DDP配置文件进行独立编程。

  随着现代数据中心规模的扩大,一个关键的挑战是---提供可扩展的、可预测的应用程序级执行。ADQ技术通过将队列专用于关键工作负载,通过大幅度减少波幅来提供可预测的高性能,来提升性能可伸缩性和可预测性。通过降低波幅来提高应用程序响应时间的可预测性,可以为任务分配更多的计算服务器,并允许更多的用户访问系统,提供更好的最终用户体验。即使是规模不大的应用程序也可以从更高的一致性中受益,使它们更容易满足服务水平协议(SLA)。

  至于ADQ的具体描述,可以借鉴英特尔的官方描述:应用设备队列(ADQ)是一种队列和转发技术。通过部署具有ADQ的英特尔® 以太网800系列网络适配器,组织能大大的提升可预测性和性能,以提供更好的客户体验并始终如一地满足SLA。ADQ现在支持更广泛的工作负载和环境:容器化、裸机化、虚拟化。ADQ也更加容易配置和部署。在容器化工作负载或CDN上管理延迟、可预测性和吞吐量可能具有挑战性。

  目前已有使用ADQ的商业数据库案例,是来自美国的Aerospike Inc.,这家企业是一家提供高性能NoSQL数据库解决方案的公司。Aerospike公司的基本的产品是Aerospike数据库,这是一个高性能、高可靠性的NoSQL数据库解决方案,专为大规模、实时数据应用而设计。Aerospike数据库具有快速的读写能力、强大的横向扩展性和低延迟的特点,适用于互联网、广告技术、金融服务、物联网等领域的实时数据处理需求。

  Aerospike公司的服务对象主要是那些需要处理大规模实时数据的企业和组织,包括网络公司、广告科技公司、金融服务机构、电子商务平台、物联网设备制造商等。这些客户常常要处理海量数据、实时分析和个性化推荐等应用场景,因此他们要高性能、可靠的数据库解决方案来满足业务需求。Aerospike数据库能够在一定程度上帮助这些客户实现快速的数据访问和实时分析,从而提升业务竞争力。

  目前Aerospike公司实时从大数据中获取有用的样本。根据 Aerospike在英特尔实验室的测试,与之前优化的 NUMA 固定方法相比,ADQ可以使 Aerospike 4.7或更高版本的下一代 NoSQL数据库的吞吐量提高75%以上,最重要的是,在基于第二代英特尔® 至强® 可扩展处理器的双插槽服务器上运行,配置了两个采用 ADQ 技术的英特尔® 以太网800系列网络适配器,ADQ可使吞吐量提高45%以上。

  另一个采用ADQ方案的是企业是推特,根据推特公司的报告,截至2021年第三季度,推特公司在全球拥有3.39亿月活跃用户。这些用户包括个人用户、企业用户以及其他实体用户。而在海量用户的入驻让推特公司服务器不堪重负,根据推特公司的报告,截至2021年第三季度,推特公司在全球拥有3.39亿月活跃用户。这些用户包括个人用户、企业用户以及其他实体用户。在峰值使用期间保持性能时,响应时间受到最慢异常值(尾部延迟)的限制。Twitter和Intel合作,利用ADQ.1加速Twitter的Pelikan Cache框架,实现了高达10倍的尾部延迟改进。

  英特尔® 以太网800系列同时支持IEEE 1588支持两款PTP精确时间协议,v1和v2。产品以个位数纳秒提供更高的精度级别,并能在每个包都进行报告,这种计时精度有助于确保跨网络部署的紧密同步,从5G RAN到金融服务、工业自动化和能源监控。

  800系列以太网适配器的零信任设计理念是一种安全设计策略,默认情况下,组织不应该自动信任任何系统访问请求,这包括来自外部的请求以及内部的请求。零信任要求每一个在授予访问权限之前对访问请求进行验证。

  已签名的固件更新、硬件信任根保护、验证关键设备设置与内置的损坏检测和自动设备恢复。这些功能结合在一起能保证设备安全返回到初始编程状态。

  IEEE 1588:IEEE 1588 也称为精密时间协议(PTP),是一个用于通过计算机网络同步时钟的协议。在局域网上,它可实现微秒以内的时钟精确度,因而适合测量和控制系统。

  iWARP/RDMA:iWARP 通过以太网远程直接内存存取(RDMA)向数据中心提供融合、低延迟的结构化服务。提供低延迟的关键 iWARP 组成部分为内核旁路、直接数据放置和传输加速。

  RoCEv2/RDMA:RoCEv2/RDMA(通过融合以太网 v2 的远程直接内存访问)通过经 UDP/IP 的 RDMA 向数据中心提供融合的低延迟结构服务。UDP/IP(用户数据报协议)是一种通信协议,用于对时间敏感的传输,如视频或语音,它通过不需要接收方的握手来加快通信速度。

  管线共享和避免饥饿,支持多个指令流可以同时在同一个流水线上执行,来提升了系统的并行解决能力和吞吐量;支持灵活的调度策略,例如公平调度、优先级调度等,来确保所有任务或进程都能获得公平的资源分配,从而避免饥饿现象的发生;

  意味着设备或系统能够在PCI总线冷插拔电源管理状态下正常工作。支持PCI电源管理状态D3hot和D3cold表明英特尔® 以太网800系列适配器可以依据需要在不同的电源管理状态下进行切换,以实现能效优化和节能管理。

  支持HTTPS引导的签名UEFI选项ROM,意味着设备的 UEFI(统一扩展固件接口)选项 ROM 被数字签名并且与 HTTPS 引导兼容。Pre-Boot支持HTTPS引导的签名UEFI选项ROM,意味着设备的 UEFI(统一扩展固件接口)选项 ROM 被数字签名并且与 HTTPS 引导兼容。支持HTTPS引导的签名UEFI选项ROM 表明设备的固件扩展能够最终靠数字签名验证,并能与安全的HTTPS引导方式兼容,来提升系统的安全性和可靠性。

  两款以太网网卡的区别主要是接口形态,OCP 3.0网卡采用PCIe Gen4接口,而OCP 2.0网卡采用PCIe Gen3接口。OCP 3.0网卡支持更多的高级网络协议和功能,但是目前来看,由于PCIe形态的通用性更好,该形态目前依然是更多服务商的主流选择。

  支持 IEEE 1588 精度时间协议 v2。为 5G RAN、金融服务和工业用途提供高精度时钟同步

  RDMA 是一种主机卸载、绕过主机的技术,允许应用程序之间利用互联网进行直接内存到内存数据通信

  目前,已经全行业包括云服务、电信运营商、金融、医疗等跨国巨头选择英特尔以太网适配器,例如DigitalOcean、NxtGen、Mail.Ru和金山游戏云等。由英特尔以太网适配器构筑起的服务网络为这些巨头提供了极强的数据弹性、服务可靠性和广泛互操作性的质量阈值;获取具有动态设备个性化(DDP)配置文件包的表定义修改的部分可编程管道;使用英特尔® 以太网自适应虚拟功能(英特尔® 以太网 AVF)降低复杂性并简化升级。而新一代英特尔® 以太网 800 系列网络适配器又带来了应用程序设备队列 (ADQ) 、增强的动态设备个性化(DDP) 、远程直接内存访问(RDMA)等新技术,并将以太网速度从700系列的40Gbps提升到100 Gbps。

  客户可接受英特尔的终身支持,通过英特尔的技术、研发和制造资源走得更远、更快,利用英特尔® 技术进行扩展,推动企业更快向前发展,无论您处在哪个行业或现状如何,也不论您是选择构建还是购买,都有采用英特尔技术的解决方案提供您可信赖的所需性能、安全功能和可扩展性。

  注:英特尔、英特尔标识以及其他英特尔商标是英特尔公司或其子公司在美国和/或其他几个国家的商标。*其他的名称和品牌可能是另外的所有者的资产。 © 英特尔公司版权所

  更多

  用友网络董事长兼CEO王文京认为，随着AI成为全世界IT技术与产业创新的中心，商业创新也进入全面数..

  5月8日，在华为中国合作伙伴大会2023上，华为常务董事、ICT基础设施业务管理委员会主任、企业BG..

  更多

  从1984成立到今天，戴尔已成长为全球知名的电脑、服务器、数据储存设备和网络设备厂商。

  随着5G网络目前在全球各地的开通，5G毫米波在峰值速率上已经展现出了巨大优势。同时，工信部在..

  更多

  ·TECNO Future Lens 2023影像未来分享会 集结行业..

  更多

  更多

  更多

  更多

  更多

  ·英特尔亮相 InfoComm China 2023：用创新技术解锁远程协作新体验

  ·英特尔亮相2023开放原子全球开源峰会:秉持全栈软件开放战略,助推科学技术创新