157 lines
7.2 KiB
ReStructuredText
157 lines
7.2 KiB
ReStructuredText
.. include:: ../disclaimer-zh_CN.rst
|
||
|
||
:Original: Documentation/infiniband/opa_vnic.rst
|
||
|
||
:翻译:
|
||
|
||
司延腾 Yanteng Si <siyanteng@loongson.cn>
|
||
|
||
:校译:
|
||
|
||
王普宇 Puyu Wang <realpuyuwang@gmail.com>
|
||
时奎亮 Alex Shi <alexs@kernel.org>
|
||
|
||
.. _cn_infiniband_opa_vnic:
|
||
|
||
=============================================
|
||
英特尔全路径（OPA）虚拟网络接口控制器（VNIC）
|
||
=============================================
|
||
|
||
英特尔全路径（OPA）虚拟网络接口控制器（VNIC）功能通过封装HFI节点之间的以
|
||
太网数据包，支持Omni-Path结构上的以太网功能。
|
||
|
||
体系结构
|
||
========
|
||
|
||
Omni-Path封装的以太网数据包的交换模式涉及Omni-Path结构拓扑上覆盖的一个或
|
||
多个虚拟以太网交换机。Omni-Path结构上的HFI节点的一个子集被允许在特定的虚
|
||
拟以太网交换机上交换封装的以太网数据包。虚拟以太网交换机是通过配置结构上的
|
||
HFI节点实现的逻辑抽象，用于生成和处理报头。在最简单的配置中，整个结构的所有
|
||
HFI节点通过一个虚拟以太网交换机交换封装的以太网数据包。一个虚拟以太网交换机，
|
||
实际上是一个独立的以太网网络。该配置由以太网管理器（EM）执行，它是可信的结
|
||
构管理器（FM）应用程序的一部分。HFI节点可以有多个VNIC，每个连接到不同的虚
|
||
拟以太网交换机。下图介绍了两个虚拟以太网交换机与两个HFI节点的情况::
|
||
|
||
+-------------------+
|
||
| 子网/ |
|
||
| 以太网 |
|
||
| 管理 |
|
||
+-------------------+
|
||
/ /
|
||
/ /
|
||
/ /
|
||
/ /
|
||
+-----------------------------+ +------------------------------+
|
||
| 虚拟以太网切换 | | 虚拟以太网切换 |
|
||
| +---------+ +---------+ | | +---------+ +---------+ |
|
||
| | VPORT | | VPORT | | | | VPORT | | VPORT | |
|
||
+--+---------+----+---------+-+ +-+---------+----+---------+---+
|
||
| \ / |
|
||
| \ / |
|
||
| \/ |
|
||
| / \ |
|
||
| / \ |
|
||
+-----------+------------+ +-----------+------------+
|
||
| VNIC | VNIC | | VNIC | VNIC |
|
||
+-----------+------------+ +-----------+------------+
|
||
| HFI | | HFI |
|
||
+------------------------+ +------------------------+
|
||
|
||
|
||
Omni-Path封装的以太网数据包格式如下所述。
|
||
|
||
==================== ================================
|
||
位 域
|
||
==================== ================================
|
||
Quad Word 0:
|
||
0-19 SLID (低20位)
|
||
20-30 长度 (以四字为单位)
|
||
31 BECN 位
|
||
32-51 DLID (低20位)
|
||
52-56 SC (服务级别)
|
||
57-59 RC (路由控制)
|
||
60 FECN 位
|
||
61-62 L2 (=10, 16B 格式)
|
||
63 LT (=1, 链路传输头 Flit)
|
||
|
||
Quad Word 1:
|
||
0-7 L4 type (=0x78 ETHERNET)
|
||
8-11 SLID[23:20]
|
||
12-15 DLID[23:20]
|
||
16-31 PKEY
|
||
32-47 熵
|
||
48-63 保留
|
||
|
||
Quad Word 2:
|
||
0-15 保留
|
||
16-31 L4 头
|
||
32-63 以太网数据包
|
||
|
||
Quad Words 3 to N-1:
|
||
0-63 以太网数据包 (pad拓展)
|
||
|
||
Quad Word N (last):
|
||
0-23 以太网数据包 (pad拓展)
|
||
24-55 ICRC
|
||
56-61 尾
|
||
62-63 LT (=01, 链路传输尾 Flit)
|
||
==================== ================================
|
||
|
||
以太网数据包在传输端被填充，以确保VNIC OPA数据包是四字对齐的。“尾”字段
|
||
包含填充的字节数。在接收端，“尾”字段被读取，在将数据包向上传递到网络堆
|
||
栈之前，填充物被移除（与ICRC、尾和OPA头一起）。
|
||
|
||
L4头字段包含VNIC端口所属的虚拟以太网交换机ID。在接收端，该字段用于将收
|
||
到的VNIC数据包去多路复用到不同的VNIC端口。
|
||
|
||
驱动设计
|
||
========
|
||
|
||
英特尔OPA VNIC的软件设计如下图所示。OPA VNIC功能有一个依赖于硬件的部分
|
||
和一个独立于硬件的部分。
|
||
|
||
对IB设备分配和释放RDMA netdev设备的支持已经被加入。RDMA netdev支持与
|
||
网络堆栈的对接，从而创建标准的网络接口。OPA_VNIC是一个RDMA netdev设备
|
||
类型。
|
||
|
||
依赖于HW的VNIC功能是HFI1驱动的一部分。它实现了分配和释放OPA_VNIC RDMA
|
||
netdev的动作。它涉及VNIC功能的HW资源分配/管理。它与网络堆栈接口并实现所
|
||
需的net_device_ops功能。它在传输路径中期待Omni-Path封装的以太网数据包，
|
||
并提供对它们的HW访问。在将数据包向上传递到网络堆栈之前，它把Omni-Path头
|
||
从接收的数据包中剥离。它还实现了RDMA netdev控制操作。
|
||
|
||
OPA VNIC模块实现了独立于硬件的VNIC功能。它由两部分组成。VNIC以太网管理
|
||
代理（VEMA）作为一个IB客户端向IB核心注册，并与IB MAD栈接口。它与以太网
|
||
管理器（EM）和VNIC netdev交换管理信息。VNIC netdev部分分配和释放OPA_VNIC
|
||
RDMA netdev设备。它在需要时覆盖由依赖HW的VNIC驱动设置的net_device_ops函数，
|
||
以适应任何控制操作。它还处理以太网数据包的封装，在传输路径中使用Omni-Path头。
|
||
对于每个VNIC接口，封装所需的信息是由EM通过VEMA MAD接口配置的。它还通过调用
|
||
RDMA netdev控制操作将任何控制信息传递给依赖于HW的驱动程序::
|
||
|
||
+-------------------+ +----------------------+
|
||
| | | Linux |
|
||
| IB MAD | | 网络 |
|
||
| | | 栈 |
|
||
+-------------------+ +----------------------+
|
||
| | |
|
||
| | |
|
||
+----------------------------+ |
|
||
| | |
|
||
| OPA VNIC 模块 | |
|
||
| (OPA VNIC RDMA Netdev | |
|
||
| & EMA 函数) | |
|
||
| | |
|
||
+----------------------------+ |
|
||
| |
|
||
| |
|
||
+------------------+ |
|
||
| IB 核心 | |
|
||
+------------------+ |
|
||
| |
|
||
| |
|
||
+--------------------------------------------+
|
||
| |
|
||
| HFI1 驱动和 VNIC 支持 |
|
||
| |
|
||
+--------------------------------------------+
|