目錄

簡介

必要條件

需求

採用元件

背景資訊

瞭解問題

測試方案

收集資訊

跟蹤FI上的MAC地址

確定託管虛擬機器的伺服器

收集有關上游交換機的資訊

摘要

定義流量

僅測試UCSN網路

交換矩陣互聯中未獲知的MAC地址

相關資訊

簡介

本文檔介紹如何對虛擬機器上的基本網路連線問題進行故障排除。

必要條件

需求

思科建議您瞭解以下主題：

- 整合運算系統管理員域(UCSM)

- Cisco Unified Computing System Manager(UCSM)命令列介面(CLI)

- Cisco UCS B系列和C系列伺服器

- 網路基本概念

- ESXi

採用元件

本檔案中的資訊是根據以下軟體版本：

- Cisco UCS Manager 2.x及更高版本

- Cisco UCS 6200、6300、6400和6500系列光纖互連

- Cisco UCS 2200、2300和2400系列光纖通路擴充模組

本文中的資訊是根據特定實驗室環境內的裝置所建立。文中使用到的所有裝置皆從已清除（預設）的組態來啟動。如果您的網路運作中，請確保您瞭解任何指令可能造成的影響。

背景資訊

基礎設施管理員部署網路或配置更改的一個常見情況是丟失其虛擬機器上的網路連線。本文檔旨在為找出最常見問題的故障排除過程提供指導。

瞭解問題

最常見的問題是丟失虛擬機器之間的ping。要瞭解全部情況，我們可以開始詢問：

- 這兩個虛擬機器是否都託管在UCS伺服器中？

- 這兩個虛擬機器是否位於同一個UCSM域中？

- 虛擬機器是否嘗試在同一個VLAN上通訊？

- 在虛擬機器監控程式方面我們使用哪種網路配置？（ESXi分散式交換機、NIC組合等。）

- 上游交換機的型號是什麼？

測試方案

兩台新的虛擬機器已配置並配置為使用VLAN 70，但它們無法彼此ping通其預設網關。

虛擬機器

- IMM-Transition-4.0.1

- Alma Linux 9

虛擬機器監控程式

- VMware ESXi、7.0.3、20842708

收集資訊

兩個虛擬機器的MAC和IP地址：

- IMM-Transition-4.0.1

- MAC: 00:50:56:ba:28:53

- IP: 192.168.70.23

- 主機IP:10.31.123.38

- Alma Linux 9

- MAC: 00:50:56:ba:46:96

- IP: 192.168.70.24

- 主機IP:10.31.123.40

跟蹤FI上的MAC地址

FI-A # connect nxos

FI-A(nxos)# show mac address-table vlan 70

Legend:

* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC

age - seconds since last seen,+ - primary entry using vPC Peer-Link

VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID

---------+-----------------+--------+---------+------+----+------------------

* 70 0050.56ba.4696 dynamic 30 F F Veth725 ------------------------------------------->>> VM Alma Linux 9 is learned on FI-A veth725 and VLAN 70 as expected

FI-B # connect nxos

FI-B(nxos)# show mac address-table vlan 70

Legend:

* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC

age - seconds since last seen,+ - primary entry using vPC Peer-Link

VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID

---------+-----------------+--------+---------+------+----+------------------

* 70 0050.56ba.2853 dynamic 10 F F Veth688 ---------------------------------------->>> VM IMM-Transition-4.0.1 is learned on FI-B veth688 and VLAN 70 as expected

確定託管虛擬機器的伺服器

FI-A(nxos)# show running-config interface vethernet725

!Command: show running-config interface Vethernet725

!Time: Thu Feb 1 11:59:39 2024

version 5.0(3)N2(4.13k)

interface Vethernet725

description server 1/3, VNIC vnic_a1 ---------------------------------------->>> VM Alma Linux 9 is hosted on Server 1/3 and the vnic name is vnic_a1

switchport mode trunk

no lldp transmit

no lldp receive

no pinning server sticky

pinning server pinning-failure link-down

no cdp enable

switchport trunk allowed vlan 69-70,72,470

bind interface port-channel1287 channel 725

service-policy type queuing input org-root/ep-qos-BestEffort

no shutdown

FI-B(nxos)# show running-config interface vethernet 688

!Command: show running-config interface Vethernet688

!Time: Thu Feb 1 12:06:44 2024

version 5.0(3)N2(4.13k)

interface Vethernet688

description server 1/5, VNIC vnic_b1 ---------------------------------------->>> VM IMM-Transition-4.0.1 is hosted on Server 1/5 and the vnic name is vnic_b1

switchport mode trunk

switchport trunk allowed vlan 69-70,72,470

no lldp transmit

no lldp receive

no pinning server sticky

pinning server pinning-failure link-down

no cdp enable

service-policy type queuing input org-root/ep-qos-BestEffort

bind interface port-channel1282 channel 688

no shutdown

收集有關上游交換機的資訊

FI-A(nxos)# show cdp neighbors

Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge

S - Switch, H - Host, I - IGMP, r - Repeater,

V - VoIP-Phone, D - Remotely-Managed-Device,

s - Supports-STP-Dispute

Device-ID                    Local Intrfce Hldtme   Capability   Platform   Port ID

MGMT-SWITCH

mgmt0        140       R S I    WS-C3650-12X4  Gig1/0/35

Nexus-1

Eth1/1       158       R S I s  N5K-C5672UP-1  Eth1/3

Nexus-2

Eth1/2       133       R S I s  N5K-C5672UP-1  Eth1/3

FI-A(nxos)# show cdp neighbors

Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge

S - Switch, H - Host, I - IGMP, r - Repeater,

V - VoIP-Phone, D - Remotely-Managed-Device,

s - Supports-STP-Dispute

Device-ID                    Local Intrfce   Hldtme   Capability   Platform   Port ID

MGMT-SWITCH

mgmt0           139        R S I    WS-C3650-12X4 Gig1/0/36

Nexus-1

Eth1/1           167        R S I s  N5K-C5672UP-1 Eth1/4

Nexus-2

Eth1/2           132        R S I s  N5K-C5672UP-1 Eth1/4

摘要

- 虛擬機器MAC地址分別在FI-A和FI-B以及VLAN 70上獲取。

- 虛擬機器託管在不同的UCS伺服器中，但託管在同一個UCSM域中。

- 上游交換機是N5K-C5672UP-1，並連線到兩個交換矩陣互聯中的介面ethernet1-2。

定義流量

- 如果源地址和目的地址在同一個子網或VLAN上，則流量會在同一個廣播域上轉發。

- 如果源和目標位於不同的子網或vlan中，則流量會轉發到另一個廣播域。

- 如果在同一交換矩陣互聯中獲知源和目標，則流量由交換矩陣互聯進行本地交換。

- 如果在不同的交換矩陣互聯中獲知源和目標，則流量在上游轉發。

對於此特定情境：

- 源和目標位於同一個廣播域中，但在不同的交換矩陣互聯上獲知，因此流量將傳送到上游網路。

僅測試UCS網路

因此，為了測試交換矩陣互聯的本地交換，而不涉及流量流上的上游網路，可以強制在同一交換矩陣互聯中學習兩個虛擬機器的故障轉移。在本示例中，VM IMM-Transition-4.0.1將移動到FI-A。

- 從以前的故障排除開始：

- VM Alma Linux 9託管在Server 1/3上，在FI-A上學習並使用veth725（即vnic_a1）。

- VM IMM-Transition-4.0.1託管在Server 1/5上，在FI-B上學習並使用veth688（即vnic_b1）。

- 在UCSM上：

- 伺服器1/5的FI-A上有2個vNIC，FI-B上有2個vNIC

- 要強制重新定位到FI-A，請從VM使用的vNIC開始，禁用B端的vNIC，因為此方案禁用了vnic_b0和vnic_b1。

- 禁用了FI-B上的所有vNIC後，VM IMM-Transition-4.0.1現在與VM Alma Linux 9一起在FI-A上學習。

FI-A(nxos)# show mac address-table vlan 70

Legend:

* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC

age - seconds since last seen,+ - primary entry using vPC Peer-Link

VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID

---------+-----------------+--------+---------+------+----+------------------

* 70 0050.56ba.2853 dynamic 0 F F Veth686 ------------------------------------->>> VM Alma Linux 9

* 70 0050.56ba.4696 dynamic 10 F F Veth725 ------------------------------------>>> VM IMM-Transition-4.0.1

- 當UCS端的所有其他內容都按預期配置時，Ping現在即可工作，因為流量是由FI-A在本地交換的。因此，調查需要在上游網路上繼續進行。

交換矩陣互聯中未獲知的MAC地址

- 驗證vNIC上的VLAN配置是否正確。

- 驗證上行鏈路上的VLAN配置是否正確。

FI-A(nxos)# show running-config interface port-channel 1

!Command: show running-config interface port-channel1

!Time: Fri Feb 2 13:05:59 2024

version 5.0(3)N2(4.13k)

interface port-channel1

description U: Uplink

switchport mode trunk

pinning border

switchport trunk allowed vlan 1,69-70,72,470

speed 1000

- 驗證ESXi上的VLAN是否配置正確。

- 驗證ESXi主機上的虛擬機器使用的vmnic。使用esxtopwith選項n，獲取繫結。

- 虛擬機器正在主機1/3上使用vmnic1和vmnic2。

- 將MAC地址從ESXi虛擬對映到UCS vNIC

[root@esx38:~] esxcfg-nics -l

Name PCI Driver Link Speed Duplex MAC Address MTU Description

vmnic0 0000:06:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:a0 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

vmnic1 0000:07:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:a1 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

vmnic2 0000:08:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:b0 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

vmnic3 0000:09:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:b1 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

- 作業系統是否正在轉發幀？（確認資料包捕獲。）

- VIC介面卡

- IOM（HIF和NIF）

相關資訊

- 思科技術支援與下載