Inhalt

Einleitung

Voraussetzungen

Anforderungen

Verwendete Komponenten

Hintergrundinformationen

Verstehen des Problems

Testszenario

Sammeln von Informationen

Nachverfolgung von MAC-Adressen auf den FIs

Bestimmen des Servers, auf dem der virtuelle Computer gehostet wird

Sammeln von Informationen über die Upstream-Switches

Zusammenfassung

Definition des Datenverkehrsflusses

Nur UCSNetworking testen

Auf den Fabric Interconnects nicht erfasste MAC-Adressen

Zugehörige Informationen

Einleitung

In diesem Dokument wird beschrieben, wie grundlegende Probleme mit der Netzwerkverbindung auf virtuellen Systemen behoben werden.

Voraussetzungen

Anforderungen

Cisco empfiehlt, dass Sie über Kenntnisse in folgenden Bereichen verfügen:

- Unified Computing System Manager-Domäne (UCSM)

- Cisco Unified Computing System Manager (UCSM) Command Line Interface (CLI)

- Cisco UCS Server der Serien B und C

- Grundlegende Netzwerkkonzepte

- ESXi

Verwendete Komponenten

Die Informationen in diesem Dokument basieren auf folgenden Software-Versionen:

- Cisco UCS Manager Version 2.x und höher

- Cisco UCS Fabric Interconnect der Serien 6200, 6300, 6400 und 6500

- Cisco Fabric Extender der Serien UCS 2200, 2300 und 2400 - E/A-Modul

Die Informationen in diesem Dokument beziehen sich auf Geräte in einer speziell eingerichteten Testumgebung. Alle Geräte, die in diesem Dokument benutzt wurden, begannen mit einer gelöschten (Nichterfüllungs) Konfiguration. Wenn Ihr Netzwerk in Betrieb ist, stellen Sie sicher, dass Sie die möglichen Auswirkungen aller Befehle kennen.

Hintergrundinformationen

Ein gängiges Szenario für Infrastrukturadministratoren, die Netzwerk- oder Konfigurationsänderungen vornehmen, ist der Verlust der Netzwerkverbindung auf ihren virtuellen Systemen. Dieses Dokument dient als Anleitung zur Fehlerbehebung, um die häufigsten Probleme zu identifizieren.

Verstehen des Problems

Das häufigste Problem ist, dass die Ping-Verbindung zwischen virtuellen Systemen unterbrochen wird. Um das vollständige Bild zu erhalten, können wir anfangen zu fragen:

- Werden beide virtuellen Systeme in UCS-Servern gehostet?

- Befinden sich beide virtuellen Systeme in derselben UCSM-Domäne?

- Versuchen die virtuellen Systeme, über dasselbe VLAN zu kommunizieren?

- Welche Art von Netzwerkkonfiguration verwenden wir auf der Hypervisorseite? (ESXi verteilter Switch, NIC-Teaming usw.)

- Welches Modell verwenden die Upstream-Switches?

Testszenario

Es wurden zwei neue virtuelle Systeme bereitgestellt und für die Verwendung von VLAN 70 konfiguriert. Sie können jedoch keine Pings für die anderen oder das Standard-Gateway durchführen.

Virtuelle Systeme

- IMM-Übergang-4.0.1

- Alma Linux 9

Hypervisor

- VMware ESXi, 7.0.3, 20842708

Sammeln von Informationen

MAC- und IP-Adressen beider virtueller Systeme:

- IMM-Übergang-4.0.1

- MAC: 00:50:56:ba:28:53

- IP: 192.168.70.23

- Host-IP: 10.31.123.38

- Alma Linux 9

- MAC: 00:50:56:ba:46:96

- IP: 192.168.70.24

- Host-IP: 10.31.123.40

Nachverfolgung von MAC-Adressen auf den FIs

FI-A # connect nxos

FI-A(nxos)# show mac address-table vlan 70

Legend:

* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC

age - seconds since last seen,+ - primary entry using vPC Peer-Link

VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID

---------+-----------------+--------+---------+------+----+------------------

* 70 0050.56ba.4696 dynamic 30 F F Veth725 ------------------------------------------->>> VM Alma Linux 9 is learned on FI-A veth725 and VLAN 70 as expected

FI-B # connect nxos

FI-B(nxos)# show mac address-table vlan 70

Legend:

* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC

age - seconds since last seen,+ - primary entry using vPC Peer-Link

VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID

---------+-----------------+--------+---------+------+----+------------------

* 70 0050.56ba.2853 dynamic 10 F F Veth688 ---------------------------------------->>> VM IMM-Transition-4.0.1 is learned on FI-B veth688 and VLAN 70 as expected

Bestimmen des Servers, auf dem der virtuelle Computer gehostet wird

FI-A(nxos)# show running-config interface vethernet725

!Command: show running-config interface Vethernet725

!Time: Thu Feb 1 11:59:39 2024

version 5.0(3)N2(4.13k)

interface Vethernet725

description server 1/3, VNIC vnic_a1 ---------------------------------------->>> VM Alma Linux 9 is hosted on Server 1/3 and the vnic name is vnic_a1

switchport mode trunk

no lldp transmit

no lldp receive

no pinning server sticky

pinning server pinning-failure link-down

no cdp enable

switchport trunk allowed vlan 69-70,72,470

bind interface port-channel1287 channel 725

service-policy type queuing input org-root/ep-qos-BestEffort

no shutdown

FI-B(nxos)# show running-config interface vethernet 688

!Command: show running-config interface Vethernet688

!Time: Thu Feb 1 12:06:44 2024

version 5.0(3)N2(4.13k)

interface Vethernet688

description server 1/5, VNIC vnic_b1 ---------------------------------------->>> VM IMM-Transition-4.0.1 is hosted on Server 1/5 and the vnic name is vnic_b1

switchport mode trunk

switchport trunk allowed vlan 69-70,72,470

no lldp transmit

no lldp receive

no pinning server sticky

pinning server pinning-failure link-down

no cdp enable

service-policy type queuing input org-root/ep-qos-BestEffort

bind interface port-channel1282 channel 688

no shutdown

Sammeln von Informationen über die Upstream-Switches

FI-A(nxos)# show cdp neighbors

Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge

S - Switch, H - Host, I - IGMP, r - Repeater,

V - VoIP-Phone, D - Remotely-Managed-Device,

s - Supports-STP-Dispute

Device-ID                    Local Intrfce Hldtme   Capability   Platform   Port ID

MGMT-SWITCH

mgmt0        140       R S I    WS-C3650-12X4  Gig1/0/35

Nexus-1

Eth1/1       158       R S I s  N5K-C5672UP-1  Eth1/3

Nexus-2

Eth1/2       133       R S I s  N5K-C5672UP-1  Eth1/3

FI-A(nxos)# show cdp neighbors

Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge

S - Switch, H - Host, I - IGMP, r - Repeater,

V - VoIP-Phone, D - Remotely-Managed-Device,

s - Supports-STP-Dispute

Device-ID                    Local Intrfce   Hldtme   Capability   Platform   Port ID

MGMT-SWITCH

mgmt0           139        R S I    WS-C3650-12X4 Gig1/0/36

Nexus-1

Eth1/1           167        R S I s  N5K-C5672UP-1 Eth1/4

Nexus-2

Eth1/2           132        R S I s  N5K-C5672UP-1 Eth1/4

Zusammenfassung

- Die MAC-Adressen von virtuellen Systemen werden auf FI-A bzw. FI-B und VLAN 70 erfasst.

- Virtuelle Systeme werden auf verschiedenen UCS-Servern, aber in derselben UCSM-Domäne gehostet.

- Upstream-Switches sind N5K-C5672UP-1 und stellen in beiden Fabric Interconnects eine Verbindung zu den Ethernet1-2-Schnittstellen her.

Definition des Datenverkehrsflusses

- Wenn sich Quelle und Ziel im selben Subnetz oder VLAN befinden, wird der Datenverkehr in derselben Broadcast-Domäne weitergeleitet.

- Wenn sich Quelle und Ziel in einem anderen Subnetz oder VLAN befinden, wird der Datenverkehr in eine andere Broadcast-Domäne weitergeleitet.

- Wenn Quelle und Ziel im selben Fabric Interconnect erfasst werden, wird der Datenverkehr lokal über den Fabric Interconnect vermittelt.

- Wenn Quelle und Ziel in einem anderen Fabric Interconnect erfasst werden, wird der Datenverkehr an den Upstream weitergeleitet.

Für dieses spezielle Szenario gilt:

- Quelle und Ziel befinden sich in derselben Broadcast-Domäne, wurden jedoch in verschiedenen Fabric Interconnects erfasst, sodass der Datenverkehr an das Upstream-Netzwerk gesendet wird.

Nur UCS Networking testen

Um das lokale Switching des Fabric Interconnects zu testen, ohne dass das Upstream-Netzwerk in den Datenverkehrsfluss involviert ist, kann ein Failover erzwungen werden, damit beide virtuellen Systeme in demselben Fabric Interconnect erfasst werden. In diesem Beispiel wird VM IMM-Transition-4.0.1 nach FI-A verschoben.

- Von vorheriger Fehlerbehebung:

- VM Alma Linux 9 wird auf Server 1/3 gehostet, auf FI-A gelernt und veth725 verwendet, was vnic_a1 ist.

- VM IMM-Transition-4.0.1 wird auf Server 1/5 gehostet, erlernt auf FI-B und unter Verwendung von veth688 (vnic_b1).

- Über UCSM:

- Server 1/5 verfügt über 2 vNICs auf FI-A und 2 auf FI-B

- Um die Neuausrichtung auf FI-A zu erzwingen, deaktivieren Sie die vNICs auf der B-Seite, beginnend mit der vNIC, die vom virtuellen System verwendet wird. In diesem Szenario wurden vnic_b0 und vnic_b1 deaktiviert.

- Nachdem alle vNICs auf FI-B deaktiviert wurden, wird VM IMM-Transition-4.0.1 jetzt auf FI-A zusammen mit VM Alma Linux 9 gelernt.

FI-A(nxos)# show mac address-table vlan 70

Legend:

* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC

age - seconds since last seen,+ - primary entry using vPC Peer-Link

VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID

---------+-----------------+--------+---------+------+----+------------------

* 70 0050.56ba.2853 dynamic 0 F F Veth686 ------------------------------------->>> VM Alma Linux 9

* 70 0050.56ba.4696 dynamic 10 F F Veth725 ------------------------------------>>> VM IMM-Transition-4.0.1

- Da alle anderen Elemente auf der UCS-Seite wie erwartet konfiguriert wurden, funktioniert der Ping-Befehl nun, da der Datenverkehr lokal von FI-A umgeleitet wird. Daher muss die Untersuchung auf dem vorgelagerten Netz fortgesetzt werden.

Auf den Fabric Interconnects nicht erfasste MAC-Adressen

- Überprüfen Sie, ob das VLAN auf den vNICs richtig konfiguriert ist.

- Überprüfen Sie, ob das VLAN für die Uplinks richtig konfiguriert ist.

FI-A(nxos)# show running-config interface port-channel 1

!Command: show running-config interface port-channel1

!Time: Fri Feb 2 13:05:59 2024

version 5.0(3)N2(4.13k)

interface port-channel1

description U: Uplink

switchport mode trunk

pinning border

switchport trunk allowed vlan 1,69-70,72,470

speed 1000

- Überprüfen Sie, ob das VLAN auf ESXi richtig konfiguriert ist.

- Validieren Sie die vmnic, die von der virtuellen Maschine auf dem ESXi-Host verwendet wird. Verwenden Sie die esxtop with-Option, um die Bindung abzurufenn.

- Virtuelle Systeme verwenden vmnic1 und vmnic2 auf Host 1/3.

- Zuordnung von MAC-Adressen von ESXi vmnics zu UCS vNICs

[root@esx38:~] esxcfg-nics -l

Name PCI Driver Link Speed Duplex MAC Address MTU Description

vmnic0 0000:06:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:a0 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

vmnic1 0000:07:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:a1 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

vmnic2 0000:08:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:b0 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

vmnic3 0000:09:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:b1 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

- Leitet das Betriebssystem den Frame weiter? (Mit einer Paketerfassung bestätigen.)

- VIC-Adapter

- IOM (HIF und NIF)

Zugehörige Informationen

- Technischer Support und Downloads von Cisco