목차

소개

사전 요구 사항

요구 사항

사용되는 구성 요소

배경 정보

문제 이해

테스트 시나리오

정보 수집

FI의 MAC 주소 추적

가상 컴퓨터를 호스팅하는 서버 확인

업스트림 스위치에 대한 정보 수집

요약

트래픽 흐름 정의

UCSN네트워킹 테스트만

패브릭 인터커넥트에서 학습되지 않은 MAC 주소

관련 정보

소개

이 문서에서는 가상 머신의 기본 네트워킹 연결 문제를 해결하는 방법에 대해 설명합니다.

사전 요구 사항

요구 사항

다음 주제에 대한 지식을 보유하고 있으면 유용합니다.

- UCSM(Unified Computing System Manager) 도메인

- Cisco UCSM(Unified Computing System Manager) CLI(명령줄 인터페이스)

- Cisco UCS B-Series 및 C-Series 서버

- 네트워킹 기본 개념

- ESXi

사용되는 구성 요소

이 문서의 정보는 다음 소프트웨어 버전을 기반으로 합니다.

- Cisco UCS Manager 버전 2.x 이상

- Cisco UCS 6200, 6300, 6400 및 6500 Series Fabric Interconnect

- Cisco UCS 2200, 2300 및 2400 Series Fabric Extender I/O 모듈

이 문서의 정보는 특정 랩 환경의 디바이스를 토대로 작성되었습니다. 이 문서에 사용된 모든 디바이스는 초기화된(기본) 컨피그레이션으로 시작되었습니다. 현재 네트워크가 작동 중인 경우 모든 명령의 잠재적인 영향을 미리 숙지하시기 바랍니다.

배경 정보

네트워크 또는 컨피그레이션 변경을 배포하는 인프라 관리자의 일반적인 시나리오는 가상 머신에서 네트워킹 연결이 끊기는 것입니다. 이 문서에서는 가장 일반적인 문제를 파악하기 위한 트러블슈팅 프로세스에 대한 지침을 제공합니다.

문제 이해

가장 일반적인 문제는 가상 머신 간의 ping이 손실되는 것입니다. 전체적인 상황을 파악하기 위해 다음과 같은 질문을 시작할 수 있습니다.

- 두 가상 머신 모두 UCS 서버에서 호스팅됩니까?

- 두 가상 머신이 동일한 UCSM 도메인에 있습니까?

- 가상 머신이 동일한 VLAN에서 통신하려고 합니까?

- 하이퍼바이저 측에서 사용 중인 네트워크 컨피그레이션의 종류는 무엇입니까? (ESXi 분산 스위치, NIC 티밍 등)

- 업스트림 스위치의 모델은 무엇입니까?

테스트 시나리오

두 개의 새 가상 머신이 프로비저닝되었고 VLAN 70을 사용하도록 구성되었지만 서로 또는 기본 게이트웨이를 ping할 수 없습니다.

가상 머신

- IMM-전환-4.0.1

- Alma Linux 9

하이퍼바이저

- VMware ESXi, 7.0.3, 20842708

정보 수집

두 가상 머신의 MAC 및 IP 주소:

- IMM-전환-4.0.1

- MAC: 00:50:56:ba:28:53

- IP: 192.168.70.23

- 호스트 IP: 10.31.123.38

- Alma Linux 9

- MAC: 00:50:56:ba:46:96

- IP: 192.168.70.24

- 호스트 IP: 10.31.123.40

FI의 MAC 주소 추적

FI-A # connect nxos

FI-A(nxos)# show mac address-table vlan 70

Legend:

* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC

age - seconds since last seen,+ - primary entry using vPC Peer-Link

VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID

---------+-----------------+--------+---------+------+----+------------------

* 70 0050.56ba.4696 dynamic 30 F F Veth725 ------------------------------------------->>> VM Alma Linux 9 is learned on FI-A veth725 and VLAN 70 as expected

FI-B # connect nxos

FI-B(nxos)# show mac address-table vlan 70

Legend:

* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC

age - seconds since last seen,+ - primary entry using vPC Peer-Link

VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID

---------+-----------------+--------+---------+------+----+------------------

* 70 0050.56ba.2853 dynamic 10 F F Veth688 ---------------------------------------->>> VM IMM-Transition-4.0.1 is learned on FI-B veth688 and VLAN 70 as expected

가상 컴퓨터를 호스팅하는 서버 확인

FI-A(nxos)# show running-config interface vethernet725

!Command: show running-config interface Vethernet725

!Time: Thu Feb 1 11:59:39 2024

version 5.0(3)N2(4.13k)

interface Vethernet725

description server 1/3, VNIC vnic_a1 ---------------------------------------->>> VM Alma Linux 9 is hosted on Server 1/3 and the vnic name is vnic_a1

switchport mode trunk

no lldp transmit

no lldp receive

no pinning server sticky

pinning server pinning-failure link-down

no cdp enable

switchport trunk allowed vlan 69-70,72,470

bind interface port-channel1287 channel 725

service-policy type queuing input org-root/ep-qos-BestEffort

no shutdown

FI-B(nxos)# show running-config interface vethernet 688

!Command: show running-config interface Vethernet688

!Time: Thu Feb 1 12:06:44 2024

version 5.0(3)N2(4.13k)

interface Vethernet688

description server 1/5, VNIC vnic_b1 ---------------------------------------->>> VM IMM-Transition-4.0.1 is hosted on Server 1/5 and the vnic name is vnic_b1

switchport mode trunk

switchport trunk allowed vlan 69-70,72,470

no lldp transmit

no lldp receive

no pinning server sticky

pinning server pinning-failure link-down

no cdp enable

service-policy type queuing input org-root/ep-qos-BestEffort

bind interface port-channel1282 channel 688

no shutdown

업스트림 스위치에 대한 정보 수집

FI-A(nxos)# show cdp neighbors

Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge

S - Switch, H - Host, I - IGMP, r - Repeater,

V - VoIP-Phone, D - Remotely-Managed-Device,

s - Supports-STP-Dispute

Device-ID                    Local Intrfce Hldtme   Capability   Platform   Port ID

MGMT-SWITCH

mgmt0        140       R S I    WS-C3650-12X4  Gig1/0/35

Nexus-1

Eth1/1       158       R S I s  N5K-C5672UP-1  Eth1/3

Nexus-2

Eth1/2       133       R S I s  N5K-C5672UP-1  Eth1/3

FI-A(nxos)# show cdp neighbors

Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge

S - Switch, H - Host, I - IGMP, r - Repeater,

V - VoIP-Phone, D - Remotely-Managed-Device,

s - Supports-STP-Dispute

Device-ID                    Local Intrfce   Hldtme   Capability   Platform   Port ID

MGMT-SWITCH

mgmt0           139        R S I    WS-C3650-12X4 Gig1/0/36

Nexus-1

Eth1/1           167        R S I s  N5K-C5672UP-1 Eth1/4

Nexus-2

Eth1/2           132        R S I s  N5K-C5672UP-1 Eth1/4

요약

- 가상 머신 MAC 주소는 각각 FI-A 및 FI-B와 VLAN 70에서 학습됩니다.

- 가상 머신은 서로 다른 UCS 서버에서 호스팅되지만 동일한 UCSM 도메인에서 호스팅됩니다.

- 업스트림 스위치는 N5K-C5672UP-1이며 두 패브릭 인터커넥트의 인터페이스 ethernet1-2에 연결됩니다.

트래픽 흐름 정의

- 소스와 대상이 동일한 서브넷 또는 VLAN에 있는 경우 트래픽은 동일한 브로드캐스트 도메인에서 전달됩니다.

- 소스와 대상이 다른 서브넷 또는 VLAN에 있는 경우 트래픽은 다른 브로드캐스트 도메인으로 전달됩니다.

- 소스와 대상이 동일한 Fabric Interconnect에서 학습되는 경우, 트래픽은 Fabric Interconnect에 의해 로컬로 스위칭됩니다.

- 소스와 대상이 다른 패브릭 인터커넥트에서 학습되는 경우 트래픽이 업스트림으로 전달됩니다.

이 특정 시나리오의 경우

- 소스와 대상은 동일한 브로드캐스트 도메인에 있지만 서로 다른 패브릭 인터커넥트에서 학습되므로 트래픽이 업스트림 네트워크로 전송됩니다.

UCS 네트워킹만 테스트

따라서 트래픽 흐름에서 업스트림 네트워크를 사용하지 않고 패브릭 인터커넥트의 로컬 스위칭을 테스트하기 위해 동일한 패브릭 인터커넥트에서 두 가상 머신을 학습하도록 장애 조치를 강제할 수 있습니다. 이 예에서는 VM IMM-Transition-4.0.1이 FI-A로 이동됩니다.

- 이전 트러블슈팅에서:

- VM Alma Linux 9는 서버 1/3에서 호스팅되며 FI-A에서 학습되고 veth725(vnic_a1)를 사용합니다.

- VM IMM-Transition-4.0.1은 서버 1/5에서 호스팅되며 FI-B에서 학습되고 veth688(vnic_b1)을 사용합니다.

- UCSM의 경우:

- 서버 1/5에는 FI-A에 2개의 vNIC, FI-B에 2개의 vNIC 있음

- FI-A에 강제로 다시 고정하려면 VM에서 사용하는 vNIC부터 시작하여 B측에서 vNIC를 비활성화합니다. 이 시나리오에서는 vnic_b0 및 vnic_b1이 비활성화되었습니다.

- FI-B의 모든 vNIC가 비활성화된 상태에서 VM IMM-Transition-4.0.1은 이제 VM Alma Linux 9와 함께 FI-A에서 학습됩니다.

FI-A(nxos)# show mac address-table vlan 70

Legend:

* - primary entry, G - Gateway MAC, (R) - Routed MAC, O - Overlay MAC

age - seconds since last seen,+ - primary entry using vPC Peer-Link

VLAN MAC Address Type age Secure NTFY Ports/SWID.SSID.LID

---------+-----------------+--------+---------+------+----+------------------

* 70 0050.56ba.2853 dynamic 0 F F Veth686 ------------------------------------->>> VM Alma Linux 9

* 70 0050.56ba.4696 dynamic 10 F F Veth725 ------------------------------------>>> VM IMM-Transition-4.0.1

- UCS 측의 다른 모든 것이 예상대로 구성되었으므로 이제 FI-A에 의해 트래픽이 로컬로 스위칭됨에 따라 ping이 작동합니다. 따라서 업스트림 네트워크에서 조사를 계속해야 합니다.

패브릭 인터커넥트에서 학습되지 않은 MAC 주소

- VLAN이 vNIC에 올바르게 구성되어 있는지 확인합니다.

- VLAN이 업링크에 올바르게 구성되었는지 확인합니다.

FI-A(nxos)# show running-config interface port-channel 1

!Command: show running-config interface port-channel1

!Time: Fri Feb 2 13:05:59 2024

version 5.0(3)N2(4.13k)

interface port-channel1

description U: Uplink

switchport mode trunk

pinning border

switchport trunk allowed vlan 1,69-70,72,470

speed 1000

- VLAN이 ESXi에서 올바르게 구성되었는지 확인합니다.

- ESXi 호스트의 가상 시스템에서 사용하는 vmnic를 확인합니다. with 옵션을 esxtop 사용하여n바인딩을 가져옵니다.

- 가상 머신이 호스트 1/3에서 vmnic1 및 vmnic2를 사용하고 있습니다.

- ESXi vmnic에서 UCS vNIC로 MAC 주소 매핑

[root@esx38:~] esxcfg-nics -l

Name PCI Driver Link Speed Duplex MAC Address MTU Description

vmnic0 0000:06:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:a0 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

vmnic1 0000:07:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:a1 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

vmnic2 0000:08:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:b0 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

vmnic3 0000:09:00.0 nenic Up 20000Mbps Full 00:25:b5:04:38:b1 9000 Cisco Systems Inc Cisco VIC Ethernet NIC

- OS에서 프레임을 포워딩하는 건가요? (패킷 캡처로 확인합니다.)

- VIC 어댑터

- IOM(HIF 및 NIF)

관련 정보

- Cisco 기술 지원 및 다운로드