Inhoud

Inleiding

Voorwaarden

Vereisten

Gebruikte componenten

Probleem: UCS Fabric Interconnect-beheerinterfaces hebben problemen met intermitterende connectiviteit.

Topologie

Fabric Interconnect IP’s op VLAN 10

Problemen apparaatcommunicatie op VLAN 1

Problemen oplossen

Root-oorzaak

Oplossing

Aanvullende informatie

Gerelateerde informatie

Inleiding

Dit document beschrijft hoe UCS Fabric Interconnect Management (MGMT)-interfaces intermitterende connectiviteit-problemen hebben ervaren met communicatie naar en voor een specifiek IP-bereik.

Voorwaarden

Vereisten

Cisco raadt kennis van de volgende onderwerpen aan:

- Software voor Unified Computing Systems Manager (UCSM)

- Unified Computing System (UCS)-netwerken

Gebruikte componenten

De informatie in dit document is gebaseerd op de volgende software- en hardware-versies:

- 6200 FI

- UCS Manager 4.0

De informatie in dit document is gebaseerd op de apparaten in een specifieke laboratoriumomgeving. Alle apparaten die in dit document worden beschreven, hadden een opgeschoonde (standaard)configuratie. Als uw netwerk levend is, zorg er dan voor dat u de mogelijke impact van om het even welke opdracht begrijpt.

Probleem: UCS Fabric Interconnect-beheerinterfaces hebben problemen met intermitterende connectiviteit.

De UCS Fabric Interconnect Management-interfaces hebben een periodiek aansluitingsverlies, maar alleen wanneer communicatie over een specifiek IP-bereik loopt. VLAN 1000 IP Range 10.128.10.0/24 wordt gebruikt voor Fabric Interconnect (FI) beheer van interfaces en Virtual IP (VIP). Wanneer de communicatie is van of naar het IP bereik van VLAN 1 van 10.128.1.0/24 connectiviteit aan en van de einden van de FI's. Ieder apparaat in het IP-bereik van VLAN 1 kan dus geen verbinding maken met UCSM en kan maar één FI IP-telefoon pingen.  Minstens één FI IP (van drie personen, FI-A, FI-B, VIP) is altijd in staat om te communiceren.

Topologie

Fabric Interconnect IP’s op VLAN 10

FI-A: 10.128.10.84

FI-B: 10.128.10.85

VIP:  10.128.10.86

GW: 10.128.10.1

Problemen apparaatcommunicatie op VLAN 1

Subnet 10.128.1.0/24

GW: 10.128.1.1

Problemen oplossen

Vanuit de lokale GMT-context van beide fabric interconnects, kan deze de standaard (df) gateway (gw) bereiken, 10.128.10.1. maar geen IP-adres in het VLAN 1 IP-bereik van 10.128.1.0/24 is bereikbaar voor of van de Fabric Interconnects lokale beheercontext.

In eerste instantie lijkt dit een probleem te zijn met routing op de gateway en niet met een UCS-probleem, omdat dit simpelweg een GPT-interface is op Fabric-interconnects en of dit de gateway en een ander IP-bereik kan bereiken. Dit presenteert als een Layer 3 routeprobleem op het upstream netwerk.

Wanneer traceroute van de Fabric Interconnect aan een willekeurig IP-bereik loopt (en een ander IP-bereik niet in VLAN 1’s bereik) (bijvoorbeeld een IP vanaf VLAN 20: 10.128.20.1), is de eerste hop op het tracoute de gateway van VLAN 10 van 10.128.10.1 en pingelen succesvol.

Wanneer traceroute op het bekende, problematische IP bereik 10.128.1.x/24 loopt, faalt de traceroute.

- Dit leidt tot de reden om onderzoek te doen aan UCS.

- Dit had niet moeten mislukken, en de eerste-hop zou df gw van de Gmt-interface moeten zijn, 10.128.10.1, net zoals het voor 10 van de 10 andere IPs was die getest werden en buiten VLAN 10 IP-bereik lagen en niet in VLAN 1 IP-bereik lagen.

Om verder te onderzoeken, voerde u een ethanalisator uit om te zien wat er gebeurt en wanneer het IP bereik van VLAN 1 wordt gepeld, handelt ARP nieuwsgierig:

EWQLOVIUCS02-A(nxos)# ethanalyzer local interface mgmt display-filter arp limit-captured-frames 0

Capturing on eth0

2019-12-17 11:45:50.807837 00:de:fb:a9:37:e1 -> ff:ff:ff:ff:ff:ff ARP Who has 10.128.1.77?  Tell 10.128.0.142

2019-12-17 11:45:51.807835 00:de:fb:a9:37:e1 -> ff:ff:ff:ff:ff:ff ARP Who has 10.128.1.77?  Tell 10.128.0.142

2019-12-17 11:45:52.807827 00:de:fb:a9:37:e1 -> ff:ff:ff:ff:ff:ff ARP Who has 10.128.1.77?  Tell 10.128.0.142

2019-12-17 11:45:55.807829 00:de:fb:a9:37:e1 -> ff:ff:ff:ff:ff:ff ARP Who has 10.128.1.77?  Tell 10.128.0.142

Het verwachte gedrag was om te vragen wie dit VLAN 1 IP heeft, maar dan de gateway van het GMT VLAN 10 te vertellen.

Maar wanneer het IP-bereik van VLAN 1 wordt ingedrukt, vraagt ARP zich af wie die IP heeft en om 10.128.0.142 te vertellen, volg deze:

- Dit moet zijn "Tell 10.128.10.1" zoals het was bij alle andere geteste IP's.

- U herkent zelfs geen subnet- of IP-adres 10.128.0.x.

Dit is een kwestie waarom de FI 10.128.0.142 zou vertellen, tijdens het onderzoek naar UCS-domein werd vastgesteld dat dit IP-adres werd toegepast op server 1/5's CIMC:

EWQLOVIUCS02-B(local-mgmt)# show mgmt-ip-debug ip-tables

<SNIPPED>

Chain PREROUTING (policy ACCEPT 5303K packets, 360M bytes)

pkts bytes target     prot opt in     out     source               destination

188  9776 cimcnat    tcp  --  *      *       0.0.0.0/0            0.0.0.0/0           tcp dpt:443

0     0 cimcnat    tcp  --  *      *       0.0.0.0/0            0.0.0.0/0           tcp dpt:80

0     0 DNAT       icmp --  *      *       0.0.0.0/0            10.128.10.85        to:127.6.1.1

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.85        tcp dpt:2068 to:127.6.1.1:2068

0     0 DNAT       udp  --  *      *       0.0.0.0/0            10.128.10.85        udp dpt:623 to:127.6.1.1:623

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.85        tcp dpt:22 to:127.6.1.1:22

449 26940 DNAT       icmp --  *      *       0.0.0.0/0            10.128.10.108       to:127.6.1.2

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.108       tcp dpt:2068 to:127.6.1.2:2068

0     0 DNAT       udp  --  *      *       0.0.0.0/0            10.128.10.108       udp dpt:623 to:127.6.1.2:623

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.108       tcp dpt:22 to:127.6.1.2:22

931 55860 DNAT       icmp --  *      *       0.0.0.0/0            10.128.10.107       to:127.6.1.3

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.107       tcp dpt:2068 to:127.6.1.3:2068

0     0 DNAT       udp  --  *      *       0.0.0.0/0            10.128.10.107       udp dpt:623 to:127.6.1.3:623

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.107       tcp dpt:22 to:127.6.1.3:22

0     0 DNAT       icmp --  *      *       0.0.0.0/0            10.128.10.104       to:127.6.1.3

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.104       tcp dpt:2068 to:127.6.1.3:2068

0     0 DNAT       udp  --  *      *       0.0.0.0/0            10.128.10.104       udp dpt:623 to:127.6.1.3:623

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.104       tcp dpt:22 to:127.6.1.3:22

920 55200 DNAT       icmp --  *      *       0.0.0.0/0            10.128.10.106       to:127.6.1.4

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.106       tcp dpt:2068 to:127.6.1.4:2068

0     0 DNAT       udp  --  *      *       0.0.0.0/0            10.128.10.106       udp dpt:623 to:127.6.1.4:623

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.106       tcp dpt:22 to:127.6.1.4:22

912 54720 DNAT       icmp --  *      *       0.0.0.0/0            10.128.10.105       to:127.6.1.6

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.105       tcp dpt:2068 to:127.6.1.6:2068

0     0 DNAT       udp  --  *      *       0.0.0.0/0            10.128.10.105       udp dpt:623 to:127.6.1.6:623

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.105       tcp dpt:22 to:127.6.1.6:22

0     0 DNAT       icmp --  *      *       0.0.0.0/0            10.128.0.142        to:127.6.1.5     <<---- Indicates that 10.128.0.142 is the OOB KVM IP address for server 1/5.

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.0.142        tcp dpt:2068 to:127.6.1.5:2068

0     0 DNAT       udp  --  *      *       0.0.0.0/0            10.128.0.142        udp dpt:623 to:127.6.1.5:623

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.0.142        tcp dpt:22 to:127.6.1.5:22

910 54600 DNAT       icmp --  *      *       0.0.0.0/0            10.128.10.102       to:127.6.1.7

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.102       tcp dpt:2068 to:127.6.1.7:2068

0     0 DNAT       udp  --  *      *       0.0.0.0/0            10.128.10.102       udp dpt:623 to:127.6.1.7:623

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.102       tcp dpt:22 to:127.6.1.7:22

908 54480 DNAT       icmp --  *      *       0.0.0.0/0            10.128.10.101       to:127.6.1.8

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.101       tcp dpt:2068 to:127.6.1.8:2068

0     0 DNAT       udp  --  *      *       0.0.0.0/0            10.128.10.101       udp dpt:623 to:127.6.1.8:623

0     0 DNAT       tcp  --  *      *       0.0.0.0/0            10.128.10.101       tcp dpt:22 to:127.6.1.8:22

<SNIPPED>

Root-oorzaak

Het probleem was een verkeerd gespeld statisch CIMC IP-adres voor server 1/5.

Bovendien, werd het in netto gezet van 255.255.248.0

Hierdoor werd een ongewenste invoer gecreëerd in de routingtabel van de Fabric Interconnect. Een die de voorwaarde zou bereiken voordat het de standaardroute voor alle IP's in het gebied van 10.128.0.1 - 10.128.7.254 bereikte

Linux(debug)# route -n

Kernel IP routing table

Destination     Gateway         Genmask         Flags Metric Ref    Use Iface

10.128.10.0     0.0.0.0         255.255.255.0   U     0      0        0 eth0

127.15.1.0      0.0.0.0         255.255.255.0   U     0      0        0 vlan4042

127.7.0.0       0.0.0.0         255.255.0.0     U     0      0        0 vlan4043

127.5.0.0       0.0.0.0         255.255.0.0     U     0      0        0 vlan4044

127.14.0.0      0.0.0.0         255.255.0.0     U     0      0        0 vlan4046

127.12.0.0      0.0.0.0         255.255.0.0     U     0      0        0 bond0

127.9.0.0       0.0.0.0         255.255.0.0     U     0      0        0 vlan4047

10.0.0.0        0.0.0.0         255.0.0.0       U     0      0        0 eth0      <<---- Undesired route entry

10.0.0.0        0.0.0.0         255.0.0.0       U     0      0        0 eth0      <<---- Undesired route entry

0.0.0.0         10.128.10.1     0.0.0.0         UG    0      0        0 eth0

Oplossing

De oplossing voor deze case is door UCSM te bladeren uit een ongewijzigd IP-bereik en het statische adres van Server 1/5 van CIMC uit band (OB) te corrigeren. Het wordt uit de OB-gmtpool gehaald en is al opgezet. Het moet worden gebruikt zoals elke andere server in de omgeving.

Aanvullende informatie

Als de Fabric interconnect wordt herstart, werkt dit soms. Het probleem is bij het Managementvoorbeeld van die server. De ongewenste ingang van de routingtabel wordt alleen op Fabric Interconnect gemaakt. Wanneer de managementinstantie dezelfde Fabric Interconnect was als de Primaire Fabric Interconnect, zijn ze niet in staat om het VIP of die Fabric Interconnect te bereiken.

CIMC beheer IP toewijzing dient altijd binnen hetzelfde IP bereik te vallen als het OB IP bereik van de Fabric Interconnect.

Gerelateerde informatie

- Cisco UCS Manager-beheergids 3.1

- Technische ondersteuning en documentatie – Cisco Systems