Inhoud

Inleiding

Voorwaarden

Vereisten

Gebruikte componenten

De oorzaken van linkflap begrijpen

Identificeer linkflap

Identificeer Layer 1 Link Flap of door protocol getriggerde Link Flap

Layer 1 Flap-voorbeeld

LACP getriggerde flap voorbeeld

Layer 1 Link-flap voor probleemoplossing

Layer 1 Issue op NX-OS 10.2.1 en latere releases

Link Flap PIE

Link naar omlaag

OOI voor glasvezel

Voorbeeld: Link Flap veroorzaakt door afsluiten en vervolgens opnieuw inschakelen van de poort aan de peer-kant

Voorbeeld: Link Down veroorzaakt door het afsluiten van de poort aan de peer kant

Defecte onderdelen vervangen

Layer 1 Issue op NX-OS 10.1.2 en eerdere releases

Gebeurtenisgeschiedenis van poort-client controleren

De ASIC-gebeurtenissen verifiëren

Controle van informatie over digitale optische bewaking (DOM) aan beide zijden

Wisseltest en vervanging van defecte onderdelen

Gerelateerde informatie

Inleiding

Dit document domschrijven hoe de Layer 1-linkflap op Nexus 9000-switches kan worden opgelost.

Voorwaarden

Vereisten

Cisco raadt u aan bekend te zijn met het Cisco Nexus Operating System (NX-OS) en de basis Nexus-architectuur voordat u doorgaat met de informatie die in dit document wordt beschreven.

Gebruikte componenten

De informatie in dit document is gebaseerd op de volgende software- en hardware-versies:

- N9K-C93180YC-FX switch

- nxos 64-cs.10.2.6.m

De informatie in dit document is gebaseerd op de apparaten in een specifieke laboratoriumomgeving. Alle apparaten die in dit document worden beschreven, hadden een opgeschoonde (standaard)configuratie. Als uw netwerk live is, moet u zorgen dat u de potentiële impact van elke opdracht begrijpt.

De oorzaken van linkflap begrijpen

Een linkflap is een netwerkkwestie waarbij een fysische interface op een switch, zoals de Nexus 9000, voortdurend afwisselt tussen op en neer zijn. Dit verstorende gedrag kan netwerkprestaties degraderen, het netwerk destabiliseren en communicatie onderbreken, waardoor aanzienlijke ongemakken worden veroorzaakt. Link flaps ontstaan over het algemeen uit defecte fysieke lagen of problemen met de protocolsynchronisatie.

- Protocol geactiveerd Link Flap

Protocol-getriggerde linkflappen komen voor wanneer er een probleem is met de protocolsynchronisatie. Het kan gaan om protocollen als Link Aggregation Control Protocol (LACP), Virtual Port-Channel en andere. De kwestie kan uit protocolmisconfiguratie of verloren pakketten voortvloeien, die tot verbindingsinstabiliteit leiden. Regelmatige bewaking en tijdige updates van de software kunnen dit soort linkflap helpen voorkomen.

- Layer 1 fysieke kwestie

Link flaps kunnen ook stammen uit Layer 1, de fysieke laag van het netwerk. Dit heeft vaak betrekking op fysieke componenten zoals kabels en interfaces. Beschadigde, losse of verouderde kabels en defecte interfaces kunnen de link naar de flap veroorzaken. Regelmatige fysieke inspecties en onderhoud, inclusief kabelcontroles en interfacetests, kunnen helpen deze problemen te identificeren en te corrigeren voordat ze leiden tot koppelingskleppen.

Dit artikel concentreert zich op Layer 1 fysieke probleemoplossing.

Identificeer linkflap

Link flaps kunnen eenvoudig worden geïdentificeerd uit logbestanden. Het voorbeeld toont een link flap gebeurtenis op poort E1/5, waar de poort naar beneden gaat en dan later weer terug naar boven komt.

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from Ethernet1/5 to none

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel100: Ethernet1/5 is down

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-SPEED: Interface Ethernet1/5, operational speed changed to 10 Gbps

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_DUPLEX: Interface Ethernet1/5, operational duplex mode changed to Full

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_RX_FLOW_CONTROL: Interface Ethernet1/5, operational Receive Flow Control state changed to off

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_TX_FLOW_CONTROL: Interface Ethernet1/5, operational Transmit Flow Control state changed to off

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-SPEED: Interface port-channel100, operational speed changed to 10 Gbps

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_DUPLEX: Interface port-channel100, operational duplex mode changed to Full

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_RX_FLOW_CONTROL: Interface port-channel100, operational Receive Flow Control state changed to off

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_TX_FLOW_CONTROL: Interface port-channel100, operational Transmit Flow Control state changed to off

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_UP: port-channel100: Ethernet1/5 is up

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from none to Ethernet1/5

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 10000000 Kbit

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETHPORT-5-IF_UP: Interface Ethernet1/5 is up in mode access

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETHPORT-5-IF_UP: Interface port-channel100 is up in mode access

Identificeer Layer 1 Link Flap of door protocol getriggerde Link Flap

De Ethernet Port Manager (Ethpm) is een proces dat Ethernet-interfaces beheert. De Ethpm-gebeurtenisgeschiedenis kan worden gebruikt om de oorzaak van een linkflap te identificeren.

Layer 1 Flap-voorbeeld

E1/5 ervaart een koppelingsmislukking bij 05:28:35, met de ethpm overgang die door ETH_PORT_FSM_EV_LINK_DOWN wordt teweeggebracht. Dit geeft een Layer 1-flap aan.

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

N9K-C93180YC-FX# show system internal ethpm event-history interface e1/5

[143] 2024-01-21T05:26:02.100255000+00:00 [-] FSM:<Ethernet1/5> Transition:

Previous state: [ETH_PORT_FSM_ST_WAIT_BUNDLE_MEMBER_BRINGUP]

Triggered event: [ETH_PORT_FSM_EV_FIRST_BRINGUP_BUNDLE_MEMBER_DONE]

Next state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]

[144] 2024-01-21T05:27:35.783495000+00:00 [-] FSM:<Ethernet1/5> Transition:

Previous state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]

Triggered event: [ETH_PORT_FSM_EV_LINK_DOWN]

Next state: [FSM_ST_NO_CHANGE]

LACP getriggerde flap voorbeeld

E1/8 gaat een initialiserende down staat bij 07:40:07 in, met de ethpm overgang die door ETH_PORT_FSM_EV_EXTERN_REINIT_NO_FLAP_REQ wordt teweeggebracht. Dit geeft een linkflap aan die wordt geactiveerd door Link Aggregation Control Protocol (LACP).

2024 Jan 21 07:37:20 N9K-C93180YC-FX %ETHPORT-5-IF_UP: Interface port-channel200 is up in Layer3

2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel200 is down (No operational members)

2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel200: first operational port changed from Ethernet1/8 to none

2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel200: Ethernet1/8 is down

2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel200,bandwidth changed to 100000 Kbit

2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_INITIALIZING: Interface Ethernet1/8 is down (Initializing)

N9K-C93180YC-FX# show system internal ethpm event-history interface e1/8

[218] 2024-01-21T07:37:20.551880000+00:00 [-] FSM:<Ethernet1/8> Transition:

Previous state: [ETH_PORT_FSM_ST_WAIT_BUNDLE_MEMBER_BRINGUP]

Triggered event: [ETH_PORT_FSM_EV_FIRST_BRINGUP_BUNDLE_MEMBER_DONE]

Next state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]

[219] 2024-01-21T07:40:07.104339000+00:00 [-] FSM:<Ethernet1/8> Transition:

Previous state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]

Triggered event: [ETH_PORT_FSM_EV_EXTERNAL_REINIT_NO_FLAP_REQ]

Next state: [FSM_ST_NO_CHANGE]

Layer 1 Link-flap voor probleemoplossing

Cisco biedt een uitgebreide reeks optische modules voor een brede reeks snelheden, media en afstanden. Zorg ervoor dat de SFP en de kabel compatibel zijn met uw huidige software en hardware voordat u een link naar de Nexus 9000 aansluit. U kunt dit verifiëren door:

Cisco-compatibiliteitstabel voor glasvezel-naar-apparaat

Cisco optische interoperabiliteitsmatrix voor glasvezel-to-glasvezel

Layer 1 Issue op NX-OS 10.2.1 en latere releases

Vanaf NX-OS 10.2.1 wordt de Platform Insights Engine (PIE) ondersteund op alle cloudscale ToR- en EoR-platforms. PIE is een real-time toepassing voor de analyse van de basisoorzaak op switch.

Drie PIE’s kunnen u helpen bij het aanpakken van de Layer 1 link flap kwestie.

Link Flap PIE

De link flap PIE analyseert link flap gebeurtenissen gepubliceerd door gebruiker space drivers (USDs) en bepaalt de basisoorzaak van een link flap. De PIE publiceert de analyse van de basisoorzaak aan de makelaar. Link flap gebeurtenissen worden gepubliceerd door de USDs (PIE client) wanneer een link flaps. De USD's verzamelen alle relevante gegevens van de ASIC en de USD die nodig zijn voor de analyse van de grondoorzaak en publiceren de gegevens aan de makelaar. De link flap PIE analyseert de gegevens en komt bij de meest waarschijnlijke grondoorzaak voor de flap.

Link naar omlaag

De link onderaan de PIE vindt de basisoorzaak voor een link die niet omhoog komt. De USD verzamelt gegevens over een interface wanneer de interface is geconfigureerd om omhoog te zijn, maar de interface-besturingsstatus is niet omhoog. Deze gegevens worden gepubliceerd in de PIE-applicatie. De link-down PIE abonneert op deze gebeurtenissen, ontvangt de gegevens van de makelaar en analyseert de gegevens om de basisoorzaak te vinden.

OOI voor glasvezel

De optics PIE is een continue monitoring engine die een tijdreeksanalyse uitvoert van de op regelmatige tijdstippen verzamelde DOM-gegevens. Door het volgen van verschillende parameters in de DOM over een periode, komt de PIE tot een metriek om de staat van optica voor elke optische haven te beschrijven. De metriek is een inzicht in de trending health van een optische transceiver.

Raadpleeg voor meer informatie dit PIE-document:

Cisco Nexus 9000 Series NX-OS Platform Insights Engine handleiding, release 10.2(x)

Voorbeeld: Link Flap veroorzaakt door afsluiten en vervolgens opnieuw inschakelen van de poort aan de peer-kant

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from Ethernet1/5 to none

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel100: Ethernet1/5 is down

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-SPEED: Interface Ethernet1/5, operational speed changed to 10 Gbps

<snip>

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_UP: port-channel100: Ethernet1/5 is up

N9K-C93180YC-FX# show pie interface ethernet 1/5 link-flap-rca

2024-01-21 05:27:35 Event Id: 00000068 Ethernet1/5 Source Id: 436209664 RCA Code: 41   >>>PIE event time

Reason: Link flapped/down due to Local Fault, check peer                               >>>PIE link flap reason

N9K-C93180YC-FX# show pie interface ethernet 1/5 transceiver-insights

2024-01-21 05:30:12 Event Id: 00000080 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: --------GOOD------- Mod: 01

2024-01-21 05:28:12 Event Id: 00000072 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: --------GOOD------- Mod: 01

Voorbeeld: Link Down veroorzaakt door het afsluiten van de poort aan de peer kant

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from Ethernet1/5 to none

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel100: Ethernet1/5 is down

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

N9K-C93180YC-FX# show pie interface ethernet 1/5 link-down-rca

2024-01-21 05:48:48 Event Id: 00000197 Ethernet1/5 Source Id: 436209664 RCA Code: 16           >>>PIE event time

Reason: No PCS alignment detected. Please check Fec, speed, Autoneg configurations with peer   >>>Physical layer failed

N9K-C93180YC-FX# show pie interface ethernet 1/5 transceiver-insights

2024-01-21 05:50:12 Event Id: 00000199 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: ********BAD******** Mod: 01

2024-01-21 05:48:12 Event Id: 00000187 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: --------GOOD------- Mod: 01

Defecte onderdelen vervangen

Op basis van de PIE-output wordt aanbevolen om de component met mogelijk defecten te vervangen en de bewaking voort te zetten. Als de linkflap blijft bestaan, is een swaptest nodig om het defecte onderdeel te versmallen. Een swaptest kan worden uitgevoerd door één component tegelijkertijd te veranderen terwijl al het andere onveranderd blijft. Uiteindelijk stabiliseert de verbinding nadat de specifieke defecte component is geruild.

Layer 1 Issue op NX-OS 10.1.2 en eerdere releases

Voor softwarereleases van NX-OS vóór 10.2(1) is geen ondersteuning voor PIE beschikbaar. Er zijn verschillende handmatige stappen nodig voor het controleren van Layer 1 link flap.

Gebeurtenisgeschiedenis van poort-client controleren

Dit maakt een lijst van alle link-evenementen op de bijgevoegde module. De tijd van de debounce verwijst naar de duur dat een interface wacht alvorens de supervisor op de hoogte te brengen van een verbinding die daalt. Tijdens deze periode, wacht de interface om te zien of komt de verbinding terug omhoog. Dit wordt gebruikt om te bepalen of de link is gedaald of alleen maar een kleine flap ervaart.

N9K-C93180YC-FX# attach module 1

module-1# show system internal port-client link-event

*************** Port Client Link Events Log ***************

---- ------ ----- ----- ------

Time PortNo Speed Event Stsinfo

---- ------ ----- ----- ------

Jan 21 05:48:38 2024 00122142 Ethernet1/5 ---- DOWN Link down debounce timer stopped and link is down

Jan 21 05:48:37 2024 00993003 Ethernet1/5 ---- DOWN Link down debounce timer started(0x40e50006)

Jan 21 05:45:14 2024 00432606 Ethernet1/5 10G UP SUCCESS(0x0)

De ASIC-gebeurtenissen verifiëren

Deze evenementen bieden gedetailleerde informatie over elke link-gebeurtenis.

N9K-C93180YC-FX# attach module 1

module-1# show hardware internal tah link-events fp-port 5

324) Jan 21 05:48:37 2024 uSec 992843: Fp 5 : tahusd_isr.c #8469

Port Down with an ASIC interrupt

------------- ASIC MAC/PCS/Serdes REGS (Mac Channel 0) -------------

Link flapped due to Local Fault, check peer          >>>Local Fault means the local device detected the issue on the receive path.

>>>Remote Fault means a Local Fault is detected across the link.

Intr Regs 00:0x0000, 01:0x0000, 02:0x0000, 03:0x0010, 07:0x0000, 11:0x0000, 15:0x0000

sts2.bercount : 0x0f00 sts2.erroredblocks : 0x0000

bercounthi : 0x0000 erroredblockhi : 0x0000

counters0.syncloss : 0x0001 counters0.blocklockloss: 0x0001

counters1.highber : 0x0000 counters1.vlderr : 0x0000

counters2.unkerr : 0x0012 counters2.invlderr : 0x0000

Foutcode

Toelichting

sts2.foutblokken

Telt fouten in blokken (hogere orderbits).

sts2.bercount

Telt slechte sync-kopregels (bits van lagere orde).

bercounthi

Telt slechte sync-headers (hogere order bits).

erroredblockhi

Telt fouten in blokken (hogere orderbits).

tellers0.syncloss

Sync-verlies

tellers0.blocklockloss

Verlies van blokkeervergrendeling

tellers1.highber

Hoge BER

tellers1.vlderr

Geldige fout

tellers2.unker

Onbekende fout

tellers2.invaller

Ongeldige fout

Controle van informatie over digitale optische bewaking (DOM) aan beide zijden

Er zijn verscheidene stukken van Kleine vorm-factor pluggable (SFP) informatie in deze output. Als een waarde buiten het aanvaardbare bereik in de SFP-diagnostiek valt, wordt de SFP beschouwd als een potentieel beschadigd onderdeel en moet deze worden vervangen. In dit voorbeeld is alles in orde.

N9K-C93180YC-FX# show interface e1/5 transceiver details

Ethernet1/5

transceiver is present

type is 10Gbase-SR                      >>>SFP type

name is CISCO-OPLINK                    >>>SFP vendor

part number is TPP4XGDS0CCISE2G

revision is 02

serial number is OPMXXXXXXXX            >>>SFP SN

nominal bitrate is 10300 MBit/sec       >>>SFP bitrate

Link length supported for 50/125um OM2 fiber is 82 m

Link length supported for 62.5/125um fiber is 26 m

Link length supported for 50/125um OM3 fiber is 300 m

cisco id is 3

cisco extended id number is 4

cisco part number is 10-2415-03

cisco product id is SFP-10G-SR          >>>SFP PID

cisco version id is V03

SFP Detail Diagnostics Information (internal calibration)

----------------------------------------------------------------------------

Current                Alarms       Warnings

Measurement           High    Low    High    Low

----------------------------------------------------------------------------

Temperature 36.52 C           75.00 C -5.00 C 70.00 C 0.00 C

Voltage     3.28 V             3.63 V  2.97 V  3.46 V 3.13 V

Current     6.61 mA         12.00 mA 0.50 mA 11.50 mA 1.00 mA

Tx Power   -2.70 dBm        1.99 dBm -11.30 dBm -1.00 dBm -7.30 dBm

Rx Power   -2.40 dBm        1.99 dBm -13.97 dBm -1.00 dBm -9.91 dBm

Transmit Fault Count = 0

----------------------------------------------------------------------------

Note: ++ high-alarm; + high-warning; -- low-alarm; - low-warning

peer side information is snipped.

Wisseltest en vervanging van defecte onderdelen

Als alles bij de vorige controles goed lijkt, is een swap test nodig om het defecte onderdeel te versmallen. Een swaptest kan worden uitgevoerd door één component tegelijkertijd te veranderen terwijl al het andere onveranderd blijft. Uiteindelijk stabiliseert de verbinding nadat de specifieke defecte component is geruild.

Gerelateerde informatie

Nexus 9000 datasheet

Configuratiehandleiding voor Nexus 9000 interfaces

Nexus 9000 Series NX-OS platform Insights Engine handleiding