In dit document wordt beschreven hoe u het probleem met de laag 1-koppelflap op Nexus 9000-switches kunt oplossen.
Cisco raadt u aan vertrouwd te zijn met het Cisco Nexus Operating System (NX-OS) en de basisarchitectuur van Nexus voordat u verder gaat met de informatie die in dit document wordt beschreven.
De informatie in dit document is gebaseerd op de volgende software- en hardware-versies:
De informatie in dit document is gebaseerd op de apparaten in een specifieke laboratoriumomgeving. Alle apparaten die in dit document worden beschreven, hadden een opgeschoonde (standaard)configuratie. Als uw netwerk live is, moet u zorgen dat u de potentiële impact van elke opdracht begrijpt.
Een link flap is een netwerkprobleem waarbij een switch, zoals de Nexus 9000, continu afwisselt tussen omhoog en omlaag. Dit verstorende gedrag kan de netwerkprestaties verslechteren, het netwerk destabiliseren en de communicatie onderbreken, waardoor aanzienlijke ongemakken ontstaan. Linkflappen ontstaan meestal door defecte fysieke lagen of problemen met de synchronisatie van protocollen.
Door protocol geactiveerde verbindingsflappen treden op wanneer er een probleem is met de protocolsynchronisatie. Dit kan protocollen omvatten zoals het Link Aggregation Control Protocol (LACP), Virtual Port-Channel en andere. Het probleem kan ontstaan door een verkeerde configuratie van het protocol of verloren pakketten, wat leidt tot linkinstabiliteit. Regelmatige monitoring en tijdige software-updates kunnen dit type linkflap helpen voorkomen.
Linkflappen kunnen ook afkomstig zijn van Layer 1, de fysieke laag van het netwerk. Dit gaat vaak om fysieke componenten zoals kabels en interfaces. Beschadigde, losse of verouderde kabels en slecht functionerende interfaces kunnen de link naar de flap veroorzaken. Regelmatige fysieke inspecties en onderhoud, inclusief kabelcontroles en interfacetests, kunnen helpen deze problemen te identificeren en te corrigeren voordat ze leiden tot verbindingsflappen.
Dit artikel richt zich op het oplossen van fysieke problemen in laag 1.
Linkflappen kunnen gemakkelijk worden geïdentificeerd uit logs. In het voorbeeld wordt een gebeurtenis met een linkflap op poort E1/5 weergegeven, waarbij de poort naar beneden gaat en later weer naar boven komt.
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from Ethernet1/5 to none
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel100: Ethernet1/5 is down
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)
2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-SPEED: Interface Ethernet1/5, operational speed changed to 10 Gbps
2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_DUPLEX: Interface Ethernet1/5, operational duplex mode changed to Full
2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_RX_FLOW_CONTROL: Interface Ethernet1/5, operational Receive Flow Control state changed to off
2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_TX_FLOW_CONTROL: Interface Ethernet1/5, operational Transmit Flow Control state changed to off
2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-SPEED: Interface port-channel100, operational speed changed to 10 Gbps
2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_DUPLEX: Interface port-channel100, operational duplex mode changed to Full
2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_RX_FLOW_CONTROL: Interface port-channel100, operational Receive Flow Control state changed to off
2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_TX_FLOW_CONTROL: Interface port-channel100, operational Transmit Flow Control state changed to off
2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_UP: port-channel100: Ethernet1/5 is up
2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from none to Ethernet1/5
2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 10000000 Kbit
2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETHPORT-5-IF_UP: Interface Ethernet1/5 is up in mode access
2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETHPORT-5-IF_UP: Interface port-channel100 is up in mode access
De Ethernet Port Manager (Ethpm) is een proces dat Ethernet-interfaces beheert. De Ethpm-gebeurtenisgeschiedenis kan worden gebruikt om de oorzaak van een linkflap te identificeren.
E1/5 ervaart een link-storing om 05:28:35, met de ethpm-overgang geactiveerd door ETH_PORT_FSM_EV_LINK_DOWN. Dit duidt op een Layer 1-flap.
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)
N9K-C93180YC-FX# show system internal ethpm event-history interface e1/5
[143] 2024-01-21T05:26:02.100255000+00:00 [-] FSM:<Ethernet1/5> Transition:
Previous state: [ETH_PORT_FSM_ST_WAIT_BUNDLE_MEMBER_BRINGUP]
Triggered event: [ETH_PORT_FSM_EV_FIRST_BRINGUP_BUNDLE_MEMBER_DONE]
Next state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]
[144] 2024-01-21T05:27:35.783495000+00:00 [-] FSM:<Ethernet1/5> Transition:
Previous state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]
Triggered event: [ETH_PORT_FSM_EV_LINK_DOWN]
Next state: [FSM_ST_NO_CHANGE]
E1/8 voert een initialiserende down-status in om 07:40:07, waarbij de ethpm-overgang wordt geactiveerd door ETH_PORT_FSM_EV_EXTERNAL_REINIT_NO_FLAP_REQ. Dit duidt op een linkflap die wordt geactiveerd door het Link Aggregation Control Protocol (LACP).
2024 Jan 21 07:37:20 N9K-C93180YC-FX %ETHPORT-5-IF_UP: Interface port-channel200 is up in Layer3
2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel200 is down (No operational members)
2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel200: first operational port changed from Ethernet1/8 to none
2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel200: Ethernet1/8 is down
2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel200,bandwidth changed to 100000 Kbit
2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_INITIALIZING: Interface Ethernet1/8 is down (Initializing)
N9K-C93180YC-FX# show system internal ethpm event-history interface e1/8
[218] 2024-01-21T07:37:20.551880000+00:00 [-] FSM:<Ethernet1/8> Transition:
Previous state: [ETH_PORT_FSM_ST_WAIT_BUNDLE_MEMBER_BRINGUP]
Triggered event: [ETH_PORT_FSM_EV_FIRST_BRINGUP_BUNDLE_MEMBER_DONE]
Next state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]
[219] 2024-01-21T07:40:07.104339000+00:00 [-] FSM:<Ethernet1/8> Transition:
Previous state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]
Triggered event: [ETH_PORT_FSM_EV_EXTERNAL_REINIT_NO_FLAP_REQ]
Next state: [FSM_ST_NO_CHANGE]
Cisco biedt een uitgebreide reeks optische modules voor een breed scala aan snelheden, media en afstanden. Voordat u een koppeling naar de Nexus 9000 aansluit, moet u ervoor zorgen dat de SFP en de kabel compatibel zijn met uw huidige software en hardware. U kunt dit verifiëren door:
Cisco Optics-to-Device Compatibility Matrix
Cisco Optics-to-Optics Interoperability Matrix
Vanaf NX-OS 10.2.1 wordt de Platform Insights Engine (PIE) ondersteund op alle Cloudscale ToR- en EoR-platforms. PIE is een real-time root cause analysis-applicatie op de switch.
Drie PIE's kunnen u helpen bij het oplossen van het Layer 1-koppelingsflapprobleem.
De link flap PIE analyseert link flap events gepubliceerd door user space drivers (USDs) en bepaalt de oorzaak van een link flap. De PIE publiceert het inzicht in de grondoorzaak analyse aan de makelaar. Link flap events worden gepubliceerd door de USDs (PIE client) wanneer een link flaps. De USD's verzamelen alle relevante gegevens van de ASIC en USD die nodig zijn voor de analyse van de onderliggende oorzaak en publiceren de gegevens naar de makelaar. De link flap PIE analyseert de gegevens en komt tot de meest waarschijnlijke oorzaak voor de flap.
De link naar beneden PIE vindt de oorzaak van een link niet komen. De USD verzamelt gegevens over een interface wanneer de interface is geconfigureerd om up te zijn, maar de status van de interface is niet up. Deze gegevens worden gepubliceerd in de PIE-applicatie. De link-down PIE abonneert zich op deze evenementen, ontvangt de gegevens van de makelaar en analyseert de gegevens om de hoofdoorzaak te vinden.
De optics PIE is een continue monitoring engine die een tijdreeksanalyse uitvoert van de DOM-gegevens die met regelmatige tussenpozen worden verzameld. Door verschillende parameters in de DOM gedurende een bepaalde periode te volgen, komt de PIE tot een metriek om de staat van optica voor elke optische poort te beschrijven. De metriek is een inzicht in de trending gezondheid van een optische transceiver.
Raadpleeg voor meer informatie dit PIE-document:
Cisco Nexus 9000 Series NX-OS Platform Insights Engine Guide, versie 10.2(x)
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from Ethernet1/5 to none
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel100: Ethernet1/5 is down
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)
2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)
2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-SPEED: Interface Ethernet1/5, operational speed changed to 10 Gbps
<snip>
2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_UP: port-channel100: Ethernet1/5 is up
N9K-C93180YC-FX# show pie interface ethernet 1/5 link-flap-rca
2024-01-21 05:27:35 Event Id: 00000068 Ethernet1/5 Source Id: 436209664 RCA Code: 41 >>>PIE event time
Reason: Link flapped/down due to Local Fault, check peer >>>PIE link flap reason
N9K-C93180YC-FX# show pie interface ethernet 1/5 transceiver-insights
2024-01-21 05:30:12 Event Id: 00000080 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: --------GOOD------- Mod: 01
2024-01-21 05:28:12 Event Id: 00000072 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: --------GOOD------- Mod: 01
2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from Ethernet1/5 to none
2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel100: Ethernet1/5 is down
2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)
2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit
2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)
2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)
N9K-C93180YC-FX# show pie interface ethernet 1/5 link-down-rca
2024-01-21 05:48:48 Event Id: 00000197 Ethernet1/5 Source Id: 436209664 RCA Code: 16 >>>PIE event time
Reason: No PCS alignment detected. Please check Fec, speed, Autoneg configurations with peer >>>Physical layer failed
N9K-C93180YC-FX# show pie interface ethernet 1/5 transceiver-insights
2024-01-21 05:50:12 Event Id: 00000199 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: ********BAD******** Mod: 01
2024-01-21 05:48:12 Event Id: 00000187 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: --------GOOD------- Mod: 01
Op basis van de PIE-output wordt aanbevolen de mogelijk defecte component te vervangen en de monitoring voort te zetten. Als de verbindingsflap aanhoudt, is een swaptest nodig om het defecte onderdeel te verkleinen. Een swaptest kan worden uitgevoerd door één component tegelijk te veranderen en de rest ongewijzigd te laten. Uiteindelijk stabiliseert de verbinding nadat de specifieke defecte component is verwisseld.
Voor NX-OS-softwarereleases vóór 10.2(1) is PIE-ondersteuning niet beschikbaar. Er zijn verschillende handmatige stappen vereist voor het controleren van de verbindingsflap van laag 1.
Deze lijst bevat alle koppelingsgebeurtenissen op de bijgevoegde module. Debouncetijd verwijst naar de duur die een interface wacht voordat de toezichthouder op de hoogte wordt gesteld van een link die naar beneden gaat. Tijdens deze periode wacht de interface om te zien of de link weer naar boven komt. Dit wordt gebruikt om te bepalen of de link naar beneden is gegaan of gewoon een kleine flap ervaart.
N9K-C93180YC-FX# attach module 1
module-1# show system internal port-client link-event
*************** Port Client Link Events Log ***************
---- ------ ----- ----- ------
Time PortNo Speed Event Stsinfo
---- ------ ----- ----- ------
Jan 21 05:48:38 2024 00122142 Ethernet1/5 ---- DOWN Link down debounce timer stopped and link is down
Jan 21 05:48:37 2024 00993003 Ethernet1/5 ---- DOWN Link down debounce timer started(0x40e50006)
Jan 21 05:45:14 2024 00432606 Ethernet1/5 10G UP SUCCESS(0x0)
Deze evenementen bieden gedetailleerde informatie over elke link gebeurtenis.
N9K-C93180YC-FX# attach module 1
module-1# show hardware internal tah link-events fp-port 5
324) Jan 21 05:48:37 2024 uSec 992843: Fp 5 : tahusd_isr.c #8469
Port Down with an ASIC interrupt
------------- ASIC MAC/PCS/Serdes REGS (Mac Channel 0) -------------
Link flapped due to Local Fault, check peer >>>Local Fault means the local device detected the issue on the receive path.
>>>Remote Fault means a Local Fault is detected across the link.
Intr Regs 00:0x0000, 01:0x0000, 02:0x0000, 03:0x0010, 07:0x0000, 11:0x0000, 15:0x0000
sts2.bercount : 0x0f00 sts2.erroredblocks : 0x0000
bercounthi : 0x0000 erroredblockhi : 0x0000
counters0.syncloss : 0x0001 counters0.blocklockloss: 0x0001
counters1.highber : 0x0000 counters1.vlderr : 0x0000
counters2.unkerr : 0x0012 counters2.invlderr : 0x0000
| foutcode |
verklaring |
|
| STS2.Erroredblocks |
Telt foutieve blokken (hogere orde bits). |
|
| STS2.bercount |
Slechte sync headers (lagere orde bits). |
|
| bercounthi |
Slechte sync headers (hogere orde bits). |
|
| foutieve blokkade |
Telt foutieve blokken (hogere orde bits). |
|
| tellers0.syncloss |
Synchronisatieverlies |
|
| tellers0.blocklockloss |
Blokkeerverlies |
|
| tellers1.hoger |
Hoge BER |
|
| tellers1.vlderr |
geldige fout |
|
| tellers2.unkerr |
Onbekende fout |
|
| tellers2.invuller |
Ongeldige fout |
|
Er zijn verschillende stukjes Small Form-factor Pluggable (SFP) informatie in deze uitgang. Als een waarde buiten het aanvaardbare bereik in de SFP-diagnose valt, wordt de SFP beschouwd als een mogelijk beschadigd onderdeel en moet deze worden vervangen. In dit voorbeeld is alles in goede orde.
N9K-C93180YC-FX# show interface e1/5 transceiver details
Ethernet1/5
transceiver is present
type is 10Gbase-SR >>>SFP type
name is CISCO-OPLINK >>>SFP vendor
part number is TPP4XGDS0CCISE2G
revision is 02
serial number is OPMXXXXXXXX >>>SFP SN
nominal bitrate is 10300 MBit/sec >>>SFP bitrate
Link length supported for 50/125um OM2 fiber is 82 m
Link length supported for 62.5/125um fiber is 26 m
Link length supported for 50/125um OM3 fiber is 300 m
cisco id is 3
cisco extended id number is 4
cisco part number is 10-2415-03
cisco product id is SFP-10G-SR >>>SFP PID
cisco version id is V03
SFP Detail Diagnostics Information (internal calibration)
----------------------------------------------------------------------------
Current Alarms Warnings
Measurement High Low High Low
----------------------------------------------------------------------------
Temperature 36.52 C 75.00 C -5.00 C 70.00 C 0.00 C
Voltage 3.28 V 3.63 V 2.97 V 3.46 V 3.13 V
Current 6.61 mA 12.00 mA 0.50 mA 11.50 mA 1.00 mA
Tx Power -2.70 dBm 1.99 dBm -11.30 dBm -1.00 dBm -7.30 dBm
Rx Power -2.40 dBm 1.99 dBm -13.97 dBm -1.00 dBm -9.91 dBm
Transmit Fault Count = 0
----------------------------------------------------------------------------
Note: ++ high-alarm; + high-warning; -- low-alarm; - low-warning
peer side information is snipped.
Als alles goed lijkt met de vorige controles, is een swaptest nodig om het defecte onderdeel te beperken. Een swaptest kan worden uitgevoerd door één component tegelijk te veranderen en de rest ongewijzigd te laten. Uiteindelijk stabiliseert de verbinding nadat de specifieke defecte component is verwisseld.
Nexus 9000 Interfaces Configuratiehandleiding
Nexus 9000-reeks NX-OS Platform Insights Engine Guide
| Revisie | Publicatiedatum | Opmerkingen |
|---|---|---|
2.0 |
24-Aug-2026
|
hercertificering |
1.0 |
31-Jan-2024
|
Eerste vrijgave |