Contents

Introdução

Pré-requisitos

Requisitos

Componentes Utilizados

Compreender as causas da falha do link

Identificar Flap de Link

Identificar a oscilação de enlace da camada 1 ou a oscilação de enlace acionada por protocolo

Exemplo de Flap da Camada 1

Exemplo de Flap Disparado LACP

Identificar e Solucionar Problemas de Oscilação de Enlace da Camada 1

Problema da camada 1 no NX-OS 10.2.1 e versões posteriores

PIE de Flap de Link

PIE de Link Inoperante

PIE de ótica

Exemplo de PIE: falha de link causada pelo desligamento e reativação da porta no lado do correspondente

Exemplo de PIE: link inativo causado pelo encerramento da porta no lado do correspondente

Substituição de peças defeituosas

Problema da camada 1 no NX-OS 10.1.2 e versões anteriores

Verificando o histórico de eventos do cliente de porta

Verificando os eventos ASIC

Verificando Informações de Monitoramento Óptico Digital (DOM) em Ambos os Lados

Troque o teste e a substituição de peças defeituosas

Informações Relacionadas

Introdução

Este documento ddescreve como solucionar problemas de oscilação de link da camada 1 em switches Nexus 9000.

Pré-requisitos

Requisitos

A Cisco recomenda que você tenha familiaridade com o Cisco Nexus Operating System (NX-OS) e a arquitetura Nexus básica antes de continuar com as informações descritas neste documento.

Componentes Utilizados

As informações neste documento são baseadas nestas versões de software e hardware:

- N9K-C93180YC-FX

- nxos64-cs.10.2.6.M

As informações neste documento foram criadas a partir de dispositivos em um ambiente de laboratório específico. Todos os dispositivos utilizados neste documento foram iniciados com uma configuração (padrão) inicial. Se a rede estiver ativa, certifique-se de que você entenda o impacto potencial de qualquer comando.

Compreender as causas da falha do link

Uma oscilação de link é um problema de rede em que uma interface física em um switch, como o Nexus 9000, alterna continuamente entre estar ativa e inativa. Esse comportamento perturbador pode degradar o desempenho da rede, desestabilizá-la e interromper a comunicação, causando, assim, inconvenientes significativos. As oscilações de link geralmente surgem de camadas físicas defeituosas ou problemas de sincronização de protocolo.

- Flap de Link Disparado no Protocolo

As oscilações de link disparado por protocolo ocorrem quando há um problema com a sincronização de protocolo. Isso pode envolver protocolos como o LACP (Link Aggregation Control Protocol), o canal de porta virtual e outros. O problema pode surgir devido à configuração incorreta do protocolo ou à perda de pacotes, levando à instabilidade do link. O monitoramento regular e as atualizações oportunas de software podem ajudar a evitar esse tipo de oscilação de link.

- Problema físico da camada 1

As oscilações de link também podem ter origem na Camada 1, a camada física da rede. Isso geralmente envolve componentes físicos, como cabos e interfaces. Cabos danificados, soltos ou envelhecidos e interfaces defeituosas podem fazer com que o link sofra flap. Inspeções físicas e manutenção regulares, incluindo verificações de cabos e testes de interface, podem ajudar a identificar e corrigir esses problemas antes que eles levem a oscilações de link.

Este artigo concentra-se na solução de problemas físicos da camada 1.

Identificar Flap de Link

As oscilações de link podem ser facilmente identificadas a partir de registros. O exemplo exibe um evento de oscilação de link na porta E1/5, onde a porta fica inativa e depois volta a funcionar mais tarde.

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from Ethernet1/5 to none

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel100: Ethernet1/5 is down

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-SPEED: Interface Ethernet1/5, operational speed changed to 10 Gbps

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_DUPLEX: Interface Ethernet1/5, operational duplex mode changed to Full

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_RX_FLOW_CONTROL: Interface Ethernet1/5, operational Receive Flow Control state changed to off

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_TX_FLOW_CONTROL: Interface Ethernet1/5, operational Transmit Flow Control state changed to off

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-SPEED: Interface port-channel100, operational speed changed to 10 Gbps

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_DUPLEX: Interface port-channel100, operational duplex mode changed to Full

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_RX_FLOW_CONTROL: Interface port-channel100, operational Receive Flow Control state changed to off

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-IF_TX_FLOW_CONTROL: Interface port-channel100, operational Transmit Flow Control state changed to off

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_UP: port-channel100: Ethernet1/5 is up

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from none to Ethernet1/5

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 10000000 Kbit

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETHPORT-5-IF_UP: Interface Ethernet1/5 is up in mode access

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETHPORT-5-IF_UP: Interface port-channel100 is up in mode access

Identificar a oscilação de enlace da camada 1 ou a oscilação de enlace acionada por protocolo

O Ethernet Port Manager (Ethpm) é um processo que gerencia interfaces Ethernet. O histórico de eventos do Ethpm pode ser utilizado para identificar a causa de uma oscilação de link.

Exemplo de Flap da Camada 1

A E1/5 apresenta uma falha de link às 05:28:35, com a transição de epm acionada por ETH_PORT_FSM_EV_LINK_DOWN. Isso indica uma oscilação da Camada 1.

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

N9K-C93180YC-FX# show system internal ethpm event-history interface e1/5

[143] 2024-01-21T05:26:02.100255000+00:00 [-] FSM:<Ethernet1/5> Transition:

Previous state: [ETH_PORT_FSM_ST_WAIT_BUNDLE_MEMBER_BRINGUP]

Triggered event: [ETH_PORT_FSM_EV_FIRST_BRINGUP_BUNDLE_MEMBER_DONE]

Next state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]

[144] 2024-01-21T05:27:35.783495000+00:00 [-] FSM:<Ethernet1/5> Transition:

Previous state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]

Triggered event: [ETH_PORT_FSM_EV_LINK_DOWN]

Next state: [FSM_ST_NO_CHANGE]

Exemplo de Flap Disparado LACP

E1/8 entra em um estado inativo de inicialização às 07:40:07, com a transição etpm disparada por ETH_PORT_FSM_EV_EXTERNAL_REINIT_NO_FLAP_REQ. Isso indica uma oscilação de link disparada pelo LACP (Link Aggregation Control Protocol Protocolo de Controle de Agregação de Links).

2024 Jan 21 07:37:20 N9K-C93180YC-FX %ETHPORT-5-IF_UP: Interface port-channel200 is up in Layer3

2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel200 is down (No operational members)

2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel200: first operational port changed from Ethernet1/8 to none

2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel200: Ethernet1/8 is down

2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel200,bandwidth changed to 100000 Kbit

2024 Jan 21 07:40:07 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_INITIALIZING: Interface Ethernet1/8 is down (Initializing)

N9K-C93180YC-FX# show system internal ethpm event-history interface e1/8

[218] 2024-01-21T07:37:20.551880000+00:00 [-] FSM:<Ethernet1/8> Transition:

Previous state: [ETH_PORT_FSM_ST_WAIT_BUNDLE_MEMBER_BRINGUP]

Triggered event: [ETH_PORT_FSM_EV_FIRST_BRINGUP_BUNDLE_MEMBER_DONE]

Next state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]

[219] 2024-01-21T07:40:07.104339000+00:00 [-] FSM:<Ethernet1/8> Transition:

Previous state: [ETH_PORT_FSM_ST_BUNDLE_MEMBER_UP]

Triggered event: [ETH_PORT_FSM_EV_EXTERNAL_REINIT_NO_FLAP_REQ]

Next state: [FSM_ST_NO_CHANGE]

Identificar e Solucionar Problemas de Oscilação de Enlace da Camada 1

A Cisco oferece uma ampla variedade de módulos ópticos para acomodar uma grande variedade de velocidades, meios e distâncias. Antes de conectar um link ao Nexus 9000, certifique-se de que o SFP e o cabo sejam compatíveis com seu software e hardware atuais. Você pode verificar isso:

Matriz de compatibilidade de óptica para dispositivo da Cisco

Matriz de Interoperabilidade Óptica a Óptica da Cisco

Problema da camada 1 no NX-OS 10.2.1 e versões posteriores

A partir do NX-OS 10.2.1, o Platform Insights Engine (PIE) é compatível com todas as plataformas ToR e EoR da Cloudscale. O PIE é um aplicativo de análise de causa raiz em tempo real no switch.

Três PIEs podem ajudá-lo a resolver o problema de oscilação de enlace da Camada 1.

PIE de Flap de Link

A PIE de oscilação de link analisa eventos de oscilação de link publicados por drivers de espaço do usuário (USDs) e determina a causa raiz de uma oscilação de link. O PIE publica o insight da análise da causa raiz para o agente. Os eventos de oscilação de link são publicados pelos USDs (cliente PIE) quando um link não sincroniza. Os USDs coletam todos os dados relevantes do ASIC e do USD que são necessários para a análise da causa raiz e publicam os dados ao corretor. A PIE de oscilação de link analisa os dados e chega à causa raiz mais provável para a oscilação.

PIE de Link Inoperante

O PIE de link desativado encontra a causa raiz de um link que não está sendo ativado. O USD coleta dados sobre uma interface quando ela está configurada para estar ativa, mas o estado operacional da interface não está ativo. Esses dados são publicados no aplicativo PIE. O PIE com link desativado assina esses eventos, recebe os dados do broker e analisa os dados para encontrar a causa raiz.

PIE de ótica

A PIE óptica é um mecanismo de monitoramento contínuo que executa uma análise em série temporal dos dados DOM coletados em intervalos regulares. Rastreando vários parâmetros no DOM durante um período, o PIE chega a uma métrica para descrever o estado da óptica de cada porta óptica. A métrica é uma percepção sobre a saúde de tendências de um transceptor óptico.

Para obter mais informações, consulte este documento PIE:

Guia do mecanismo de insights da plataforma NX-OS do Cisco Nexus 9000 Series, versão 10.2(x)

Exemplo de PIE: falha de link causada pelo desligamento e reativação da porta no lado do correspondente

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from Ethernet1/5 to none

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel100: Ethernet1/5 is down

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)

2024 Jan 21 05:27:35 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:27:58 N9K-C93180YC-FX %ETHPORT-5-SPEED: Interface Ethernet1/5, operational speed changed to 10 Gbps

<snip>

2024 Jan 21 05:28:02 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_UP: port-channel100: Ethernet1/5 is up

N9K-C93180YC-FX# show pie interface ethernet 1/5 link-flap-rca

2024-01-21 05:27:35 Event Id: 00000068 Ethernet1/5 Source Id: 436209664 RCA Code: 41   >>>PIE event time

Reason: Link flapped/down due to Local Fault, check peer                               >>>PIE link flap reason

N9K-C93180YC-FX# show pie interface ethernet 1/5 transceiver-insights

2024-01-21 05:30:12 Event Id: 00000080 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: --------GOOD------- Mod: 01

2024-01-21 05:28:12 Event Id: 00000072 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: --------GOOD------- Mod: 01

Exemplo de PIE: link inativo causado pelo encerramento da porta no lado do correspondente

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-FOP_CHANGED: port-channel100: first operational port changed from Ethernet1/5 to none

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETH_PORT_CHANNEL-5-PORT_DOWN: port-channel100: Ethernet1/5 is down

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_BANDWIDTH_CHANGE: Interface port-channel100,bandwidth changed to 100000 Kbit

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_LINK_FAILURE: Interface Ethernet1/5 is down (Link failure)

2024 Jan 21 05:48:38 N9K-C93180YC-FX %ETHPORT-5-IF_DOWN_PORT_CHANNEL_MEMBERS_DOWN: Interface port-channel100 is down (No operational members)

N9K-C93180YC-FX# show pie interface ethernet 1/5 link-down-rca

2024-01-21 05:48:48 Event Id: 00000197 Ethernet1/5 Source Id: 436209664 RCA Code: 16           >>>PIE event time

Reason: No PCS alignment detected. Please check Fec, speed, Autoneg configurations with peer   >>>Physical layer failed

N9K-C93180YC-FX# show pie interface ethernet 1/5 transceiver-insights

2024-01-21 05:50:12 Event Id: 00000199 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: ********BAD******** Mod: 01

2024-01-21 05:48:12 Event Id: 00000187 Event Class: xcvr DOM DB Event Interface: Ethernet1/5 Health Metric: --------GOOD------- Mod: 01

Substituição de peças defeituosas

Com base na saída de PIE, é recomendável substituir o componente possivelmente defeituoso e continuar a monitoração. Se a aba do link persistir, um teste de permuta será necessário para restringir a peça defeituosa. Um teste de troca pode ser realizado alterando-se um componente de cada vez, mantendo todo o resto inalterado. Por fim, o enlace estabiliza após a substituição do componente defeituoso específico.

Problema da camada 1 no NX-OS 10.1.2 e versões anteriores

Para versões do software NX-OS anteriores à 10.2(1), o suporte a PIE não está disponível. Várias etapas manuais são necessárias para verificar a oscilação de link da camada 1.

Verificando o histórico de eventos do cliente de porta

Lista todos os eventos de link no módulo anexado. O tempo de devolução refere-se à duração que uma interface aguarda antes de notificar o supervisor de um link que está sendo desativado. Durante esse período, a interface espera para ver se o link volta a ficar ativo. Isso é usado para determinar se o link foi desativado ou se está apenas passando por um flap menor.

N9K-C93180YC-FX# attach module 1

module-1# show system internal port-client link-event

*************** Port Client Link Events Log ***************

---- ------ ----- ----- ------

Time PortNo Speed Event Stsinfo

---- ------ ----- ----- ------

Jan 21 05:48:38 2024 00122142 Ethernet1/5 ---- DOWN Link down debounce timer stopped and link is down

Jan 21 05:48:37 2024 00993003 Ethernet1/5 ---- DOWN Link down debounce timer started(0x40e50006)

Jan 21 05:45:14 2024 00432606 Ethernet1/5 10G UP SUCCESS(0x0)

Verificando os eventos ASIC

Esses eventos fornecem informações detalhadas sobre cada evento de link.

N9K-C93180YC-FX# attach module 1

module-1# show hardware internal tah link-events fp-port 5

324) Jan 21 05:48:37 2024 uSec 992843: Fp 5 : tahusd_isr.c #8469

Port Down with an ASIC interrupt

------------- ASIC MAC/PCS/Serdes REGS (Mac Channel 0) -------------

Link flapped due to Local Fault, check peer          >>>Local Fault means the local device detected the issue on the receive path.

>>>Remote Fault means a Local Fault is detected across the link.

Intr Regs 00:0x0000, 01:0x0000, 02:0x0000, 03:0x0010, 07:0x0000, 11:0x0000, 15:0x0000

sts2.bercount : 0x0f00 sts2.erroredblocks : 0x0000

bercounthi : 0x0000 erroredblockhi : 0x0000

counters0.syncloss : 0x0001 counters0.blocklockloss: 0x0001

counters1.highber : 0x0000 counters1.vlderr : 0x0000

counters2.unkerr : 0x0012 counters2.invlderr : 0x0000

Código de erro

Explicação

sts2.erroredblocks

Conta blocos com erros (bits de ordem superior).

sts2.bercount

Conta cabeçalhos de sincronização inválidos (bits de ordem inferior).

bercounthi

Conta cabeçalhos de sincronização inválidos (bits de ordem superior).

bloqueio com erro

Conta blocos com erros (bits de ordem superior).

counters0.syncloss

Perda de sincronização

counters0.blocklockloss

Perda de bloqueio de bloco

counters1.highber

BER alto

counters1.vlderr

Erro válido

counters2.unkerr

Erro Desconhecido

counters2.invlderr

Erro inválido

Verificando Informações de Monitoramento Óptico Digital (DOM) em Ambos os Lados

Há várias informações de Small Form-fator Pluggable (SFP) nesta saída. Se algum valor estiver fora da faixa aceitável no diagnóstico do SFP, o SFP será considerado um componente potencialmente danificado e precisará ser substituído. Neste exemplo, tudo está em boa ordem.

N9K-C93180YC-FX# show interface e1/5 transceiver details

Ethernet1/5

transceiver is present

type is 10Gbase-SR                      >>>SFP type

name is CISCO-OPLINK                    >>>SFP vendor

part number is TPP4XGDS0CCISE2G

revision is 02

serial number is OPMXXXXXXXX            >>>SFP SN

nominal bitrate is 10300 MBit/sec       >>>SFP bitrate

Link length supported for 50/125um OM2 fiber is 82 m

Link length supported for 62.5/125um fiber is 26 m

Link length supported for 50/125um OM3 fiber is 300 m

cisco id is 3

cisco extended id number is 4

cisco part number is 10-2415-03

cisco product id is SFP-10G-SR          >>>SFP PID

cisco version id is V03

SFP Detail Diagnostics Information (internal calibration)

----------------------------------------------------------------------------

Current                Alarms       Warnings

Measurement           High    Low    High    Low

----------------------------------------------------------------------------

Temperature 36.52 C           75.00 C -5.00 C 70.00 C 0.00 C

Voltage     3.28 V             3.63 V  2.97 V  3.46 V 3.13 V

Current     6.61 mA         12.00 mA 0.50 mA 11.50 mA 1.00 mA

Tx Power   -2.70 dBm        1.99 dBm -11.30 dBm -1.00 dBm -7.30 dBm

Rx Power   -2.40 dBm        1.99 dBm -13.97 dBm -1.00 dBm -9.91 dBm

Transmit Fault Count = 0

----------------------------------------------------------------------------

Note: ++ high-alarm; + high-warning; -- low-alarm; - low-warning

peer side information is snipped.

Troque o teste e a substituição de peças defeituosas

Se tudo parecer correto com as verificações anteriores, será necessário um teste de troca para restringir a peça defeituosa. Um teste de troca pode ser realizado alterando-se um componente de cada vez, mantendo todo o resto inalterado. Eventualmente, o enlace se estabiliza depois que o componente defeituoso específico é trocado.

Informações Relacionadas

Especificações do Nexus 9000

Guia de configuração de interfaces do Nexus 9000

Guia do mecanismo de insights da plataforma NX-OS do Nexus 9000 Series