Sommario

Introduzione

Problema

Soluzione

1. Spine Switch N9K-C93600CD-GX non è in arrivo nel cluster

2. L'interfaccia grafica APIC mostra numeri di interfaccia collegati errati

3. L'interfaccia grafica APIC mostra lo stesso indirizzo MAC per tutte le interfacce (eth2-1, eth2-2, eth2-3, eth2-4)

Introduzione

In questo documento viene descritto l'utilizzo di switch a doppio ruolo nella struttura ACI (Application Centric Infrastructure) e l'utilizzo di schede di interfaccia virtuale (VIC, Virtual Interface Card) Intel.

Problema

I problemi segnalati:

1. Spine Switch N9K-C93600CD-GX non è in arrivo nel cluster.

2. Nell'interfaccia utente di Application Policy Infrastructure Controller (APIC) vengono visualizzati numeri di interfaccia non corretti connessi.

3. La GUI di APIC mostra lo stesso indirizzo MAC per tutte le interfacce (eth2-1, eth2-2, eth2-3, eth2-4).

Soluzione

1. Spine Switch N9K-C93600CD-GX non è in arrivo nel cluster

È stato osservato che è stato utilizzato un approccio molto generico quando si segnalano questi tipi di problemi. Queste sono operazioni di base per la risoluzione dei problemi che possono essere eseguite per l'isolamento, ma devono essere eseguite dopo aver controllato la guida all'installazione del prodotto e dopo aver verificato che le impostazioni e i requisiti correnti corrispondano.

i. È possibile spostare le connessioni sul lato dell'interruttore o sul lato APIC.

ii. Ricaricamento dello switch o dell'APIC completato.

iii. Vengono raccolti comandi CLI aggiuntivi o, talvolta, vengono raccolti log del supporto tecnico per approfondire l'analisi del problema.

Tutti questi passaggi sono corretti e devono essere seguiti. È tuttavia possibile controllare un altro passaggio ogni volta che si verifica un problema di individuazione con un identificatore di parte (PID) specifico. Questa verifica di base consiste nel consultare la guida all'installazione dell'hardware dello switch in questione.

Ad esempio, si è verificato un problema con lo switch PID N9K-C93600CD-GX e l'utente stava tentando di sollevarlo come una spine ed è stato collegato allo switch foglia tramite il proprio numero di porta 20. Questo interruttore a dorso non si è mai alzato.

Nella guida all'installazione, è possibile trovare le seguenti informazioni:

- Il ruolo predefinito dello switch è quello di switch foglia.

- I collegamenti fabric predefiniti (porte 29-36) devono essere utilizzati per il rilevamento iniziale dello switch tramite un altro switch.

- Per modificare lo switch dal ruolo predefinito, procedere come segue: il nodo viene visualizzato come dispositivo individuato nella vista inventario fabric, è necessario impostare il ruolo dello switch (dorso o foglia) e lo switch viene riavviato automaticamente per essere incluso nel ruolo configurato.

- Se si collega una direttrice predefinita (un interruttore a doppio ruolo che per impostazione predefinita è una direttrice, come Nexus 9316D-GX) direttamente a un APIC, il cambio del ruolo in foglia viene eseguito automaticamente da APIC e dal riavvio. In seguito, il nodo viene visualizzato in Nodi in attesa di registrazione ed è necessario registrarlo.

Prima di eseguire ulteriori controlli, controllare sempre le sezioni come Considerazioni sul ruolo Foglia/Dorso e considerazioni sul rilevamento.

Riferimento: https://www.cisco.com/c/en/us/td/docs/switches/datacenter/nexus9000/hw/aci-93600cd-gx/guide/b_c93600CD-GX-aci-mode-hardware-installation-guide/b_c93600CD-GX-aci-mode-hardware-installation-guide_chapter_01.html.

Analogamente, per PID C9316D-GX, il ruolo predefinito è la direttrice. Ma può anche funzionare come una foglia nel tessuto.

Riferimento: https://www.cisco.com/c/en/us/td/docs/switches/datacenter/nexus9000/hw/aci_9316D-GX_hig/guidebook/b_C9316D-GX_aci_hardware_installation_guide/m_overview_nx-os.html.

Altri esempi sono PID 9332D-GX2B e 9364C-GX, il ruolo predefinito è foglia ma può funzionare come spine.

9332D-GX2B deve essere connesso tramite un intervallo di porte compreso tra 25 e 32.

9364C-GX deve essere connesso tramite il proprio intervallo di porte da 49 a 62.

Pertanto, controllare sempre la guida all'installazione dell'hardware prima di procedere con qualsiasi altra procedura di risoluzione dei problemi, in quanto consente di risparmiare tempo.

2. L'interfaccia grafica APIC mostra numeri di interfaccia collegati errati

È stato segnalato che le connessioni dei cavi fisici sono state effettuate sulle interfacce APIC eth2-1 ed eth2-3, ma nell'interfaccia grafica APIC è stato rilevato che le interfacce eth2-2 ed eth2-4 erano visualizzate. Comportamenti simili sono stati osservati per tutti e tre gli APIC del cluster.

L'utente utilizzava lo slot PCIe (Peripheral Component Interconnect Express) - interfaccia di rete APIC-PCIE-IQ10GC Intel X710 quad port 10GBase-T, non le schede Cisco VIC.

Verifica in Cisco Integrated Management Controller (CIMC), chassis > Inventory > PCI Adapters.

È stato confermato che la modalità NIC in CIMC è dedicata a tutti e tre i CIMC, insieme allo stato TPM (Trusted Platform Module) abilitato e al proprietario di proprietà. Anche tutti gli altri output sembrano buoni. In seguito, è stato riscontrato un errore software (ID bug Cisco CSCwd21587) per risolvere ulteriormente il problema.

Si è constatato che:

Scheda di interfaccia di rete 10GBase-T a quattro porte Intel X710-T4, con lo schema di numerazione delle porte a partire dalla porta destra e con l'incremento verso la porta sinistra.

In genere, le connessioni in qualsiasi configurazione di fabric vengono eseguite partendo dal presupposto che la numerazione inizi da sinistra, che non è applicabile in questo caso.

Alle porte vengono assegnati numeri da destra a sinistra nel modo seguente:

| eth2-4 | eth2-3 | eth2-2 | eth2-1 |

Tenendo presente questo schema di numerazione, APIC sta rilevando le porte corrette e visualizzando le porte sulla GUI come previsto.

Anche nel documento è stato aggiornato: https://www.cisco.com/c/en/us/td/docs/switches/datacenter/aci/apic/server/M3-L3-server/APIC-M3-L3-Server.pdf.

Punti da ricordare:

- APIC-PCIE-IQ10GC o UCSC-PCIE-IQ10GC devono sempre essere installati nello slot PCIe 1 per APIC M3/L3.

- APIC-PCIE-IQ10GC o UCSC-PCIE-IQ10GC possono utilizzare qualsiasi porta o qualsiasi coppia di porte per connettersi a un nodo foglia.

- APIC-PCIE-IQ10GC o UCSC-PCIE-IQ10GC hanno la numerazione delle porte nell'ordine | eth2-4 | eth2-3 | eth2-2 | eth2-1 | e la numerazione sullo chassis non è valida.

- Dalla versione 4.2(5), la scheda di interfaccia di rete 10GBase UCSC-PCIE-IQ10GC Intel X710 a quattro porte è supportata per la connettività 10GBast-T ai nodi foglia Cisco ACI.

3. L'interfaccia grafica APIC mostra lo stesso indirizzo MAC per tutte le interfacce (eth2-1, eth2-2, eth2-3, eth2-4)

È stato rilevato che l'interfaccia GUI di APIC non mostrava l'indirizzo MAC corretto per ciascuna interfaccia. Tutti gli indirizzi MAC erano gli stessi.

Tenere sempre presente che tra le interfacce è presente un raggruppamento attivo/backup, quindi è sempre necessario visualizzare l'indirizzo MAC dell'interfaccia attiva che può essere assegnato all'interfaccia bond0, quindi è possibile visualizzare lo stesso indirizzo MAC.

Qui è possibile vedere l'indirizzo MAC dell'interfaccia verso il basso come nell'output:

Questo è un problema software documentato con l'ID bug Cisco CSCwd21587.

Idealmente, è necessario vedere l'indirizzo MAC di eth2-2 che è attivo e eth2-4 è il backup qui.

Si tratta di un problema di back-end, in quanto l'elenco nell'interfaccia utente è basato sul moquery cnwPhysIf. Questo comando moquery cnwPhysIf mostra anche l'indirizzo MAC dell'interfaccia down eth2-1.

Per risolvere il problema, usare il comando cat /proc/net/bonding/bond0 su APIC per controllare gli indirizzi MAC corretti. Per una correzione permanente, controllare la pagina dei difetti del software.