Introducción
En este documento se describe el uso de switches con dos funciones en el fabric de la infraestructura centrada en aplicaciones (ACI) y el uso de las tarjetas de interfaz virtual (VIC) de Intel.
Problema
Se informó de los siguientes problemas:
1. El conmutador central N9K-C93600CD-GX no se está activando en el clúster.
2. La GUI del Application Policy Infrastructure Controller (APIC) muestra los números de interfaz erróneos conectados.
3. APIC GUI muestra la misma dirección MAC para todas las interfaces (eth2-1, eth2-2, eth2-3, eth2-4).
Solución
1. El conmutador central N9K-C93600CD-GX no se activa en el clúster
Se ha observado que se ha utilizado un enfoque muy genérico cuando se informa sobre este tipo de cuestiones. Estos son pasos básicos para la resolución de problemas que se pueden realizar para el aislamiento, pero que se deben realizar después de comprobar la guía de instalación del producto y asegurarse de que la configuración y los requisitos actuales coinciden.
i. Se realiza el desplazamiento de las conexiones en el lado del switch o en el lado del APIC.
ii. Se vuelve a cargar el switch o APIC.
iii. Se recopilan comandos CLI adicionales o, a veces, se recopilan registros de soporte técnico para investigar más a fondo el problema.
Todos estos pasos son correctos y deben seguirse. Sin embargo, hay otro paso que se puede comprobar siempre que haya un problema de detección con un identificador de pieza (PID) específico. Esa comprobación básica debe efectuarse a través de la guía de instalación de hardware de ese conmutador específico.
Por ejemplo, un usuario tuvo un problema con el switch PID N9K-C93600CD-GX y el usuario estaba intentando activarlo como columna y estaba conectado al switch de hoja a través de su propio puerto número 20. Este interruptor de columna nunca salió.
En la guía de instalación, encontrará la siguiente información:
- Esta función predeterminada del switch es como switch de hoja.
- Los enlaces de fabric predeterminados (puertos 29-36) deben utilizarse para la detección inicial de switch a través de otro switch.
- Para cambiar el switch de la función predeterminada, debe proceder de la siguiente manera: el nodo aparece como un dispositivo detectado en la vista de inventario de fabric, debe establecer la función del switch (columna u hoja) y el switch se reinicia automáticamente para aparecer en la función configurada.
- Si conecta una columna predeterminada (un conmutador de función dual que, de forma predeterminada, es una columna, como Nexus 9316D-GX) directamente a un APIC, el cambio de la función a hoja se realiza automáticamente mediante APIC, así como el reinicio. Después de esto, el nodo aparece en Nodos pendientes de registro y debe registrar el nodo.
Compruebe siempre las secciones como Consideraciones sobre la función de hoja/columna y Consideraciones sobre la detección antes de realizar comprobaciones adicionales.
Referencia: https://www.cisco.com/c/en/us/td/docs/switches/datacenter/nexus9000/hw/aci-93600cd-gx/guide/b_c93600CD-GX-aci-mode-hardware-installation-guide/b_c93600CD-GX-aci-mode-hardware-installation-guide_chapter_01.html.
De forma similar, para PID C9316D-GX, la función predeterminada es la columna. Pero también puede funcionar como una hoja en la tela.
Referencia: https://www.cisco.com/c/en/us/td/docs/switches/datacenter/nexus9000/hw/aci_9316D-GX_hig/guidebook/b_C9316D-GX_aci_hardware_installation_guide/m_overview_nx-os.html.
Otros ejemplos son PID 9332D-GX2B y 9364C-GX; la función predeterminada es hoja, pero puede funcionar como columna vertebral.
9332D-GX2B se debe conectar a través de su propio intervalo de puertos de 25-32.
9364C-GX debe conectarse a través de su propio intervalo de puertos de 49-62.
Por lo tanto, compruebe siempre la guía de instalación del hardware antes de continuar con cualquier otro paso de resolución de problemas, ya que ahorra tiempo.
2. La GUI de APIC muestra números de interfaz erróneos conectados
Se informó que las conexiones de cable físicas se hicieron en las interfaces APIC eth2-1 y eth2-3, pero en la GUI de APIC, se encontró que las interfaces eth2-2 y eth2-4 estaban apareciendo. Se observó un comportamiento similar en los tres APIC del clúster.


El usuario estaba utilizando la ranura PCIe (Peripheral Component Interconnect Express) APIC-PCIE-IQ10GC Interfaz de red Intel X710 de cuatro puertos 10GBase-T, no las tarjetas VIC de Cisco.
Verifique en Cisco Integrated Management Controller (CIMC), chassis > Inventory > PCI Adapters.

Se confirmó que el modo NIC en CIMC está dedicado a los tres CIMC, junto con el estado habilitado del Módulo de plataforma segura (TPM) y la propiedad. Todas las demás salidas se ven bien también. Posteriormente, se detectó un defecto de software (ID de error de Cisco CSCwd21587) para solucionar el problema.
Se encontró que:
NIC 10GBase-T4 de cuatro puertos Intel X710-T4, que tiene el esquema de numeración de puertos comenzando en el puerto derecho e incrementando yendo hacia el puerto izquierdo.
Por lo general, las conexiones en cualquier configuración de fabric se realizan con la suposición de que la numeración comienza desde la izquierda, lo que no es aplicable aquí.
A los puertos se les asignan números de derecha a izquierda de la siguiente manera:
| eth2-4 | eth2-3 | eth2-2 | eth2-1 |
Con este esquema de numeración en mente, APIC detecta los puertos correctos y muestra los puertos en la GUI como se esperaba.
También se ha actualizado en el documento: https://www.cisco.com/c/en/us/td/docs/switches/datacenter/aci/apic/server/M3-L3-server/APIC-M3-L3-Server.pdf.
Puntos que debe recordar:
- APIC-PCIE-IQ10GC o UCSC-PCIE-IQ10GC siempre deben instalarse en la ranura PCIe 1 para APIC M3/L3.
- APIC-PCIE-IQ10GC o UCSC-PCIE-IQ10GC pueden utilizar cualquier puerto o par de puertos para conectarse a un nodo de hoja.
- APIC-PCIE-IQ10GC o UCSC-PCIE-IQ10GC tienen numeración de puertos en el orden | eth2-4 | eth2-3 | eth2-2 | eth2-1 | y la numeración del chasis no es válida.
- A partir de la versión 4.2(5), la tarjeta de interfaz de red 10GBase de cuatro puertos Intel X710 UCSC-PCIE-IQ10GC es compatible con la conectividad 10GBast-T a los nodos de hoja de Cisco ACI.
3. APIC GUI muestra la misma dirección MAC para todas las interfaces (eth2-1, eth2-2, eth2-3, eth2-4)
Se observó que la GUI de APIC no mostraba la dirección MAC correcta para cada interfaz. Todas las direcciones MAC son iguales.

Recuerde siempre que hay un agrupamiento activo/de respaldo entre las interfaces, por lo que siempre debe ver la dirección MAC de la interfaz activa que se puede asignar a la interfaz bond0, por lo tanto, verá la misma dirección MAC.
Aquí, está viendo la dirección MAC de la interfaz inactiva según el resultado:

Este es un defecto de software que se documenta con el ID de bug de Cisco CSCwd21587.
Idealmente, debe ver la dirección MAC de eth2-2 que es la activa y eth2-4 es la copia de seguridad aquí.
Este es un problema de backend, ya que la lista en la interfaz de usuario se crea en función de la moquery cnwPhysIf. Esto moquery cnwPhysIf también muestra la dirección MAC de la interfaz inactiva eth2-1.
La solución alternativa es utilizar el comando cat /proc/net/bonding/bond0 en APIC para verificar las direcciones MAC correctas. Para obtener una solución permanente, consulte la página de defectos del software.