Probleemoplossing voor ACI Fabric Discovery - apparaatvervanging

Inleiding

Dit document beschrijft stappen om scenario's voor apparaatvervanging in ACI te begrijpen en problemen op te lossen.

Achtergrondinformatie

Het materiaal van dit document is Problemen oplossen met Cisco Application Centric Infrastructure, tweede editie het boek, met name de Fabric Discovery - Apparaatvervanging hoofdstuk.

Overzicht

Tijdens de evolutie van een ACI-weefsel zal het nodig zijn verschillende componenten te vervangen, waaronder: APIC's, switches, switches van de wervelkolom en IPN-apparaten. De meest voorkomende redenen voor vervanging zijn RMA’s en hardware-upgrades. Deze procedures zijn duidelijk gedocumenteerd in de Cisco Installatie/upgrade-handleidingen en de meest recente handleiding moet worden gelezen voordat de vervanging plaatsvindt. In dit deel wordt dieper ingegaan op de werking van de procedures in het kader van de motorkap; en loop door verschillende van de meest voorkomende probleemoplossing scenario's.

Procedures en verificatie

Opmerking: Vanaf ACI Switch versie 5.2(3), NXOS switches aangesloten op een ontdekte ACI Fabric switch kan POAP gebruiken om te zetten in een ACI Switch.

Hardware vervanging

Blad

Een blad van het RMA depot zal aankomen met NXOS software. Gelieve de onderstaande sectie genaamd 'Probleem: Aankomst in NXOS mode' om het blad naar behoren om te zetten naar ACI mode. Als u een blad van een andere stof of met een vorige configuratie gebruikt, zorg er dan voor dat u de opdrachten 'acidiag touch clean' en 'reload' gebruikt.

Nadat de bovenstaande stappen zijn voltooid en de nieuwe blad switch klaar is voor registratie, verwijder het blad te worden vervangen uit de stof via de 'Remove from Controller' optie.

De optie 'Verwijderen uit controller' zal de node volledig verwijderen uit de APIC, waarbij de node-ID, SN-associatie en TEP-adres worden vrijgegeven die door de APIC zijn toegewezen. Deze processen zijn gewenst bij het vervangen van een switch knooppunt. De optie 'Uit bedrijf nemen' wordt alleen gebruikt als verwacht wordt dat dezelfde knooppunt zich opnieuw bij de stof zal aansluiten met dezelfde knooppunt-ID en -SN.

Wanneer de te vervangen switch niet meer te zien is op de pagina Fabric Membership, kan het nieuwe blad via de ruggengraatinterfaces met de stof worden verbonden. Zodra het blad door de APIC is ontdekt, verschijnt het in de Fabric Inventory en is het klaar voor registratie. Als het te vervangen apparaat nog niet zijn knooppunt-ID heeft vrijgegeven en een nieuwe switch is geregistreerd met dezelfde knooppunt-ID, wordt een fout geworpen met verwijzing naar het feit dat de ID al is gekoppeld aan een ander blad-knooppunt. De fout moet na enige tijd worden opgelost. Als het nieuwe knooppunt niet wordt weergegeven in het submenu Fabric Membership, kan er sprake zijn van bekabeling. dit kan worden geverifieerd door de LLDP-buren te bekijken via de 'toon lldp buren detail' opdracht op de wervelkolom switches die verbinding maken met de nieuw aangebrachte blad switch. Raadpleeg het hoofdstuk "Initial Fabric Setup" voor meer informatie over het detectieproces.

Als het infra VLAN wordt gewijzigd, moeten alle bladknooppunten tegelijkertijd schoon worden gereboot. Als niet alle switches tegelijkertijd worden gereinigd, zal een schone herladen switch online komen en het oude infra VLAN via LLDP ontvangen van een nog niet-gereinigd blad, en het schone herladen blad zal niet registreren bij de APIC. Zie het hoofdstuk "Initial Fabric Setup" voor meer informatie.

Vanwege platformbeperkingen kunnen VPC-paren geen mix zijn van Gen1 en Gen2 of hogere bladzijden switches. Echter, op het moment van schrijven kan elk Gen2-blad en hoger zich mengen met elk ander Gen2-blad of hoger.

ruggegraat

Als een blad, afhankelijk van de HW van de wervelkolom (zoals modulaire wervelkolom) kon het in NXOS-modus aankomen. Volg de procedure "Probleem: Komt aan in "NXOS-modus" onder de scenario's om de conversie uit te voeren.

Wanneer de gebruiker een switch voor de as vervangt, moet hij/zij rekening houden met de functionaliteit van de BGP-routerreflector. Als beste praktijk moeten er minstens twee wervelkolom switches zijn die als BGP-routereflectoren voor een Layer 3 Cisco ACI-fabric zijn geconfigureerd. Deze configuratie bevindt zich bij 'Systeem > Systeeminstellingen > BGP-routereflectoren' onder Route Reflector-knooppunten. Zorg er bij het vervangen of verwijderen van een ruggengraat-switch voor dat de juiste configuratiewijzigingen worden doorgevoerd om één actieve routereflector te behouden en zorg ervoor dat ten minste twee actieve routereflectoren zijn voltooid.

Raadpleeg de sectie "Podbeleid — BGP RR / Date&Time / SNMP" in hoofdstuk "Beheer en kernservices" voor meer informatie over de BGP-routereflectoren.

APIC

De belangrijkste overweging bij het uitvoeren van een APIC-vervanging is de gezondheid van het bestaande APIC-cluster. Vóór de vervanging moeten alle APIC's in het cluster als volledig volwaardig gerapporteerd worden. In punt 4.2 is een extra tool geïntroduceerd om de gezondheid van het APIC-cluster via CLI te verifiëren:

apic1# acidiag cluster
Admin password:
Product-name = APIC-SERVER-L2
Serial-number = FCH2206W0RK
Running...

Checking Core Generation: OK
Checking Wiring and UUID: OK
Checking AD Processes: Running
Checking All Apics in Commission State: OK
Checking All Apics in Active State: OK
Checking Fabric Nodes: OK
Checking Apic Fully-Fit: OK
Checking Shard Convergence: OK
Checking Leadership Degration: Optimal leader for all shards
Ping OOB IPs:
APIC-1: 192.168.4.20 - OK
Ping Infra IPs:
APIC-1: 10.0.0.1 - OK
Checking APIC Versions: Same (4.2(1i))
Checking SSL: OK

Done!

Let bij het vervangen van een APIC op de initiële setup-variabelen van de te vervangen APIC voordat de APIC wordt uitgeschakeld.

apic1# cat /data/data_admin/sam_exported.config
Setup for Active and Standby APIC
fabricDomain = POD37 
fabricID = 1 
systemName =apic1 
controllerID = 1 
tepPool = 10.0.0.0/16 
infraVlan = 3937 
GIPo = 225.0.0.0/15 
clusterSize = 3 
standbyApic = NO 
enableIPv4 = Y 
enableIPv6 = N 
firmwareVersion = 4.2(1i) 
ifcIpAddr = 10.0.0.1 
apicX = NO 
podId = 1 
oobIpAddr = 10.48.176.57/24

Bereid de nieuwe APIC met de juiste softwareversie voor en voer de eerder genoemde startwaarden opnieuw in. Wanneer de eerste configuratie is voltooid en de APIC volledig is opgestart, herstart het in de stof van UI van een van de andere APIC's in het cluster.

Vervanging van IPN-apparaat

In een Multi-Pod-omgeving kan het nodig zijn om een van de apparaten te vervangen die worden gebruikt voor het IPN (Inter-Pod Network). Voorafgaand aan de vervanging moet het IPN-netwerk Bidirectionele Rendez-vous Point Redundantie PIM hebben geconfigureerd in de vorm van Phantom RP’s. Zonder Phantom RP's op zijn plaats, als de knooppunt was de RP, zou er een PIM convergentie zijn en pakketverlies zou worden gezien voor al BUM verkeer dat over het IPN wordt verzonden.

Raadpleeg "RP-configuratie" in het hoofdstuk "Multi-Pod Discovery" voor meer informatie over de configuratie van Phantom RP.

Opnieuw laden van APIC/blad/spine

In bepaalde scenario's is de beste optie voor het herstellen van een blad/wervelkolom die niet bij de stof komt, een schone herlading van het apparaat uit te voeren.

Het wordt niet aanbevolen om een schone herlading uit te voeren op een apparaat dat wacht op een upgrade van de draai. Schoon herladen van elk apparaat kan een lange tijd duren.

De 'acidiag touch' opdracht heeft twee opties, schoon en setup. De schone optie verwijdert alle beleidsgegevens terwijl het behouden van de APIC netwerkconfiguratie (zoals fabric name, IP-adres, login). De setup-optie verwijdert zowel beleidsgegevens als de APIC-netwerkconfiguratie. De setup-optie wordt het meest gebruikt bij het verplaatsen van apparaten over Pods, aangezien de Pod-ID moet worden gewijzigd, en normaal zal het beheernetwerk ook moeten bijwerken.

APIC

fab1-apic1# acidiag touch clean 
This command will wipe out this device, Proceed? [y/N] y

fab1-apic1# acidiag reboot 
This command will restart this device, Proceed? [y/N] y

Leaf/spine

fab1-leaf101# acidiag touch clean 
This command will wipe out this device, Proceed? [y/N] y 

fab1-leaf101# reload 
This command will reload the chassis, Proceed (y/n)? [n]: y

De 'acidiag touch clean' opdracht werkt door een verborgen bestand op het blad te zetten in /mnt/pss genaamd .clean. Wanneer het blad wordt opgestart, loopt een shell script dat controleert of .clean bestand aanwezig is. In het geval dat .clean bestand onder /mnt/pss bestaat, wordt de beleidsconfiguratie gewist en wordt de configuratie opnieuw gedownload van de APIC. Als deze opdracht wordt ingevoerd en het knooppunt niet wordt herladen, blijft het bestand aanwezig en wordt het beleid nog steeds afgeveegd op het volgende herladen, ongeacht hoeveel tijd is verstreken sinds de invoer van de touch clean.

Scenario's voor probleemoplossing

Probleem: Wordt in de NXOS-modus ontvangen

Verificatie

Soms als een switch via RMA wordt verzonden, kan het met software komen NXOS die nog niet via het Power On Auto Provisioning (POAP) proces is gevormd. Wanneer de gebruiker in dit apparaat consoles zal zien zij één of andere vorm van het volgende bericht:

Afbreken van automatische provisioning en doorgaan met normale installatie?(ja/nee)

Als het apparaat al door POAP is gegaan, is de eenvoudigste manier om te bepalen of een blad standalone NXOS code draait om te zoeken naar de 'NXOS image file' lijn in de 'show versie' uitvoer. Als een dergelijke uitvoer beschikbaar is, wordt op het blad standalone code uitgevoerd en moet dit worden geconverteerd naar de ACI-modus. De aanwezigheid van Kickstart en systeembeelden kan worden geverifieerd en zal alleen aanwezig zijn op een blad waarop een ACI-beeld draait, door te kijken naar het beeld zelf, dat n9000 op standalone en aci-n9000 op ACI zal zijn.

Standalone NXOS

nxos-n9k# show version
Cisco Nexus Operating System (NX-OS) Software
.
.
.
Software
  BIOS: version 07.17
  NXOS: version 6.1(2)I3(4)
  BIOS compile time:  09/10/2014
  NXOS image file is: bootflash:///n9000-dk9.6.1.2.I3.4.bin
  NXOS compile time:  3/18/2015 0:00:00 [03/18/2015 07:49:10]

ACI

aci-leaf101# show version
Cisco Nexus Operating System (NX-OS) Software
.
.
.
Software
  BIOS:      version 07.66
  kickstart: version 14.2(1i) [build 14.2(1i)]
  system:    version 14.2(1i) [build 14.2(1i)]
  PE:        version 4.2(1i)
  BIOS compile time:       06/11/2019
  kickstart image file is: /bootflash/aci-n9000-dk9.14.2.1i.bin
  kickstart compile time:  09/07/2019 10:25:16 [09/07/2019 10:25:16]
  system image file is:    /bootflash/auto-s
  system compile time:     09/07/2019 10:25:16 [09/07/2019 10:25:16]

Oplossing

Als de switch is verzonden met NXOS-code, moet deze worden geconverteerd naar de ACI-modus. De switch moet worden verzonden met zowel de NXOS en de ACI afbeelding in de bootflash, hoewel dit niet altijd het geval is. De ACI-afbeelding begint met 'aci-n9000'. Als de ACI afbeelding niet aanwezig is, dan moet deze handmatig op de bootflash worden geladen. Dit kan worden uitgevoerd via de USB-verbinding (lokale toegang vereist) of via SCP vanaf de APIC rechtstreeks (ervan uitgaande dat beide apparaten via een beheernetwerk zijn aangesloten). Hier zijn de instructies om de afbeelding via SCP te kopiëren:

1. nexus-9000(config)# feature scp-server
2. apic1# scp -r /firmware/fwrepos/fwrepo/switch-image-name admin@standalone_switch:switch-image-name

Het blad zal dan moeten worden geconfigureerd om niet de NXOS-afbeelding op te starten, de configuratie op te slaan, de boot-verklaringen te veranderen in ACI.

1. (config)# no boot nxos
2. (config)# copy run start
3. (config)# boot aci bootflash:
     
     
4. (config)# reload

Probleem: Leaf/Spine EPLD/FPGA niet correct, F1582

Verificatie

De volgende fouten worden weergegeven in de Fouten voor de Nexus 9000 ACI switch.

F1582 FPGA versie is niet gevonden. Versie uitvoeren:0x(z) Verwachte versie:0x(y)

Zoek vanuit de APIC CLI naar alle gevallen van Fout F1582:

apic1# moquery -c faultInst -f 'fault.Inst.code=="F1582"'

EPLD-opmerkingen

De Cisco Nexus 9000 Series ACI-mode switches bevatten verschillende programmeerbare logical devices (PLDs) die hardwarefuncties bieden in alle modules. Cisco biedt EPLD-upgrades (electronic programble Logic device) om de hardwarefunctie te verbeteren of bekende problemen op te lossen. PLD's omvatten elektronische programmeerbare logische apparaten (EPLD's), door het veld programmeerbare gate arrays (FPGA's) en complexe programmeerbare logische apparaten (CPLD's), maar geen ASIC's.

De term EPLD wordt gebruikt voor zowel FPGA als CPLD’s.

Het voordeel van het hebben van EPLDs voor sommige modulefuncties is dat wanneer die functies moeten worden opgewaardeerd, enkel hun softwarebeelden bevorderen in plaats van hun hardware te vervangen.

EPLD-beeldupgrades voor een I/O-module verstoren het verkeer door de module omdat de module tijdens de upgrade kort moet worden uitgeschakeld. In een modulair chassis voert het systeem EPLD-upgrades uit op één module tegelijk, dus op elk moment verstoort de upgrade alleen het verkeer dat door één module gaat.

Cisco biedt de nieuwste EPLD-afbeeldingen bij elke release. Meestal zijn deze afbeeldingen hetzelfde als in eerdere releases, maar soms worden sommige van deze afbeeldingen bijgewerkt. Deze EPLD-beeldupdates zijn niet verplicht, tenzij anders aangegeven. Wanneer Cisco een EPLD-upgrade beschikbaar maakt, maken deze releaseopmerkingen de beschikbaarheid ervan bekend en kunnen deze worden gedownload van de Cisco-website.

Wanneer nieuwe EPLD-beelden beschikbaar zijn, worden de upgrades altijd aanbevolen als de netwerkomgeving een onderhoudsperiode toestaat waarin enige mate van verkeersverstoring aanvaardbaar is. Over het algemeen zullen EPLD-upgrades nodig zijn wanneer nieuwe hardwarefuncties worden toegevoegd als gevolg van een software-upgrade.

Er kunnen ook verschillende redenen zijn voor de noodzaak om de EPLD-firmware te upgraden terwijl deze al in de ACI-modus staat:

1. EPLD-versies vereiste een upgrade voorafgaand aan een Cisco NX-OS naar ACI Boot Mode conversie en de FPGA/EPLD’s werden NIET geüpgraded.
2. Leaf/Spine werd handmatig bijgewerkt (in plaats van een beleidsupgrade van de APIC), die geen EPLD-upgrade omvat.

Zodra het blad of de ruggengraat aan de stof is toegevoegd, wordt de EPLD automatisch bijgewerkt met een beleidsupgrade (normale upgrade gestart vanaf het tabblad firmware van de APIC) waar een nieuwe versie van de EPLD beschikbaar is.

Oplossing

In oudere versies van ACI, was het noodzakelijk om te degraderen en dan verbetering van de blad/wervelkolom in kwestie, maar vanaf 11.2(1m), zijn er twee shell scripts beschikbaar aan de admin gebruiker die het proces zeer vereenvoudigen.

fab1-leaf101# /bin/check-fpga.sh FpGaDoWnGrAdE
fab1-leaf101# /usr/sbin/chassis-power-cycle.sh

Het '/usr/sbin/chassis-power-cycle.sh' script harde reset macht, in vergelijking met een 'reload' die gewoon een software-herstart is. Bij het upgraden van EPLD moet de stroom volledig worden verwijderd om de firmware op de lijnkaarten te herprogrammeren. Als '/usr/sbin/chassis-power-cycle.sh' niet beschikbaar is of niet werkt, moeten de stroomkabels minimaal 30 seconden worden verwijderd en weer worden aangesloten om de stroom te herstellen.