Comprensione E Risoluzione Dei Problemi Relativi Ai Discard Di Ingresso Per Nexus 5600/6000
Sommario
Introduzione
In questo documento viene descritto come risolvere i problemi relativi agli scarti di input sugli switch Cisco Nexus serie 5600/6000.
Prerequisiti
Requisiti
Cisco raccomanda la conoscenza di base della configurazione di Cisco Nexus serie 6000.
Componenti usati
Le informazioni fornite in questo documento si basano sulle seguenti versioni software e hardware:
- Cisco Nexus 6001
- 7.1(3)N1(1)
Le informazioni discusse in questo documento fanno riferimento a dispositivi usati in uno specifico ambiente di emulazione. Su tutti i dispositivi menzionati nel documento la configurazione è stata ripristinata ai valori predefiniti. Se la rete è operativa, valutare attentamente eventuali conseguenze derivanti dall'uso dei comandi.
Premesse
I rigetti di input indicano una porta in uscita con sottoscrizione eccessiva. Significa anche che è probabile che si stia eliminando il traffico unicast su quella porta specifica. In questo articolo viene spiegato come il traffico unicast e multicast viene memorizzato nel buffer su questa piattaforma e come potrebbero verificarsi errori di input insieme alle operazioni di mitigazione.
Flusso Del Traffico Unicast E Buffer
Il traffico unicast viene inserito prima nella coda del pool di buffer in uscita, quindi nel buffer in entrata quando la coda in uscita è piena, come mostrato nell'immagine.
Sono disponibili 16 MB di buffer condiviso in entrata e 9 MB di buffer condiviso in uscita. I buffer sono condivisi tra 12 porte x 10 gig o 3 porte x 40 gig. Il buffer condiviso è utile per l'assorbimento della frammentazione.
Di seguito è riportata una rappresentazione visiva dell'allocazione di memoria per riferimento (Bigsur è il nome dell'ASIC/Controller porta unificato), come mostrato nell'immagine.
Flusso Del Traffico Multicast E Buffer
- I pacchetti multicast vengono memorizzati nel buffer e scartati all'uscita
- Trascinare il pacchetto multicast vicino al punto di congestione per evitare il blocco Head of Line (HOLB)
- Mantenere il fabric senza perdite per unicast come mostrato nell'immagine.
Nella maggior parte dei casi, le cadute in uscita sono sempre dovute al traffico multicast/broadcast/unicast sconosciuto.
Cause dei rigetti di input
Una porta di uscita congestionata provoca il riempimento iniziale dei buffer di uscita e quindi la contropressione in entrata. Questa opzione è valida solo per il traffico unicast. Una volta che i buffer in entrata sono pieni, è possibile che il traffico in entrata causi la perdita di input.
Questa spiegazione è ad un livello molto alto e facile da digerire, ma c'è un po' di più in esso soprattutto quando si guarda a diverse classi di traffico, code ecc. Esiste un concetto di VOQ (Virtual Output Queue) che viene spesso utilizzato sulla piattaforma Nexus. VOQ è un'allocazione di buffer in entrata per ogni classe di servizio (CoS) IEEE 802.1p per porta in uscita. Quindi ci sono 8 VOQ per porta di uscita.
La congestione su una porta in uscita in un CoS finisce per interferire nella congestione del VOQ corrispondente sulla porta in entrata. Una volta raggiunto il limite, il traffico viene interrotto. Tuttavia, non influisce sul traffico destinato ad altri CoS o ad altre interfacce in uscita, evitando in tal modo l'HOLB, che altrimenti causerebbe la diffusione della congestione. Il flusso del traffico tra la porta in entrata e la porta in uscita e i vari blocchi in gioco è come mostrato nell'immagine.
Risoluzione dei problemi
Scenario 1. Scartamenti input
Configurazione lab:
Traffico di velocità della linea in uscita da e1/3 ed eventuale sovra-abbonamento:
nexus6001# sh int e1/3
Ethernet1/3 is up
Dedicated Interface
Hardware: 1000/10000 Ethernet, address: 002a.6a56.7a8a (bia 002a.6a56.7a8a)
Description: spirent 4/11
MTU 1500 bytes, BW 1000000 Kbit,, BW 1000000 Kbit, DLY 10 usec
reliability 255/255, txload 251/255, rxload 25/255
Encapsulation ARPA, medium is broadcast
Port mode is trunk
full-duplex, 1000 Mb/s
Beacon is turned off
Input flow-control is off, output flow-control is off
Switchport monitor is off
EtherType is 0x8100
Last link flapped 11:39:20
Last clearing of "show interface" counters 00:00:15
0 interface resets
30 seconds input rate 98683696 bits/sec, 8223 packets/sec
30 seconds output rate 986853640 bits/sec, 82019 packets/sec
Load-Interval #2: 5 minute (300 seconds)
input rate 98.68 Mbps, 8.22 Kpps; output rate 986.85 Mbps, 82.01 Kpps
RX
124003 unicast packets 0 multicast packets 0 broadcast packets
124003 input packets 186004500 bytes
0 jumbo packets 0 storm suppression bytes
0 runts 0 giants 0 CRC 0 no buffer
0 input error 0 short frame 0 overrun 0 underrun 0 ignored
0 watchdog 0 bad etype drop 0 bad proto drop 0 if down drop
0 input with dribble 0 input discard
0 Rx pause
TX
1236745 unicast packets 9 multicast packets 0 broadcast packets
1236754 output packets 1860065401 bytes
0 jumbo packets
0 output error 0 collision 0 deferred 0 late collision
0 lost carrier 0 no carrier 0 babble 0 output discard
0 Tx pause
nexus6001# sh int e1/4
Ethernet1/4 is up
Dedicated Interface
Hardware: 1000/10000 Ethernet, address: 002a.6a56.7a8b (bia 002a.6a56.7a8b)
Description: spirent 4/12
MTU 1500 bytes, BW 1000000 Kbit,, BW 1000000 Kbit, DLY 10 usec
reliability 255/255, txload 25/255, rxload 251/255
Encapsulation ARPA, medium is broadcast
Port mode is access
full-duplex, 1000 Mb/s
Beacon is turned off
Input flow-control is off, output flow-control is off
Switchport monitor is off
EtherType is 0x8100
Last link flapped 10:53:31
Last clearing of "show interface" counters 00:00:04
0 interface resets
30 seconds input rate 986840376 bits/sec, 82236 packets/sec
30 seconds output rate 98421072 bits/sec, 8223 packets/sec
Load-Interval #2: 5 minute (300 seconds)
input rate 986.84 Mbps, 82.23 Kpps; output rate 98.42 Mbps, 8.22 Kpps
RX
326332 unicast packets 0 multicast packets 0 broadcast packets
326332 input packets 489496500 bytes
0 jumbo packets 0 storm suppression bytes
0 runts 0 giants 0 CRC 0 no buffer
0 input error 0 short frame 0 overrun 0 underrun 0 ignored
0 watchdog 0 bad etype drop 0 bad proto drop 0 if down drop
0 input with dribble 863 input discard >>>>>>
0 Rx pause
TX
32633 unicast packets 2 multicast packets 0 broadcast packets
32635 output packets 48819096 bytes
0 jumbo packets
0 output error 0 collision 0 deferred 0 late collision
0 lost carrier 0 no carrier 0 babble 0 output discard
0 Tx pause
In una configurazione simulata come questa, si conosce la causa della sovrassegnazione ma in una configurazione di produzione in cui il profilo del traffico aumenta e può essere difficile individuare le porte di uscita congestionate tramite questi comandi.
I passaggi elencati consentono di identificare le porte di uscita congestionate.
Passaggio 1. Identificazione Delle Porte Con Input Ignorati
Rifiuti di input rilevati sulla porta e1/4:
nexus6001# sh int e1/4 | in i disc
0 input with dribble 3024 input discard
0 lost carrier 0 no carrier 0 babble 0 output discard
nexus6001# sh queuing int e1/4
Ethernet1/4 queuing information:
TX Queuing
qos-group sched-type oper-bandwidth
0 WRR 100
RX Queuing
qos-group 0 >>>> Drops in QOS 0
q-size: 100160, q-size-40g: 100160, HW MTU: 1500 (1500 configured)
drop-type: drop, xon: 0, xoff: 0
Statistics:
Pkts received over the port : 9612480
Ucast pkts sent to the cross-bar : 9587016
Mcast pkts sent to the cross-bar : 0
Ucast pkts received from the cross-bar : 961249
Pkts sent to the port : 961261
Pkts discarded on ingress : 3024 >>>>>>
Per-priority-pause status : Rx (Inactive), Tx (Inactive)
Passaggio 2. Identificazione ASIC
- Mappare l'interfaccia al numero ASIC (UPC) interno da questo output.
- Individuare l'ID ASIC in entrata dall'ID della porta in entrata su cui si sono notate le perdite.
nexus6001# sh hard internal bigsur all-ports
Bigsur Port Info:
Port |asic|inst|inst|
name |idx |slot|asic|eport|logi|flag|adm|opr|if_index|diag|ucVer
---------+----+----+----+-----+----+----+---+---+--------+----+-----
sup1 |0 |0 |0 | 0 - |48 |b3 |en |dn |15010000|pass| 0.00
sup0 |0 |0 |0 | 1 - |49 |b3 |en |dn |15020000|pass| 0.00
1gb1/1 |1 |0 |1 | 2 - |0 |b3 |en |up |1a000000|pass| 0.00
1gb1/2 |1 |0 |1 | 3 - |1 |b3 |en |up |1a001000|pass| 0.00
1gb1/3 |1 |0 |1 | 0 - |2 |b3 |en |up |1a002000|pass| 0.00
1gb1/4 |1** |0 |1 | 1 - |3 |b3 |en |up |1a003000|pass| 0.00 >>>>** is the asic number
1gb1/5 |1 |0 |1 | 6 - |4 |b3 |en |up |1a004000|pass| 0.00
1gb1/6 |1 |0 |1 | 7 - |5 |b3 |en |up |1a005000|pass| 0.00
1gb1/7 |1 |0 |1 | 4 - |6 |b3 |en |up |1a006000|pass| 0.00
1gb1/8 |1 |0 |1 | 5 - |7 |b3 |en |up |1a007000|pass| 0.00
1gb1/9 |1 |0 |1 |10 - |8 |b3 |en |up |1a008000|pass| 0.00
1gb1/10 |1 |0 |1 |11 - |9 |b3 |en |up |1a009000|pass| 0.00
1gb1/11 |1 |0 |1 | 8 - |10 |b3 |en |up |1a00a000|pass| 0.00
xgb1/12 |1 |0 |1 | 9 - |11 |b3 |en |dn |1a00b000|pass| 0.00
xgb1/13 |2 |0 |2 | 2 - |12 |b3 |en |dn |1a00c000|pass| 0.00
xgb1/14 |2 |0 |2 | 3 - |13 |b3 |en |dn |1a00d000|pass| 0.00
xgb1/15 |2 |0 |2 | 0 - |14 |b3 |en |dn |1a00e000|pass| 0.00
xgb1/16 |2 |0 |2 | 1 - |15 |b3 |en |dn |1a00f000|pass| 0.00
xgb1/17 |2 |0 |2 | 6 - |16 |b3 |en |dn |1a010000|pass| 0.00
xgb1/18 |2 |0 |2 | 7 - |17 |b3 |en |dn |1a011000|pass| 0.00
xgb1/19 |2 |0 |2 | 4 - |18 |b3 |en |dn |1a012000|pass| 0.00
xgb1/20 |2 |0 |2 | 5 - |19 |b3 |en |dn |1a013000|pass| 0.00
xgb1/21 |2 |0 |2 |10 - |20 |b3 |en |dn |1a014000|pass| 0.00
xgb1/22 |2 |0 |2 |11 - |21 |b3 |en |dn |1a015000|pass| 0.00
xgb1/23 |2 |0 |2 | 8 - |22 |b3 |en |dn |1a016000|pass| 0.00
xgb1/24 |2 |0 |2 | 9 - |23 |b3 |en |dn |1a017000|pass| 0.00
xgb1/25 |3 |0 |3 | 2 - |24 |b3 |en |dn |1a018000|pass| 0.00
xgb1/26 |3 |0 |3 | 3 - |25 |b3 |en |dn |1a019000|pass| 0.00
xgb1/27 |3 |0 |3 | 0 - |26 |b3 |en |dn |1a01a000|pass| 0.00
xgb1/28 |3 |0 |3 | 1 - |27 |b3 |en |dn |1a01b000|pass| 0.00
xgb1/29 |3 |0 |3 | 6 - |28 |b3 |en |dn |1a01c000|pass| 0.00
xgb1/30 |3 |0 |3 | 7 - |29 |b3 |en |dn |1a01d000|pass| 0.00
xgb1/31 |3 |0 |3 | 4 - |30 |b3 |en |dn |1a01e000|pass| 0.00
xgb1/32 |3 |0 |3 | 5 - |31 |b3 |en |dn |1a01f000|pass| 0.00
xgb1/33 |3 |0 |3 |10 - |32 |b3 |en |dn |1a020000|pass| 0.00
xgb1/34 |3 |0 |3 |11 - |33 |b3 |en |dn |1a021000|pass| 0.00
xgb1/35 |3 |0 |3 | 8 - |34 |b3 |en |dn |1a022000|pass| 0.00
xgb1/36 |3 |0 |3 | 9 - |35 |b3 |en |dn |1a023000|pass| 0.00
xgb1/37 |4 |0 |4 | 2 - |36 |b3 |en |dn |1a024000|pass| 0.00
xgb1/38 |4 |0 |4 | 3 - |37 |b3 |en |dn |1a025000|pass| 0.00
xgb1/39 |4 |0 |4 | 0 - |38 |b3 |en |dn |1a026000|pass| 0.00
xgb1/40 |4 |0 |4 | 1 - |39 |b3 |en |dn |1a027000|pass| 0.00
xgb1/41 |4 |0 |4 | 6 - |40 |b3 |en |dn |1a028000|pass| 0.00
xgb1/42 |4 |0 |4 | 7 - |41 |b3 |en |dn |1a029000|pass| 0.00
xgb1/43 |4 |0 |4 | 4 - |42 |b3 |en |dn |1a02a000|pass| 0.00
xgb1/44 |4 |0 |4 | 5 - |43 |b3 |en |dn |1a02b000|pass| 0.00
xgb1/45 |4 |0 |4 |10 - |44 |b3 |en |dn |1a02c000|pass| 0.00
xgb1/46 |4 |0 |4 |11 - |45 |b3 |en |dn |1a02d000|pass| 0.00
xgb1/47 |4 |0 |4 | 8 - |46 |b3 |en |dn |1a02e000|pass| 0.00
xgb1/48 |4 |0 |4 | 9 - |47 |b3 |en |dn |1a02f000|pass| 0.00
40gb2/1 |5 |1 |0 | 2 - |0 |b3 |dis|dn |1a0f0000|pass| 0.00
40gb2/2 |5 |1 |0 | 1 - |1 |b3 |dis|dn |1a0f1000|pass| 0.00
40gb2/3 |6 |1 |1 | 2 - |2 |b3 |dis|dn |1a0f2000|pass| 0.00
40gb2/4 |6 |1 |1 | 1 - |3 |b3 |dis|dn |1a0f3000|pass| 0.00
Done.
Passaggio 3. Identificazione della porta congestionata in uscita
- Identificare la porta di uscita congestionata con i contatori VOQ.
- Usare il numero ASIC nei contatori voq asic-num per scoprire quale porta di uscita contribuisce alle cadute.
nexus6001# sh plat soft qd info counters voq asic-num 1
+----------+------------------------------+------------------------+-----------+
| port| TRANSMIT| TAIL DROP| HEAD DROP|
+----------+------------------------------+------------------------+-----------+
Eth1/3
QUEUE-3 3222876464 8545008 0
Eth1/4
QUEUE-3 323451170 0 0
Eth1/6
QUEUE-3 871362 0 0
SUP_HI
QUEUE-0 2041 0 0
+----------+------------------------------+------------------------+-----------+
Scenario 2. Input scartati con HOLB
Configurazione lab:
Tutte le porte si trovano nella vlan 100.
Si possono vedere scarti di input sia su e1/4 che su e1/1 che dipendono dalla velocità del traffico in entrata sulle interfacce verso 1/3.
nexus6001# sh int e1/4 | in discard|rate
30 seconds input rate 592103840 bits/sec, 49341 packets/sec
30 seconds output rate 166412120 bits/sec, 13863 packets/sec
input rate 592.10 Mbps, 49.34 Kpps; output rate 834.82 Mbps, 69.55 Kpps
0 input with dribble 15245 input discard
0 lost carrier 0 no carrier 0 babble 0 output discard
nexus6001# sh int e1/1 | in discard|rate
30 seconds input rate 986839872 bits/sec, 82236 packets/sec
30 seconds output rate 99790992 bits/sec, 8310 packets/sec
input rate 986.84 Mbps, 82.23 Kpps; output rate 500.88 Mbps, 41.73 Kpps
0 input with dribble 110632 input discard
0 lost carrier 0 no carrier 0 babble 0 output discard
Utilizzando lo stesso processo documentato per lo scenario 1. È possibile trovare la porta congestionata in uscita.
nexus6001# sh plat so qd info counters voq asic-num 1 <snip>
+----------+------------------------------+------------------------+-----------+
| port| TRANSMIT| TAIL DROP| HEAD DROP|
+----------+------------------------------+------------------------+-----------+
Eth1/3
QUEUE-3 3893719464 164782171 0
Il flusso da modificare deve essere verso 10.10.10.50. Il flusso tra 10.10.10.101 e 10.10.10.102 deve essere pulito.
Ma non è così. Una porta in uscita bloccata o a basso drenaggio può causare l'esaurimento di tutti i buffer su una o più porte in entrata che inviano il traffico alla porta in uscita, con conseguente impatto su tutto il traffico su queste porte in entrata. Questo è il classico problema dell'HOLB.
I generatori di traffico a spirale mostrano che i flussi sono scesi. I numeri di porta sono numeri di porta spirale, come illustrato nell'immagine.
Mitigazione HOLB: Abilita limite VOQ
Per evitare questo scenario, i VOQ (solo per il traffico unicast) possono essere configurati con una soglia impostata.
nexus6001(config)# hard unicast voq-limit
Dopo la configurazione, i flussi verso porte non congestionate non vengono influenzati.
La vista del generatore del traffico a spirale dopo la configurazione del limite VOQ è come mostrato nell'immagine.
Anche se questa configurazione mostra un chiaro vantaggio per evitare le cadute dovute a HOLB. Perché questa non è la configurazione predefinita?
In genere, il traffico in un ambiente di produzione potrebbe esplodere in natura. Disabilitando la soglia VOQ, si consente ai buffer in entrata di assorbire un micro burst del traffico senza che sia necessario cadere.
A meno che la situazione non renda necessario attivare il limite VOQ, si consiglia di utilizzare l'impostazione predefinita che lo lascia disattivato.
Mitigazione HOLB: Classificazione traffico
Esiste un altro metodo per ridurre l'utilizzo di HOLB con la configurazione QoS. Poiché gli scarti in entrata influiscono solo su una VOQ specifica che a sua volta è una classe QOS specifica, è possibile mappare il traffico interessato su una porta non congestionata a un gruppo QOS diverso. Da questo output, gli scarti in entrata influiscono sulla classe QOS Group 0.
nexus6001# sh queuing int e1/4
Ethernet1/4 queuing information:
TX Queuing
qos-group sched-type oper-bandwidth
0 WRR 100
RX Queuing
qos-group 0 >>>> Drops in QOS 0
q-size: 100160, q-size-40g: 100160, HW MTU: 1500 (1500 configured)
drop-type: drop, xon: 0, xoff: 0
Statistics:
Pkts received over the port : 9612480
Ucast pkts sent to the cross-bar : 9587016
Mcast pkts sent to the cross-bar : 0
Ucast pkts received from the cross-bar : 961249
Pkts sent to the port : 961261
Pkts discarded on ingress : 3024 >>>>>>
Per-priority-pause status : Rx (Inactive), Tx (Inactive)
In questa configurazione viene eseguito il mapping del traffico importante a QoS-Group 2.
1. Definire l'ACL per il traffico che non deve essere eliminato. L'obiettivo è classificare il traffico in un gruppo QOS diverso in modo che non venga influenzato.
ip access-list SINGLEFLOW
statistics per-entry
10 permit ip 10.10.10.101/32 10.10.10.102/32
2. Classificazione QoS:
class-map type qos match-all FIX_AFFECTED_FLOW
match access-group name SINGLEFLOW
policy-map type qos QOS_POLICY_FIX_AFFECTED_FLOW
class FIX_AFFECTED_FLOW
set qos-group 2
3. Configurazione QoS di rete:
class-map type network-qos QOSGRP2
match qos-group 2
policy-map type network-qos NQOS-GRP2
class type network-qos QOSGRP2
class type network-qos class-default
4. Applicare le varie politiche. La QoS della rete è a livello di sistema, mentre il criterio di classificazione può essere applicato a una singola interfaccia.
system qos
service-policy type network-qos NQOS-GRP2
interface Ethernet1/1
service-policy type qos input QOS_POLICY_FIX_AFFECTED_FLOW
5. Le cadute non sono visibili per il gruppo QoS classe 2:
nexus6001(config-if)# sh queuing int e1/1
Ethernet1/1 queuing information:
TX Queuing
qos-group sched-type oper-bandwidth
0 WRR 100
2 WRR 0
RX Queuing
qos-group 0
q-size: 100160, q-size-40g: 100160, HW MTU: 1500 (1500 configured)
drop-type: drop, xon: 0, xoff: 0
Statistics:
Pkts received over the port : 525111
Ucast pkts sent to the cross-bar : 327510
Mcast pkts sent to the cross-bar : 0
Ucast pkts received from the cross-bar : 0
Pkts sent to the port : 0
Pkts discarded on ingress : 197868 >>>>
Per-priority-pause status : Rx (Inactive), Tx (Inactive)
qos-group 2
q-size: 100160, q-size-40g: 100160, HW MTU: 1500 (1500 configured)
drop-type: drop, xon: 0, xoff: 0
Statistics:
Pkts received over the port : 131413
Ucast pkts sent to the cross-bar : 132096
Mcast pkts sent to the cross-bar : 0
Ucast pkts received from the cross-bar : 0
Pkts sent to the port : 0
Pkts discarded on ingress : 0 >>> No Drops
Per-priority-pause status : Rx (Inactive), Tx (Inactive)
Informazioni correlate
Feedback