Contents

Introdução

Informações de Apoio

Topologia

Configurar o disparador

Interprete os resultados

Informações Relacionadas

Introdução

Este documento descreve como implantar o ELAM (Embedded Logic Analyzer Module) para capturar pacotes de encapsulamento de VXLAN em switches Nexus 7000 Series.

Dica: consulte o documento Visão geral do ELAM para obter uma visão geral do ELAM.

Informações de Apoio

Muitos usuários estão utilizando atualmente o N7K como um dispositivo de trânsito IPN/ISN para a implantação do ACI MPOD/MSITE. No entanto, quando comparado ao N9K, o N7K não tem a capacidade robusta de definir o gatilho ELAM com base em uma combinação rica Outer(l2(vntag)|l3|l4)-inner(l2|l3|l4)-ieth. Como resultado, torna-se desafiador determinar se um pacote específico encapsulado em VXLAN está atingindo o N7K na borda da IPN de uma perspectiva de ELAM. Este documento descreve um método para lidar com esse desafio.

Topologia

Neste cenário, uma topologia ACI MPOD direta é ilustrada, onde IPN é um N7K com uma placa F3. HOST1 e HOST2 estão no pod1, HOST3 está no pod2. HOST1 pode se comunicar com HOST3, mas HOST2 não pode. Após a solução de problemas realizada por um engenheiro da ACI, foi determinado que os pacotes de HOST2 para HOST3 foram enviados para N7K de spine1 em pod1, mas nunca foram recebidos por spine2 em pod2. Isso foi verificado através do ELAM em spines ACI, levando à suspeita de que os pacotes estavam sendo descartados em N7K.

É possível atribuir definitivamente o problema ao N7K com base apenas nos resultados do ELAM em spines da ACI? Certamente não. O ELAM na spine1 de saída indicou que enviou o pacote para N7K, mas isso não garante que o pacote alcançou fisicamente N7K, pois os pacotes ainda podem ser descartados após o ciclo do ELAM devido a problemas de camada inferior. No entanto, quando você ELAM esses pacotes específicos no lado N7K, ele pode nos ajudar a identificar com precisão o dispositivo correto envolvido no problema.

Configurar o disparador

'l3-packet-length' é um gatilho ELAM válido para quase todas as LCs de gerações diferentes na plataforma N7K. Portanto, vamos utilizá-lo para estabelecer a condição ELAM no IPN N7K. A tarefa envolve controlar o HOST para transmitir pacotes de teste com um comprimento de pacote especificado, conforme ilustrado:

# ping 172.28.1.20 packet-size 777

PING 172.28.1.20 (172.28.1.20): 777 data bytes

785 bytes from 172.28.1.20: icmp_seq=0 ttl=252 time=1.246 ms

785 bytes from 172.28.1.20: icmp_seq=1 ttl=252 time=0.846 ms

785 bytes from 172.28.1.20: icmp_seq=2 ttl=252 time=0.84 ms

785 bytes from 172.28.1.20: icmp_seq=3 ttl=252 time=0.814 ms

785 bytes from 172.28.1.20: icmp_seq=4 ttl=252 time=0.817 ms

--- 172.28.1.20 ping statistics ---

5 packets transmitted, 5 packets received, 0.00% packet loss

round-trip min/avg/max = 0.814/0.912/1.246 ms

O utilitário PING é integrado em qualquer tipo de SO, com apenas pequenas variações nos parâmetros com base no SO que você está usando. Um ponto crucial a ser destacado é prestar atenção ao tamanho do pacote especificado ao iniciar o PING em seu SO. Neste exemplo, o 777B representa o comprimento de dados puro, exigindo um 8B adicional (cabeçalho ICMP) e 20B (cabeçalho IP) para obter o comprimento IP final de 805B. Após o encapsulamento de VXLAN (adicionando uma sobrecarga extra de 50B), você pode antecipar o pacote atingindo o N7K em 855B. Vamos configurá-lo no ELAM.

Neste exemplo, a interface que se conecta ao spine1 é E7/1 e E7/4 se conecta ao spine2.

# show module 7

Mod  Ports  Module-Type                         Model              Status

---  -----  ----------------------------------- ------------------ ----------

7    12     10/40 Gbps Ethernet Module          N7K-F312FQ-25      ok

module-7# show hardware internal dev-port-map

--------------------------------------------------------------

CARD_TYPE:       12 port 40G

>Front Panel ports:12

--------------------------------------------------------------

Device name             Dev role              Abbr num_inst:

--------------------------------------------------------------

> Flanker Eth Mac Driver DEV_ETHERNET_MAC       MAC_0  6

> Flanker Fwd Driver     DEV_LAYER_2_LOOKUP     L2LKP  6

> Flanker Xbar Driver    DEV_XBAR_INTF          XBAR_INTF 6

> Flanker Queue Driver   DEV_QUEUEING           QUEUE  6

> Sacramento Xbar ASIC   DEV_SWITCH_FABRIC      SWICHF 1

> Flanker L3 Driver      DEV_LAYER_3_LOOKUP     L3LKP  6

> EDC                    DEV_PHY                PHYS   2

+-----------------------------------------------------------------------+

+----------------+++FRONT PANEL PORT TO ASIC INSTANCE MAP+++------------+

+-----------------------------------------------------------------------+

FP port |  PHYS | MAC_0 | L2LKP | L3LKP | QUEUE |SWICHF

1               0       0       0       0       0

2               0       0       0       0       0

3               1       1       1       1       0

4               1       1       1       1       0

5       0       2       2       2       2       0

6       0       2       2       2       2       0

7       1       3       3       3       3       0

8       1       3       3       3       3       0

9               4       4       4       4       0

10              4       4       4       4       0

11              5       5       5       5       0

12              5       5       5       5       0

+-----------------------------------------------------------------------+

+-----------------------------------------------------------------------+

Portanto, você precisa configurá-lo na instância 0.

module-7# elam asic flanker instance 0

module-7(fln-elam)# layer2

module-7(fln-l2-elam)# trigger dbus ipv4 ingress if l3-packet-length 855

module-7(fln-l2-elam)# trigger rbus ingress if trig

module-7(fln-l2-elam)# start

module-7(fln-l2-elam)# status

ELAM Slot 7 instance 0: L2 DBUS Configuration: trigger dbus ipv4 ingress if l3-packet-length 855

L2 DBUS: Triggered

ELAM Slot 7 instance 0: L2 RBUS Configuration: trigger rbus ingress if trig

L2 RBUS: Triggered

Interprete os resultados

module-7(fln-l2-elam)# show dbus

cp = 0x10084d00, buf = 0x10084d00, end = 0x10091050

--------------------------------------------------------------------

Flanker Instance 00 - Capture Buffer On L2 DBUS:

Status(0x1102), TriggerWord(0x000), SampleStored(0x008),CaptureBufferPointer(0x000)

is_l2_egress: 0x0000, data_size: 0x023

[000]: 14f4a000 08010000 00000000 6d200800 00006000 00000000 01800100 00000000 00000000 00000000 0000306c 7270b100 03434343 43400000 01800040 00000000 0000

0590 00990000 00000000 00000000 00000005 88405000 00000000 00000000 00000000 00000000 00000000 00000000 00000000 00000000 00050064 200500f0 21800881 f03574

a4 2dbeef00

Printing packet 0

--------------------------------------------------------------------

L2 DBUS PRS MLH IPV4

--------------------------------------------------------------------

label-count         : 0x0             mc                  : 0x0

null-label-valid    : 0x0             null-label-exp      : 0x0

null-label-ttl      : 0x0             lbl0-vld            : 0x0

lbl0-eos            : 0x0             lbl0-lbl            : 0x0

lbl0-exp            : 0x0             lbl0-ttl            : 0x0

lbl1-exp            : 0x0             lbl1-ttl            : 0x0

ipv4                : 0x0             ipv6                : 0x0

l4-protocol         : 0x11            df                  : 0x0

mf                  : 0x0             frag                : 0x0

ttl                 : 0x1f            l3-packet-length    : 0x357

option              : 0x0             tos                 : 0x0

sup-eid             : 0x0             header-type         : 0x1

error               : 0x0             redirect            : 0x0

port-id             : 0x0             last-ethertype      : 0x800

l2-frame-type       : 0x0             da-type             : 0x0

packet-type         : 0x0             l2-length-check     : 0x0

ip-da-multicast     : 0x0             ip-multicast        : 0x0

ip-multicast-control: 0x0             ids-check-fail      : 0x0

tr                  : 0x0             outer-cos           : 0x0

inner-cos           : 0x0             vqi-valid           : 0x0

vqi                 : 0x0             packet-length       : 0x369

vlan                : 0x4             destination-index   : 0x0

source-index        : 0x30            bundle-port         : 0x0

acos                : 0x0             outer-drop-eligibility: 0x0

inner-drop-eligibility: 0x0             sg-tag              : 0x0

rbh                 : 0x0             vsl-num             : 0x0

inband-flow-creation-deletion: 0x0             ignore-qoso         : 0x0

ignore-qosi         : 0x0             ignore-aclo         : 0x0

ignore-acli         : 0x0             index-direct        : 0x0

no-stats            : 0x0             dont-forward        : 0x0

notify-index-learn  : 0x1             notify-new-learn    : 0x1

disable-new-learn   : 0x0             disable-index-learn : 0x0

dont-learn          : 0x0             bpdu                : 0x0

ff                  : 0x0             rf                  : 0x0

ccc                 : 0x0             l2                  : 0x0

rdt                 : 0x0             dft                 : 0x0

dfst                : 0x0             status-ce-1q        : 0x0

status-is-1q        : 0x1             trill-encap         : 0x0

mim-valid           : 0x0             dtag-ttl            : 0x0

dtag-ftag           : 0x0             valid               : 0x1

erspan-kpa-valid    : 0x0             recir-shim-vxlan-src-peer-id: 0x0

vn-valid            : 0x0             source-vif          : 0x0

destination-vif     : 0x0             vn-p                : 0x0

sequence-number     : 0x60            vl                  : 0x0

inner-de-valid      : 0x0             de-cfi              : 0x0

second-inner-cos    : 0x0             tunnel-type         : 0x2

--------------------------------------------------------------------

UDP OTV/LISP TUNNEL BNDL

--------------------------------------------------------------------

vlan-tag-valid: 0x0             segment-id-valid: 0x0

vl: 0x0             de: 0x0

sgt-valid: 0x0             inner-ip-ttl: 0x0

ip-da-multicast: 0x0             lisp-inst-id: 0x2c8004

lisp-flags: 0xc8            isis-mac-da-valid: 0x0

type: 0x0

shim-valid          : 0x0

segment-id-valid    : 0x0             copp                : 0x0

dti-type-vpnid      : 0x0             segment-id          : 0x0

ib-length-bundle    : 0x58840         mlh-type            : 0x5

ulh-type            : 0x4

source-ipv4-address: 10.0.200.64

destination-ipv4-address: 10.1.224.67

mim-destination-mac-address : 0000.0000.0000

mim-source-mac-address : 0000.0000.0000

destination-mac-address : 00c1.b1c9.c2c4

source-mac-address : 000d.0d0d.0d0d

Como o comprimento do pacote l3 é usado como o acionador, há uma possibilidade de que o ELAM possa ser acionado por pacotes em segundo plano não destinados à captura. Portanto, é imperativo utilizar outros campos na captura para uma verificação cruzada dupla dos resultados da captura. Isso garante que o pacote capturado se alinhe aos nossos critérios pretendidos, incluindo campos como IP de origem (sip), IP de destino (dip), tempo de vida (ttl), índice de origem, etc. Uma observação interessante é que, embora N7K não suporte o uso de VXLAN VNID como um gatilho, no interpretador de saída, o campo 'lisp-inst-id: 0x2c8004' corresponde ao VNID no cabeçalho VXLAN.

module-7(fln-l2-elam)# dec 0x2c8004

2916356

Leaf3# show system internal epm endpoint ip 172.28.1.20

MAC : 0000.2222.1202 ::: Num IPs : 1

IP# 0 : 172.28.1.20 ::: IP# 0 flags : host-tracked| ::: l3-sw-hit: Yes ::: flags2 :

Vlan id : 186 ::: Vlan vnid : 11494 ::: VRF name : zixu:vrf

BD vnid : 16482209 ::: VRF vnid : 2916356 /* Confirming the VNID from ACI LEAF side */

Phy If : 0x1a00b000 ::: Tunnel If : 0

Interface : Ethernet1/12

Flags : 0x80005c04 ::: sclass : 16388 ::: Ref count : 5

EP Create Timestamp : 01/22/2021 15:42:49.243582

EP Update Timestamp : 02/08/2021 11:26:52.882308

EP Flags : local|IP|MAC|host-tracked|sclass|timer|

module-7(fln-l2-elam)# show rbus

cp = 0x100a96fc, buf = 0x100a96fc, end = 0x100b5a4c

--------------------------------------------------------------------

Flanker Instance 00 - Capture Buffer On L2 RBUS:

Status(0x1102), TriggerWord(0x000), SampleStored(0x008),CaptureBufferPointer(0x000)

is_l2_egress: 0x0000, data_size: 0x018

[000]: 0015cb30 0000006d 20000000 03000000 00000000 00000000 00000014 2d8000a0 3c3c0000 00000000 02000000 0f000f00 0c001104 a0000000 20200000 00000000 0000

0000 00000400 00008000 005d0000 001e0002 2bd7c0cf f96002a0 000000ba

Printing packet 0

--------------------------------------------------------------------

L2 RBUS INGRESS CONTENT

--------------------------------------------------------------------

pad                 : 0x572c          valid               : 0x1

l2-rbus-trigger     : 0x1             sequence-number     : 0x60

rit-ipv4-id         : 0x0             ipv4-tunnel-encap   : 0x0

rit-mpls-rw         : 0x0             ml2-ptr             : 0x0

ml3-ptr             : 0x0             mark                : 0x0

result-cap3         : 0x0             di1-v5-delta-length : 0x0

di1-v5-delta-length-plus: 0x0             di1-v4-delta-length : 0x0

di1-v4-delta-length-plus: 0x0             di2-delta-length    : 0x0

di2-delta-length-plus: 0x0             ml2-delta-length    : 0x0

ml2-delta-length-plus: 0x0             ml3-delta-length    : 0x0

ml3-delta-length-plus: 0x0             s-vector            : 0x0

lcpu-ff-valid       : 0x0             sup-di-vqi          : 0x0

erspan-term-index-dir: 0x0             erspan-buffer-check : 0x0

l2-tunnel-decapped  : 0x0             l3-delta-length     : 0x0

rit-crc16-valid     : 0x1             rit-crc16           : 0x42d8

vntag-p             : 0x0             frr-recirc          : 0x0

ingress-lif         : 0x5             earl-proxy-vld      : 0x0

md-di-vld           : 0x0             rc                  : 0x0

segment-id-valid    : 0x0             ttl-out             : 0x1e

ttl-mid             : 0x1e            tos-out             : 0x0

tos-in              : 0x0             orig-vlan1          : 0x0

vlan1               : 0x0             source-peer-id      : 0x0

final-ignore-qoso   : 0x0             port-id             : 0x0

cr-type             : 0x1             pup-packet          : 0x0

bpdu                : 0x0             vdc                 : 0x0

tr                  : 0x0             de                  : 0x0

cos                 : 0x0             inner-drop-eligibility: 0x0

inner-cos           : 0x0             acos                : 0x0

di-ltl-index        : 0x3c            l3-multicast-di     : 0x3c

source-index        : 0x30            vlan                : 0x4

index-direct        : 0x0             di1-valid           : 0x1

vqi                 : 0x4a            di2-valid           : 0x0

v5-fpoe-idx         : 0x0             di2-fpoe-idx        : 0x0

l3-multicast-v5     : 0x0             dft                 : 0x0

dfst                : 0x0             l3-learning-ff      : 0x0

result-rbh          : 0x40            di2-cr-type         : 0x0

result-2            : 0x1             dtag-ftag           : 0x0

dtag-ttl            : 0x20            mac-in-mac-op       : 0x0

dvif                : 0x0             result-cap1         : 0x0

result-cap2         : 0x0             erspan-term         : 0x0

erspan-decap        : 0x0             dont-learn          : 0x0

routed-frame        : 0x1             copy-cause          : 0x0

l2-copy-cause       : 0x0             l3-rit-ptr          : 0x5d

sg-tag              : 0x0             trill-nh-id         : 0x0

ttl-in              : 0x1e            fc-up               : 0x0

up-did              : 0x0             did                 : 0x22bd

up-sid              : 0x0             sid                 : 0xf819ff

shim-l2-tunnel-encap: 0x0             shim-ls-hash        : 0xb

shim-rc             : 0x0             shim-lif            : 0x5

shim-replication-pkt: 0x0             shim-router-mac     : 0x1

shim-mark-enable    : 0x0             shim-qos-group-id   : 0x0

shim-destination-table-index: 0x5d            shim-acos-preserve  : 0x0

mim-destination-mac-address : 0000.0000.0000

mim-source-mac-address : 0000.0000.0000

module-7(fln-l2-elam)# show system internal pixmc info ltl-cb ltl 0x30

ltl  | ltl_type | if_index | lc_type | vdc | v4_fpoe | v5_fpoe | base_fpoe_idx | flag

0x0030 |    5    |    Eth7/1    |   2   |  4  |  0x00  |  0x00  |    0x0000    | 0x0

module-7(fln-l2-elam)# show system internal pixmc info ltl-cb ltl 0x3c

ltl  | ltl_type | if_index | lc_type | vdc | v4_fpoe | v5_fpoe | base_fpoe_idx | flag

0x003c |    5    |    Eth7/4    |   2   |  4  |  0x00  |  0x00  |    0x0000    | 0x0

A mesma metodologia também funciona se você tentar capturar pacotes de broadcast, unicast desconhecido e multicast (BUM) em um BD de inundação de ACI, basta definir um ARP estático e apontar para um MAC inexistente no HOST e, em seguida, iniciar o PING da mesma forma.

Informações Relacionadas

Você pode consultar estes links para obter mais detalhes sobre como usar o ELAM em diferentes LCs N7K:

- Visão geral do ELAM

- Procedimento ELAM do módulo N7K M-Series

- Procedimento ELAM do módulo F1 N7K

- Procedimento ELAM do módulo F2 N7K

- Procedimento ELAM do módulo N7K M3

- Suporte técnico e downloads da Cisco