ACI 패브릭 포트 트랙 문제 해결
목차
소개
이 문서에서는 ACI 패브릭 포트 추적 기능, 교정 단계, 코너 케이스 시나리오에 대해 설명합니다.
개요
Cisco ACI Fabric Port-Track(Fabric Track 또는 Port Tracking이라고도 함)은 ACI 리프 스위치에서 패브릭 연결/업링크 포트의 운영 상태를 기반으로 호스트 연결/다운링크 포트의 상태를 제어하는 데 사용되는 복원력 기능입니다.
Fabric Port-Track은 leaf가 ACI 패브릭에 대한 충분한 연결을 손실할 때 트래픽 블랙홀링을 방지하도록 설계되었습니다. 이 기능이 없으면 leaf에서 패브릭 업링크가 손실된 경우에도 호스트 연결 인터페이스가 물리적으로 가동 상태를 유지할 수 있습니다. 이 경우 연결된 엔드포인트는 계속해서 트래픽을 leaf로 전달할 수 있지만 leaf는 해당 트래픽을 패브릭으로 전달할 수 없어야 합니다.
Fabric Port-Track이 활성화된 경우, leaf는 스파인 레이어로 향하는 활성 패브릭 업링크를 모니터링하고 구성된 임계값과 운영 패브릭 링크의 수를 비교합니다. 사용 가능한 패브릭 링크의 수가 구성된 최소값 아래로 떨어질 경우 leaf는 선택한 호스트 연결/다운링크 인터페이스를 자동으로 낮춥니다. 이렇게 하면 연결된 엔드포인트, 서버 또는 외부 디바이스에서 링크 다운 이벤트를 탐지하고, 더 이상 충분한 패브릭 연결이 없는 leaf로 트래픽을 계속 전송하는 대신 다른 가용 경로 또는 leaf로 페일오버할 수 있습니다.
필요한 수의 패브릭 업링크가 복원되고 운영 패브릭 링크의 수가 구성된 임계값을 초과하여 복구되면, 구성된 복원 지연 후에 다운링크 인터페이스가 다시 가동됩니다.
동작 예:
- Leaf에는 spine에 대한 업링크 2개가 있습니다.
- Fabric Port-Track이 활성화됩니다.
- 최소 활성 패브릭 링크 임계값이 충족되지 않았습니다.
- Leaf는 호스트 연결/다운링크 인터페이스를 비활성화합니다.
- 연결된 서버 또는 외부 스위치에서 링크 다운 이벤트 및 장애 조치를 탐지합니다.
- 패브릭 연결이 복원되면 구성된 지연 후에 leaf가 호스트 연결 포트를 다시 활성화합니다.
토폴로지
권장 문제 해결 체크리스트
Cisco ACI Fabric Port-Track 문제를 조사할 때 체크리스트를 사용합니다. 각 단계에는 관련 확인 또는 문제 해결 명령이 포함됩니다.
증상 확인
호스트 연결/다운링크 포트의 작동이 중지되었는지, 이벤트가 Fabric Port-Track과 관련되었는지 확인합니다.
Fabric Port-Track 결함 F0532 확인:
moquery -c faultInst -f 'fault.Inst.code=="F0532"'
표시 예:
descr : Port is down, reason being fabricTrack(connected) severity : critical subject : port-down
결함 F0532가 있는 경우 Fabric Port-Track으로 인해 인터페이스가 다운되었습니다.
패브릭 포트 추적 정책 확인
Fabric Port-Track이 활성화되었는지 확인하고 구성된 매개변수를 검토합니다.
moquery -c infraPortTrackPol | egrep "adminSt|delay|includeApicPorts|minlinks"
제시된 값을 검토합니다.
| 매개변수 | 목적 |
|---|---|
| 관리자 | 패브릭 포트 트랙의 활성화 여부를 나타냅니다. |
| delay | 다운링크 포트가 다시 활성화되기 전에 지연 복원 |
| ApicPorts 포함 | APIC 연결 포트가 포함되는지 여부를 나타냅니다. |
| 미니링크스 | 필요한 최소 운영 패브릭 링크 수입니다. |
예:
adminSt : on delay : 300 includeApicPorts : no minlinks : 0
패브릭 업링크 LLDP 네이버 확인
Leaf에서 패브릭 업링크를 통해 예상되는 스파인 인접 디바이스를 여전히 인식하는지 확인합니다.
show lldp neighbors
특정 패브릭 업링크에 대한 자세한 내용은
show lldp neighbors int ethernet 1/49 detail
이 출력을 사용하여 다음을 확인합니다.
- 로컬 리프 인터페이스.
- 원격 스파인 노드.
- 원격 스파인 인터페이스.
- LLDP 대기 시간입니다.
- 예상되는 네이버가 아직 있는지 여부.
패브릭 업링크 인터페이스 상태 및 플랩 기록 확인
패브릭 연결 인터페이스가 최근에 플랩되었는지 확인합니다.
show int eth 1/49 | egrep "flapped|state"
예:
admin state is up, Dedicated Interface Last link flapped 00:02:57
패브릭 업링크의 최근 플랩은 패브릭 포트 트랙이 트리거된 이유를 설명할 수 있습니다.
영향을 받는 다운링크 인터페이스 상태 확인
호스트 연결/다운링크 인터페이스의 상태 및 플랩 기록을 확인합니다.
show int eth 1/17 | egrep "flapped|state|fabric-track"
이는 다운링크 포트 이벤트를 패브릭 업링크 오류와 연관시키는 데 도움이 됩니다.
패브릭 포트 추적 디버그 로그 검토
영향받는 리프에 대한 패브릭 포트 추적 프로세스 로그를 확인합니다.
cat /var/sysmgr/tmp_logs/fabric_track.py.dbg | tail -n 15
정상 작동 중 로그 출력 예:
cat /var/sysmgr/tmp_logs/fabric_track.py.dbg | tail -n 15
Reading the port track Mo
...
Reading the port track Mo
오류 창의 로그 파일 예:
cat /var/sysmgr/tmp_logs/fabric_track.py.dbg | tail -n 15
Reading Isis Mo to check for Isis Adjacency
1 Fabric links are up
Reading l1PhysIf Mos of fabric links to check number of up fabric links
Bringdown: 0 Fabric links left up
PortTrackIf Mo is not present. Creating PortTrackIf Mo for eth1/17
Committing the port track Mo
이러한 메시지는 leaf가 불충분한 패브릭 링크를 탐지하고 영향을 받는 다운링크 포트에 대한 PortTrack 인터페이스 객체를 생성했음을 나타냅니다.
주요 관점:
- Leaf에서 패브릭 링크 하나를 감지했습니다.
- 잠시 후, 패브릭 링크가 0개 연결되었음을 감지했습니다.
- Fabric Port-Track에서 PortTrack을 생성했습니다. PortTrack If 관리되는 object for affected interfaces.
- eth1/17과 같은 다운링크 인터페이스가 다운되었습니다.
Inspect Transceiver 세부사항
영향을 받는 패브릭 업링크에 대한 광학 정보를 수집합니다.
show interface ethernet 1/49 transceiver details | egrep "type|name|serial"
예:
type is QSFP-40/100-SRBD name is CISCO-FINISAR serial number is FIW2440004Z-B
이는 트러블슈팅할 때 특히 중요합니다.
- 옵티컬 결함.
- BiDi 옵틱.
- 수동 TAP.
- 툴 상호 작용 모니터링
- 예기치 않은 링크 플랩입니다.
물리적 인터페이스를 내부 포트에 매핑
물리적 인터페이스와 연결된 내부 포트 번호를 식별합니다.
vsh_lc -c 'show platform internal usd port info' | egrep "Eth1/49" -A 1
예:
Port 61.0 (Eth1/49) : Admin UP (1) Link UP Cfg_Fec Disabled Fec Disabled Fcot Fiber retimer 0x0
AN_knob No AN_cfg Yes AN_operSt No In_debounce 0, Debounce-Time 0 usecs qsa: No
이 예에서 Eth1/49는 내부 포트 61.0에 매핑됩니다.
플랫폼 링크 이벤트 기록 검토
내부 포트를 식별한 후 링크 이벤트 기록을 검토합니다.
vsh_lc -c 'show platform internal tah event-history linkevents' | grep Port "61.0" -A 1
debounce가 없는 예:
Port 61.0: tahusd_port_handle_debounce: No debounce required!!
debounce가 구성된 예:
Port 61.0: tahusd_port_handle_debounce/9481: Started Debounce Timer for 10000 ms
그러면 링크 이벤트 중에 링크 디바운스가 적용되었는지 여부가 확인됩니다.
필요한 경우 링크 디바운스 확인 및 구성
패브릭 인터페이스에 대해 링크 디바운스가 구성되었는지 확인합니다. 링크 디바운스는 일시적인 마이크로플랩이 패브릭 포트-트랙 동작을 즉시 트리거하는 것을 방지하는 데 도움이 됩니다.
패브릭 인터페이스 정책을 확인합니다.
moquery -c fabricFIfPol | egrep "dn|linkDebounce"
예:
dn : uni/fabric/fintfpol-default linkDebounce : 0
인터페이스에서 직접 debounce를 선택합니다.
show interface eth1/49 debounce
debounce가 없는 예:
------------------------------------------------------------------------------------ Port Debounce time Value(ms) ------------------------------------------------------------------------------------ Eth1/49 disable 0
debounce가 비활성화되어 있고 microflaps이 의심되면 패브릭 인터페이스에서 debounce를 구성합니다.
configure leaf 101 interface ethernet 1/49 link debounce time 100
중요:
- 값은 밀리초 단위입니다.
- 100은 1초입니다.
구성 확인:
show interface eth1/49 debounce
예상 출력:
------------------------------------------------------------------------------------ Port Debounce time Value(ms) ------------------------------------------------------------------------------------ Eth1/49 enable 100
기본 디바운스 간격은 0ms입니다. 100ms의 값을 권장하지만 패브릭에 적합한 값을 선택할 수 있습니다.
통합 명령 참조
| 작업 | 명령을 사용합니다 |
|---|---|
| 패브릭 포트 추적 결함 확인 | moquery -c faultInst -f 'fault.Inst.code=="F0532"' |
| 패브릭 포트 추적 정책 확인 | moquery -c infraPortTrackPol | grep "adminSt|delay|includeApicPorts|minlinks" |
| LLDP 네이버 확인 | lldp 네이버 표시 |
| 자세한 LLDP 네이버 확인 | show lldp neighbors int ethernet 1/49 detail |
| 패브릭 업링크 상태 확인 | show int eth 1/49 | egrep "flapped|state" |
| 다운링크 상태 확인 | show int eth 1/17 | egrep "flapped|state|fabric-track" |
| 패브릭 포트 추적 디버그 로그 확인 | cat /var/sysmgr/tmp_logs/fabric_track.py.dbg | tail -n 15 |
| 트렌시버 세부 정보 확인 | show interface ethernet 1/49 transceiver 상세 정보 | grep "type|name|serial" |
| 물리적 인터페이스를 내부 포트에 매핑 | vsh_lc -c 'show platform internal usd port info' | egrep "Eth1/49" -A 1 |
| 플랫폼 링크 이벤트 확인 | vsh_lc -c 'show platform internal tah event-history linkevents' | grep 포트 "61.0" -A 1 |
| 패브릭 디바운스 정책 확인 | moquery -c fabricFIfPol | egrep "dn|linkDebounce" |
| 인터페이스 디바운스 확인 | show interface eth1/49 debounce |
| Debounce 구성 | 링크 디바운스 시간 10000 |
코너 케이스 시나리오 1: 인터페이스가 플랩되지 않았지만 패브릭 포트 트랙이 트리거됨
가능한 코너 케이스는 물리적 패브릭 인터페이스가 플랩되지 않았지만 패브릭 포트 트랙이 여전히 패브릭 링크를 사용할 수 없는 것처럼 작동하면 발생합니다.
예:
show int eth 1/49 | egrep "flapped|state"
admin state is up, Dedicated Interface
Last link flapped 1y14w
이 시나리오에서는 인터페이스가 최근에 플랩되지 않았습니다.
Fabric Port-Track은 관리되는 개체 쿼리를 사용하므로 leaf가 관련 moquery를 성공적으로 수행할 수 있는지 확인합니다.
moquery -c l1PhysIf -x 'query-target-filter=and(anybit(l1PhysIf.usage,"fabric"),eq(l1PhysIf.switchingSt,"enabled"))'
디스크 사용률도 확인합니다. 예를 들면 문제가 있는 상태입니다.
df -h
Filesystem Size Used Avail Use% Mounted on
rootfs 2.5G 2.5G 0 100% /bin
루트 파일 시스템이 가득 차면 leaf는 moquery를 비롯한 내부 기능을 삭제하거나 실패할 수 있습니다. 따라서 Fabric Port-Track은 패브릭 링크가 작동 중인지 확인할 수 없으며 다운링크 인터페이스를 잘못 다운(down)해야 합니다.
권장 조치:
- 사용 가능한 디스크 공간을 확인합니다.
- Cisco 지침에 따라 파일 시스템 문제를 해결하거나 수정합니다.
- moquery 기능을 재검증합니다.
- 패브릭 업링크가 올바르게 인식되었는지 확인합니다.
코너 케이스 시나리오 2: BiDi 옵틱 및 패시브 TAP 간섭
BiDi QSFP 옵틱 및 모니터링에 사용되는 패시브 광 TAP와 관련된 특정 문제가 있습니다.
수동 TAP 위험
leaf와 spine 사이에 패시브 TAP 인프라를 삽입하고 모니터링 장비에서 일반 BiDi 옵틱을 사용하면 모니터링 경로가 라이브 프로덕션 링크로 빛을 다시 전송할 수 있습니다.
이로 인해 다음과 같은 문제가 발생할 수 있습니다.
- 예기치 않은 광 신호 주입입니다.
- 양측의 링크 다운 이벤트
- Leaf와 Spine은 모두 원격 장애 상태를 보고합니다.
- 일시적인 패브릭 업링크 손실로 인한 패브릭 포트 추적 트리거입니다.
이 시나리오는 모니터링 스위치를 다시 로드하면 예기치 않은 광 신호가 발생하여 leaf 및 spine으로 링크 다운 이벤트가 발생하는 경우입니다.
표준 SR 옵틱 - QSFP-40/100-SRBD
표준 SR 옵틱을 사용하면 전송 경로와 수신 경로가 분리됩니다.
Tx -> Rx
Rx <- Tx
트래픽은 파이버당 단방향입니다.
권장 완화
BiDi 모니터링 시나리오의 경우, 수신만 하고 프로덕션 경로로 전송하지 않는 적절한 모니터 전용 BiDi 옵틱을 사용합니다.
BiDi 옵틱 - QSFP-40G-BD-RX
BiDi 옵틱의 경우 각 파이버에 전송 및 수신이 모두 있습니다.
Tx/Rx <-> Tx/Rx
이는 모니터 경로가 신호만 수신하는 특수 TAP/모니터 BiDi 옵틱으로 설명됩니다.
vPC 고려 사항
vPC 연결 다운링크 포트의 경우 패브릭 포트 추적 지연 타이머와 vPC 지연 타이머 모두에 의해 복구 동작이 영향을 받을 수 있습니다.
vPC 컨피그레이션의 경우 leaf 노드가 모든 패브릭 포트를 잃어 ISIS 인접성을 잃으면 vPC 피어와 통신할 수 없습니다. 이 조건에서 다운링크 포트는 vPC 지연 타이머 또는 포트 추적 지연 타이머 중 더 긴 시간이 지나면 다시 활성화됩니다.
운영 영향:
- 비 vPC 다운링크 포트는 패브릭 포트-트랙 복원 지연과 일치해야 합니다.
- vPC 지연 타이머가 Fabric Port-Track 지연보다 큰 경우 vPC 다운링크 포트가 더 오래 중단 될 수 있습니다.
예:
- 패브릭 포트 추적 지연: 300초
- vPC 지연 타이머: 600초
- vPC 다운링크 포트는 600초 후에 복구해야 합니다.
APIC 연결 포트에 대한 중요 참고 사항
APIC 연결 포트 및 패브릭 포트 추적 동작과 관련된 Cisco 버그 ID CSCva95547.
운영상의 주요 고려 사항은 APIC 연결 포트는 관리 및 컨트롤러 연결에 영향을 미칠 수 있으므로, 일반적으로 일시적인 업링크 장애 시 Fabric Port-Track에 의해 중단되어서는 안 된다는 것입니다.
include ApicPorts 옵션은 APIC 연결 인터페이스가 동작에 포함되는지 여부를 제어하는 데 사용됩니다.
이는 APIC에 연결된 포트가 Fabric Port-Track에 의해 비활성화되는 대상에서 제외됨을 나타냅니다.
참조
Cisco APIC Layer 2 네트워킹 컨피그레이션 가이드 > 장: 패브릭 포트 추적
Cisco ACI(Application Centric Infrastructure) 설계 가이드 > 포트 추적
참조 버그:
Cisco 버그 ID CSCva95547 : 포트 추적 기능 요청: APIC으로 가는 leaf 스위치 포트를 비활성화하는 노브
개정 이력
| 개정 | 게시 날짜 | 의견 |
|---|---|---|
1.0 |
17-Jun-2026
|
최초 릴리스 |
피드백