목차

소개

사전 요구 사항

요구 사항

사용되는 구성 요소

배경 정보

구성

논리적 네트워크 다이어그램

구성

IPN 스위치 구성

APIC의 필수 구성

멀티 사이트 컨트롤러 컨피그레이션

다음을 확인합니다.

문제 해결

관련 정보

소개

이 문서에서는 ACI(Application Centric Infrastructure) 멀티 사이트 패브릭을 설정하고 구성하는 단계에 대해 설명합니다.

릴리스 3.0에 도입된 ACI 멀티 사이트 기능을 사용하면 별도의 Cisco ACI APIC(Application Policy Infrastructure Controller) 클러스터 도메인(패브릭)을 상호 연결할 수 있습니다. 각 사이트는 다른 가용 영역을 나타냅니다.이를 통해 여러 사이트에 걸쳐 멀티 테넌트 레이어 2 및 레이어 3 네트워크 연결을 보장하고 정책 도메인을 전체 패브릭에 걸쳐 포괄적으로 확장할 수 있습니다.멀티 사이트 GUI에서 정책을 생성하여 모든 통합 사이트 또는 선택된 사이트로 푸시할 수 있습니다.또는 단일 사이트에서 테넌트 및 해당 정책을 가져와 다른 사이트에 구축할 수 있습니다.

사전 요구 사항

요구 사항

Cisco는 다음과 같은 권장 사항을 제공합니다.

- MSC(Multi-Site Controller)를 설정하려면 Cisco ACI Multi-Site Orchestrator Installation and Upgrade Guide의 지침을 따르십시오.

- 둘 이상의 사이트에서 ACI 패브릭이 완전히 검색되었는지 확인합니다.

- 별도의 사이트에 구축된 APIC 클러스터에 MSC 노드에 대한 OOB(Out of Band) 관리 연결이 있는지 확인합니다.

사용되는 구성 요소

이 문서의 정보는 다음 소프트웨어 및 하드웨어 버전을 기반으로 합니다.

사이트 A

하드웨어 장치

논리적 이름

N9K-C9504(N9K-X9732C-EX 포함)

스파인109

N9K-C93180YC-EX

리프101

N9K-C93180YC-EX

리프102

N9K-C9372PX-E

리프103

APIC-SERVER-M2

apic1

사이트 B

하드웨어 장치

논리적 이름

N9K-C9504(N9K-X9732C-EX 포함)

스파인209

N9K-C93180YC-EX

리프201

N9K-C93180YC-EX

리프202

N9K-C9372PX-E

리프203

APIC-SERVER-M2

apic2

IP 네트워크(IPN)

N9K-C93180YC-EX

하드웨어

버전

APIC

버전 3.1(2m)

MSC

버전:1.2(2b)

IPN

NXOS:버전 7.0(3)I4(8a)

이 문서의 정보는 특정 랩 환경의 디바이스를 토대로 작성되었습니다.이 문서에 사용된 모든 디바이스는 초기화된(기본) 컨피그레이션으로 시작되었습니다.네트워크가 작동 중인 경우 모든 명령의 잠재적인 영향을 이해해야 합니다.

배경 정보

참고:교차 사이트 네임스페이스 표준화는 연결 스파인 스위치에 의해 수행됩니다.이를 위해서는 제품 이름 끝에 "EX" 또는 "FX"가 있는 2세대 이상의 Cisco Nexus 9000 Series 스위치가 필요합니다.또는 ACI Multi-Site Release 1.1(x) 이상에서 Nexus 9364C가 지원됩니다.

하드웨어 요구 사항 및 호환성 정보에 대한 자세한 내용은 ACI Multi-Site Hardware Requirements Guide를 참조하십시오.

구성

논리적 네트워크 다이어그램

구성

이 문서에서는 주로 멀티 사이트 구축을 위한 ACI 및 MSC 측 컨피그레이션에 초점을 맞추고 있습니다.IPN 스위치 컨피그레이션 세부 사항은 완전히 다루지 않습니다.그러나 참조용으로 IPN 스위치의 몇 가지 중요한 컨피그레이션이 나열됩니다.

IPN 스위치 구성

이러한 컨피그레이션은 ACI spine에 연결된 IPN 디바이스에서 사용됩니다.

vrf context intersite

description VRF for Multi-Site lab

feature ospf

router ospf intersite

vrf intersite

//사이트-A에서 Spine109로 이동

// Site-B에서 Spine209로 이동

interface Ethernet1/49

speed 100000

mtu 9216

no negotiate auto

no shutdown

interface Ethernet1/49.4

mtu 9150

encapsulation dot1q 4

vrf member intersite

ip address 172.16.1.34/27

ip ospf network point-to-point

ip router ospf intersite area 0.0.0.1

no shutdown

interface Ethernet1/50

speed 100000

mtu 9216

no negotiate auto

no shutdown

interface Ethernet1/50.4

mtu 9150

encapsulation dot1q 4

vrf member intersite

ip address 172.16.2.34/27

ip ospf network point-to-point

ip router ospf intersite area 0.0.0.1

no shutdown

참고:여러 사이트의 스파인 노드 간 EVPN(Multiprotocol Border Gateway Protocol) 이더넷 MTU(Virtual Private Network) 제어 평면 통신의 최대 전송 단위(MTU) - 기본적으로 스파인 노드는 엔드포인트 라우팅 정보를 교환하기 위해 9,000바이트 패킷을 생성합니다.이 기본값이 수정되지 않으면 ISN(Inter Site Network)에서 최소 9100바이트의 MTU 크기를 지원해야 합니다.기본값을 조정하려면 각 APIC 도메인에서 해당 시스템 설정을 수정합니다.

이 예에서는 스파인 노드에서 기본 컨트롤 플레인 MTU 크기(9000바이트)를 사용합니다.

APIC의 필수 구성

1. APIC GUI에서 각 사이트에 대해 iBGP AS 및 Route Reflector를 구성합니다.

1. 사이트의 APIC에 로그인하고 각 사이트의 APIC 클러스터에 대한 내부 iBGP(Border Gateway Protocol) 자동 시스템 번호 및 경로 리플렉터 노드를 구성합니다.APIC GUI > System > System Settings > BGP Route Reflector를 선택합니다.패브릭 포드 프로파일에 사용할 기본 BGP 경로 리플렉터 정책입니다.

2. 각 사이트의 APIC 클러스터에 대한 패브릭 포드 프로파일을 구성합니다.APIC GUI > Fabric > Fabric Policies > Pod Policies > Policy Groups를 선택합니다.기본 Pod 정책 그룹을 클릭합니다.BGP Route Reflector Policy 드롭다운 목록에서 기본값을 선택합니다.

2. APIC GUI에서 각 사이트에 대해 외부 라우팅 도메인을 포함하도록 스파인 액세스 정책을 구성합니다.
AEP(Access Entity Profile) 및 Layer 3 라우팅된 도메인(APIC GUI > Fabric > Access Policies)을 사용하여 IPN 스위치에 스파인 업링크에 대한 스파인 액세스 정책을 구성합니다.

1. 스위치 프로필을 생성합니다.

2. AAEP(Attachable Access Entity Profile), Layer 3 Routed 도메인 및 VLAN 풀을 생성합니다.

3. 스파인 액세스 포트 정책 그룹을 생성합니다.Attached Entity Profile 드롭다운 목록에서 msite를 선택합니다.

4. 스파인 인터페이스 프로파일을 생성합니다.IPN 연결 스파인 액세스 포트를 이전 단계에서 생성한 인터페이스 정책 그룹에 연결합니다.

참고:현재로서는 APIC GUI의 infra 테넌트 아래에서 OSPF(L3Out of Open Shortest Path First)를 구성할 필요가 없습니다.이 구성은 MSC를 통해 구성되며 나중에 각 사이트에 푸시됩니다.

3. APIC GUI에서 사이트당 외부 TEP(Dataplane Tunnel End Point)를 구성합니다.APIC GUI > Infra > Policies > Protocol > Fabric Ext Connection Policies를 선택합니다.그런 다음 사이트 간/사이트 간 프로파일을 생성합니다.

4. SiteB ACI 패브릭에 대한 APIC 측 컨피그레이션을 완료하려면 이전 단계를 반복합니다.

멀티 사이트 컨트롤러 컨피그레이션

1. MSC GUI에서 각 사이트를 하나씩 추가합니다.

1. MSC GUI에 연결하고 로그인합니다.

2. MSC에서 사이트를 하나씩 등록하려면 ADD SITE를 클릭합니다.창 오른쪽 상단에 클러스터 상태가 표시됩니다.

3. APIC의 IP 주소 중 하나를 사용하고 각 사이트에 대해 하나의 고유한 사이트 ID를 할당합니다.유효한 범위는 1~127입니다.

2. MSC에서 사이트당 인프라 정책을 구성합니다.

1. MSC GUI에 로그인합니다.왼쪽 창에서 Sites(사이트)를 선택한 다음 CONFIGURE INFRA(INFRA 구성)를 클릭합니다.

2. 패브릭 인프라 일반 설정을 구성합니다.BGP Peering Type(BGP 피어링 유형) 드롭다운 목록에서 full-mesh(full mesh - EBGP /route reflector - IBGP)를 선택합니다.

3. 완료되면 왼쪽 창에서 사이트 중 하나를 선택합니다.그러면 중간 창에 사이트 정보가 표시됩니다.세 가지 구성 레벨이 있습니다.사이트 레벨, 포드 레벨 또는 스파인 레벨을 선택할 수 있습니다.구성 패널(오른쪽 창)에서 다른 설정을 허용합니다.

4. Site(사이트) 영역을 클릭하면 사이트 레벨 컨피그레이션(Multi-Site Enable (On), Dataplane Multicast TEP, BGP ASN, BGP Community(예: extended:as2-nn4:2:22), OSPF Area Type(stub 풀 광고 금지), OSPF Route Domain 등)이 오른쪽 창에 표시됩니다.여기서 다음을 구성하거나 수정할 수 있습니다.

- HREP(Headend Replication)에 사용되는 Dataplane Multicast TEP(사이트당 루프백 1개)

- BGP(Border Gateway Protocol) AS(Autonomous System)(APIC에 구성된 사이트의 AS 일치)

- OSPF 영역 ID, OSPF 영역 유형 및 OSPF 인터페이스 정책(IPN을 향하는 스파인 인터페이스용)

- 외부 라우팅 도메인

대부분의 경우 특성 값은 APIC에서 MSC로 자동으로 검색됩니다.

5. Pod(포드) 영역을 클릭하고 POD 레벨별 정책으로 이동합니다.데이터 플레인 유니캐스트 TEP를 입력합니다.

6. Spine(스파인) 영역을 클릭하고 스파인 관련 인프라 설정으로 이동합니다.스파인에서 IPN 스위치로의 각 인터페이스에 대해 다음을 수행합니다.

IP 주소 및 마스크 설정

BGP 피어링 - 켜기

컨트롤 플레인 TEP - 라우터 IP 주소 입력

스파인이 경로 리플렉터임 - 켜짐

7. 다른 사이트에 대해 이 단계를 반복하고 MSC에서 infra 컨피그레이션을 완료합니다.

8. DEPLOY(구축)를 클릭합니다.그러면 두 사이트의 infra 컨피그레이션이 저장되고 APIC에 푸시됩니다.

APIC 클러스터와 MSC 간의 초기 통합이 완료되었으며 사용할 준비가 되었습니다.

MSC에서 여러 ACI 사이트에 대해 테넌트에 대해 스트레치된 정책을 구성할 수 있어야 합니다.

다음을 확인합니다.

이 섹션을 사용하여 컨피그레이션이 제대로 작동하는지 확인합니다.

1. 각 APIC 클러스터의 APIC GUI에서 infra 컨피그레이션을 확인합니다.

- 각 APIC 클러스터의 infra 테넌트 아래에서 Intrasite/Intersite 프로파일이 구성되었는지 확인합니다.

- 각 APIC 클러스터(APIC GUI)에 infra L3Out(사이트 간), OSPF 및 BGP가 구성되었는지 확인합니다.

1. 사이트의 APIC에 로그인하여 Tenant infra(테넌트 인프라) > Policies(정책) > Protocol(프로토콜) > Fabric Ext Connection Policies(패브릭 외부 연결 정책)에서 Intrasite/Intersite Profile(사이트 간 프로파일)을 확인합니다.사이트가 MSC에 의해 완전히 구성/관리될 때 사이트 간 프로파일은 다음과 같이 표시됩니다.

2. APIC GUI > Tenant Infra > Networking > External Routed Networks를 선택합니다.여기에서는 두 사이트의 테넌트 인프라 아래에 사이트 간 L3Out 프로필을 자동으로 생성해야 합니다.

또한 VLAN 4에서 L3Out 논리 노드 및 인터페이스 프로파일 컨피그레이션이 올바르게 설정되었는지 확인합니다.

2. 각 APIC 클러스터의 Spine CLI에서 OSPF/BGP 세션을 확인합니다.

- OSPF가 스파인에 있는지 확인하고 IPN(Spine CLI)에서 경로를 가져옵니다.

- BGP 세션이 원격 사이트(Spine CLI)에 도달했는지 확인합니다.

Spine CLI에 로그인하여 BGP L2VPN EVPN 및 OSPF가 각 스파인에 있는지 확인합니다.또한 BGP의 node-role이 msite-speaker인지 확인합니다.

spine109# show ip ospf neighbors vrf overlay-1

OSPF Process ID default VRF overlay-1

Total number of neighbors: 1

Neighbor ID     Pri State            Up Time  Address         Interface

172.16.1.34       1 FULL/ -          04:13:07 172.16.1.34     Eth1/32.32

spine109#

spine109# show bgp l2vpn evpn summary vrf overlay-1

BGP summary information for VRF overlay-1, address family L2VPN EVPN

BGP router identifier 172.16.1.3, local AS number 100

BGP table version is 235, L2VPN EVPN config peers 1, capable peers 1

0 network entries and 0 paths using 0 bytes of memory

BGP attribute entries [0/0], BGP AS path entries [0/0]

BGP community entries [0/0], BGP clusterlist entries [0/0]

Neighbor    V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd

172.16.2.3 4 200 259     259       235  0     0  04:15:39 0

spine109#

spine109# vsh -c 'show bgp internal node-role'

Node role : : MSITE_SPEAKER

spine209# show ip ospf neighbors vrf overlay-1

OSPF Process ID default VRF overlay-1

Total number of neighbors: 1

Neighbor ID     Pri State            Up Time  Address         Interface

172.16.1.34       1 FULL/ -          04:20:36 172.16.2.34     Eth1/32.32

spine209#

spine209# show bgp l2vpn evpn summary vrf overlay-1

BGP summary information for VRF overlay-1, address family L2VPN EVPN

BGP router identifier 172.16.2.3, local AS number 200

BGP table version is 270, L2VPN EVPN config peers 1, capable peers 1

0 network entries and 0 paths using 0 bytes of memory

BGP attribute entries [0/0], BGP AS path entries [0/0]

BGP community entries [0/0], BGP clusterlist entries [0/0]

Neighbor        V    AS MsgRcvd MsgSent   TblVer  InQ OutQ Up/Down  State/PfxRcd

172.16.1.3      4   100     264     264      270    0    0 04:20:40 0

spine209#

spine209# vsh -c 'show bgp internal node-role'

Node role :                    : MSITE_SPEAKER

3. 각 APIC 클러스터의 Spine CLI에서 Overlay-1 인터페이스를 확인합니다.
Spine CLI에 로그인하여 Overlay-1 인터페이스를 확인하고 확인합니다.

ETEP(Multipod Dataplane TEP)

단일 ACI 패브릭 내에서 여러 Pod 간에 트래픽을 라우팅하는 데 사용되는 Dataplane 터널 엔드포인트 주소.

DCI-UCAST(사이트당 애니캐스트)

이 애니캐스트 데이터 플레인 ETEP 주소는 사이트별로 고유합니다.IPN/ISN 디바이스에 연결된 모든 스파인에 할당되며 L2/L3 유니캐스트 트래픽을 수신하는 데 사용됩니다.

DCI-MCAST-HREP(사이트 간 데이터 플레인) 멀티캐스트 TEP)

이 애니캐스트 ETEP 주소는 IPN/ISN 디바이스에 연결된 모든 스파인에 할당되며 L2 BUM(브로드캐스트, 알 수 없는 유니캐스트 및 멀티캐스트) 트래픽을 수신하는 데 사용됩니다.

MSCP-ETEP(멀티 사이트 제어 평면 ETEP)

MP-BGP EVPN의 각 스파인에서 BGP 라우터 ID라고도 하는 컨트롤 플레인 ETEP 주소입니다.

spine109# show ip int vrf overlay-1

<snip>

lo17, Interface status: protocol-up/link-up/admin-up, iod: 83, mode: etep

IP address: 172.16.1.4, IP subnet: 172.16.1.4/32

IP broadcast address: 255.255.255.255

IP primary address route-preference: 1, tag: 0

lo18, Interface status: protocol-up/link-up/admin-up, iod: 84, mode: dci-ucast

IP address: 172.16.1.1, IP subnet: 172.16.1.1/32

IP broadcast address: 255.255.255.255

IP primary address route-preference: 1, tag: 0

lo19, Interface status: protocol-up/link-up/admin-up, iod: 85, mode: dci-mcast-hrep

IP address: 172.16.1.2, IP subnet: 172.16.1.2/32

IP broadcast address: 255.255.255.255

IP primary address route-preference: 1, tag: 0

lo20, Interface status: protocol-up/link-up/admin-up, iod: 87, mode: mscp-etep

IP address: 172.16.1.3, IP subnet: 172.16.1.3/32

IP broadcast address: 255.255.255.255

IP primary address route-preference: 1, tag: 0

spine209# show ip int vrf overlay-1

<snip>

lo13, Interface status: protocol-up/link-up/admin-up, iod: 83, mode: etep

IP address: 172.16.2.4, IP subnet: 172.16.2.4/32

IP broadcast address: 255.255.255.255

IP primary address route-preference: 1, tag: 0

lo14, Interface status: protocol-up/link-up/admin-up, iod: 84, mode: dci-ucast

IP address: 172.16.2.1, IP subnet: 172.16.2.1/32

IP broadcast address: 255.255.255.255

IP primary address route-preference: 1, tag: 0

lo15, Interface status: protocol-up/link-up/admin-up, iod: 85, mode: dci-mcast-hrep

IP address: 172.16.2.2, IP subnet: 172.16.2.2/32

IP broadcast address: 255.255.255.255

IP primary address route-preference: 1, tag: 0

lo16, Interface status: protocol-up/link-up/admin-up, iod: 87, mode: mscp-etep

IP address: 172.16.2.3, IP subnet: 172.16.2.3/32

IP broadcast address: 255.255.255.255

IP primary address route-preference: 1, tag: 0

마지막으로 MSC에서 결함이 표시되지 않는지 확인합니다.

문제 해결

현재 이 컨피그레이션에 사용할 수 있는 특정 문제 해결 정보가 없습니다.

관련 정보

- Cisco ACI 멀티 사이트 아키텍처 백서

- 기술 지원 및 문서 − Cisco Systems