Expressway 클러스터란 무엇이며 작동 방식

다운로드 옵션

PDF (1.1 MB)
다양한 디바이스에서 Adobe Reader로 보기

업데이트:2021년 7월 2일

문서 ID:217230

편견 없는 언어

본 제품에 대한 문서 세트는 편견 없는 언어를 사용하기 위해 노력합니다. 본 설명서 세트의 목적상, 편견 없는 언어는 나이, 장애, 성별, 인종 정체성, 민족 정체성, 성적 지향성, 사회 경제적 지위 및 교차성에 기초한 차별을 의미하지 않는 언어로 정의됩니다. 제품 소프트웨어의 사용자 인터페이스에서 하드코딩된 언어, RFP 설명서에 기초한 언어 또는 참조된 서드파티 제품에서 사용하는 언어로 인해 설명서에 예외가 있을 수 있습니다. 시스코에서 어떤 방식으로 포용적인 언어를 사용하고 있는지 자세히 알아보세요.

이 번역에 관하여

Cisco는 전 세계 사용자에게 다양한 언어로 지원 콘텐츠를 제공하기 위해 기계 번역 기술과 수작업 번역을 병행하여 이 문서를 번역했습니다. 아무리 품질이 높은 기계 번역이라도 전문 번역가의 번역 결과물만큼 정확하지는 않습니다. Cisco Systems, Inc.는 이 같은 번역에 대해 어떠한 책임도 지지 않으며 항상 원본 영문 문서(링크 제공됨)를 참조할 것을 권장합니다.

소개

이 문서에서는 Expressway 클러스터가 Expressway 설치의 복원력 및 용량을 확장하도록 설계되는 방법에 대해 설명합니다.

배경 정보

용량. Expressway 클러스터는 단일 Expressway에 비해 Expressway 배포의 용량을 최대 4배 늘릴 수 있습니다. 클러스터의 Expressway 피어는 라우팅, 영역, FindMe 및 기타 구성과 함께 대역폭 사용량을 공유합니다.

탄력성. Expressway 클러스터는 Expressway가 유지 관리 모드에 있는 동안 또는 네트워크, 정전 또는 기타 이유로 인해 액세스할 수 없는 경우 이중화를 제공할 수 있습니다. 엔드포인트는 클러스터의 모든 피어에 등록할 수 있습니다. 엔드포인트가 초기 피어에 대한 연결이 끊기면 클러스터의 다른 피어에 다시 등록할 수 있습니다.

사양

Expressway는 최대 6개의 Expressway 클러스터로 구성될 수 있습니다. 클러스터를 생성할 때 하나의 피어를 기본 피어로 지정하며, 이 피어에서 컨피그레이션이 다른 피어로 복제됩니다. 클러스터의 모든 Expressway 피어는 동일한 라우팅 기능을 가져야 합니다. Expressway가 대상에 통화를 라우팅할 수 있는 경우 해당 클러스터의 모든 Expressway 피어가 해당 대상에 통화를 라우팅할 수 있는 것으로 간주됩니다.

용량

4개의 피어 이후에는 용량 증가가 없습니다. 예를 들어, 6개의 피어 클러스터에서는 5번째 및 6번째 고속도로가 클러스터에 추가 통화 용량을 추가하지 않습니다. 탄력성은 추가 피어로 향상되지만 용량은 향상되지 않습니다.

소규모 VM(Virtual Machine)의 경우, 클러스터는 이중화용일 뿐 확장용이 아니며 클러스터에서 용량을 확보할 수 없습니다.
다음 그림에는 4개의 피어 클러스터 컨피그레이션을 기반으로 한 용량이 나와 있습니다.

중요 페이지 요소

요구 사항

SSH(Secure Shell)에 대한 기본 지식
클러스터에는 Expressway-C 노드만 또는 Expressway-E 노드만 포함되어야 합니다.
모든 피어는 동일한 소프트웨어 버전을 사용해야 합니다.
모든 피어는 하드웨어 플랫폼, 어플라이언스 또는 가상 머신(VM)을 사용하며 동일한 기능을 제공합니다.
Expressway는 최대 80ms의 왕복 지연을 지원합니다.
H323 모드는 각 피어에서 활성화됩니다.
다음 사항을 제외하고 모든 피어에 동일한 옵션 키 집합이 설치되어 있습니다.

VCS(Video Control Server)의 경우 Traversal 및 비 Traversal 통화 라이센스
Expressway의 경우 리치 미디어 세션
Expressway의 경우 Room 시스템 및 데스크톱 시스템 등록 라이센스

다른 모든 라이센스 키는 각 피어에서 동일해야 합니다.

클러스터 피어 간에 NAT(Network Address Translation)가 없어야 합니다.

참고: Expressway-E에서 단일 NIC(Network Interface Controller)를 사용하는 경우 공용 IP를 사용해야 합니다. Expressway-E에서 듀얼 NIC를 사용하는 경우 내부 인터페이스를 사용하여 클러스터를 구축해야 합니다.

IP 주소, DNS(Domain Name Service) 및 NTP(Network Time Protocol)를 구성해야 합니다.

클러스터 연결 및 포트

설정

새 클러스터 만들기

Expressway 웹 인터페이스를 엽니다.
System > Clustering으로 이동합니다.
다음 값을 입력합니다.

참고: 다른 피어를 추가하기 전에 먼저 한(기본) 피어의 클러스터를 만들고 기본 피어를 다시 시작해야 합니다. 클러스터 하나를 설정한 후에 더 많은 피어를 추가할 수 있습니다.

기본 구성: 1

클러스터 IP 버전: IPv4 또는 IPv6를 선택하여 네트워크 주소 체계와 일치시킵니다.

TLS 확인 모드 옵션: 허용(기본값) 또는 적용.

허용이란 클러스터 내 TLS(Transport Layer Security) 연결이 설정될 때 피어가 서로의 인증서를 검증하지 않음을 의미합니다.

Enforce는 더 안전하지만 각 피어에 유효한 인증서가 있어야 하며 CA(Certificate Authority)가 다른 모든 피어에서 신뢰할 수 있어야 합니다.

피어 1 주소: 이 Expressway(기본 피어)의 주소를 입력합니다. TLS 확인 모드가 적용으로 설정된 경우 이 피어의 인증서에서 주체 CN(Common Name) 또는 SAN(Subject Alternative Name)과 일치하는 FQDN(Fully Qualified Domain Name)을 입력해야 합니다.

저장을 선택합니다.
서버를 다시 시작합니다.
Maintenance(유지 관리) > Restart options(재시작 옵션)로 이동한 다음 Restart(재시작)를 선택하고 OK(확인)를 확인합니다.
다음 이미지와 같이 인증서가 유효한지 확인합니다.

클러스터에 추가 피어 추가

다른 피어를 추가하려면 다음 단계를 수행하십시오.

System(시스템) > Clustering on the primary Expressway(기본 Expressway의 클러스터링)로 이동합니다.
첫 번째 빈 필드에 새 Expressway 피어의 주소를 입력합니다.
저장을 선택합니다.
피어 1은 이 시스템을 나타내야 합니다. 새 피어는 Unknown(알 수 없음)을 표시해야 하며, 새로 고침이 있는 경우 아직 클러스터에 완전히 조인하지 않았으므로 Failed(실패)를 표시해야 합니다.
클러스터에 이미 있는 하위 피어 중 하나에서 System > Clustering으로 이동하고 다음 필드를 편집합니다.
클러스터에 이미 있는 각 하위 피어에 대해 이전 단계를 반복합니다.
저장을 선택합니다.
Expressway에서 클러스터 통신 실패 경보를 표시합니다. 필요한 재시작 후 경보가 지워집니다.
Expressway를 다시 시작합니다.
다시 시작한 후 약 2분 정도 기다립니다. 이는 기본 컨피그레이션에서 복사되는 빈도입니다.
클러스터 데이터베이스 상태를 확인합니다.
하위 피어에 컨피그레이션이 복제되었는지 확인합니다.

TLS 확인 적용

주의: 계속하기 전에 인증서 SAN에 피어 N 주소 필드에 있는 FQDN이 포함되어 있는지 확인하십시오. 계속하기 전에 각 주소 필드 옆에 클러스터링과 인증서에 대한 녹색 상태 메시지가 표시되어야 합니다.

기본 피어에서 TLS 확인 모드를 Enforce로 설정합니다.

주의: 인증서가 유효하지 않으면 경고가 표시되고 클러스터가 적용된 TLS 확인 모드에서 제대로 작동하지 않습니다.

새 TLS 확인 모드는 클러스터 전체에 복제됩니다.
TLS 확인 모드가 이제 다른 피어에 적용되는지 확인합니다.
Save(저장)를 선택하고 기본 피어를 다시 시작합니다.
기본 피어가 다시 온라인 상태가 되면 각 피어를 하나씩 다시 시작합니다.
클러스터가 안정화될 때까지 기다린 후 모든 피어에 대해 클러스터링 및 인증서 상태가 녹색인지 확인합니다.

기본 피어 변경

참고: 현재 기본 피어에 액세스할 수 없는 경우에도 이 프로세스를 수행할 수 있습니다.

새 Primary Expressway(기본 Expressway)에서 System(시스템) > Clustering(클러스터링)으로 이동합니다.
Configuration(컨피그레이션) 기본 드롭다운 메뉴에서 This system(이 시스템)이라고 하는 피어 항목의 ID 번호를 선택합니다.
저장을 선택합니다.

참고: 이 프로세스가 수행되는 동안 Expressway에서 클러스터 기본 불일치 또는 클러스터 복제 오류를 보고하는 경보는 무시합니다.

다른 모든 Expressway 피어에서 이전 기본 피어로 시작합니다(계속 액세스할 수 있는 경우).
System > Clustering(시스템> 클러스터링)으로 이동합니다.
Configuration(컨피그레이션) 기본 드롭다운 메뉴에서 새 기본 Expressway의 ID 번호를 선택합니다.
저장을 선택합니다.
Configuration primary(컨피그레이션 기본)에 대한 변경이 수락되었는지 확인하고 System(시스템) > Clustering(클러스터링)으로 이동하여 페이지를 새로 고칩니다.
Expressway에서 변경 사항을 받아들이지 않은 경우 동일한 절차를 반복합니다.
클러스터 데이터베이스 상태가 활성으로 보고되는지 확인합니다.

FQDN을 사용하도록 클러스터 변경

참고: 이 절차가 수행되는 동안 피어 간의 통신이 일시적으로 영향을 받습니다. 즉, 변경이 완료되고 클러스터가 새 주소에 동의할 때까지 경보가 지속됩니다.

모든 클러스터 피어에 로그인하고 System > Clustering으로 이동합니다.
어떤 피어 주소를 변경할지 선택합니다. 피어 1 주소로 시작하는 것이 좋습니다.
클러스터의 모든 피어에서 다음 절차를 수행합니다.
선택한 피어 주소 필드를 IP 주소에서 FQDN으로 변경합니다.
저장을 선택합니다.
변경된 피어 주소로 식별되는 피어로 전환하고 서버를 다시 시작합니다.
일시적인 클러스터 경보가 해결될 때까지 기다립니다.
변경할 다음 피어 주소를 선택한 다음 3-7단계를 반복합니다.
모든 피어 주소를 변경하고 모든 피어를 다시 시작할 때까지 이 절차를 반복합니다.

Expressway-E에 대한 클러스터 주소 매핑

MRA(모바일 및 원격 액세스)와 같은 보안 구축의 경우 각 Expressway-E 피어에 공용 FQDN이 포함된 SAN이 있는 인증서가 있어야 합니다. FQDN은 공용 DNS에서 Expressway-E의 공용 IP 주소에 매핑됩니다.

참고: 단순히 Cisco Expressway-E 피어를 클러스터링하려는 경우 피어 간에 TLS 확인이 필요하지 않으면 노드의 사설 IP 주소로 클러스터를 구성할 수 있습니다. 클러스터 주소 매핑이 필요하지 않습니다.

클러스터 주소 매핑은 클러스터에서 공유되는 FQDN:IP 쌍이며, 각 피어에 대해 한 쌍입니다. 피어는 DNS를 쿼리하기 전에 매핑 테이블을 참조하며, 일치하는 항목을 발견하면 DNS를 쿼리하지 않습니다.

TLS를 적용하도록 선택하는 경우 피어는 서로의 인증서의 SAN 필드에서 이름을 읽어야 하며 매핑의 FQDN 쪽에 대해 각 이름을 확인해야 합니다.

기본 피어에 매핑을 입력하는 것이 좋습니다. 주소 매핑은 클러스터를 통해 동적으로 복제됩니다. 주소 매핑을 구성하려면 다음 절차를 수행합니다.

기본 피어에서 System(시스템) > Clustering(클러스터링)을 활성화하고 Cluster address mapping enabled(클러스터 주소 매핑 활성화) 드롭다운을 On(켜기)으로 변경합니다(기본값은 Off). Cluster address mapping 필드가 표시됩니다.
Expressway-E 피어의 공용 FQDN이 내부 NIC의 IP 주소와 일치하도록 매핑을 편집합니다.
저장을 선택합니다.

주의: 공용 DNS를 사용하여 피어의 공용 FQDN을 사설 IP 주소에 매핑하려고 하지 마십시오. 이 작업은 외부 연결을 끊을 수 있습니다.

단일 NIC가 있는 클러스터

클러스터의 Expressway-E 피어가 인증서로 서로의 ID를 확인하도록 하려면 DNS를 사용하여 공용 IP 주소에 대한 클러스터 피어 FQDN을 확인하도록 허용할 수 있습니다. 이는 Expressway-E 노드에 다음이 있는 경우 클러스터를 구성하는 데 사용할 수 있는 방법입니다.

NIC 1개
구성된 고정 NAT 없음
라우팅 가능한 IP 주소

문제 해결

공장 재설정을 트리거하는 요인

클러스터링 페이지에서 모든 피어 주소 필드를 지우고 컨피그레이션을 저장하면 다음에 다시 시작할 때 Expressway는 기본적으로 공장 초기화 자체를 수행합니다. 즉, 필드를 지우고 다음에 다시 시작한 후 수행되는 모든 컨피그레이션을 포함하는 LAN1(Local Area Network 1) 인터페이스의 기본 네트워크 컨피그레이션을 제외하고 모든 컨피그레이션이 삭제됩니다.

팁: 공장 재설정을 방지해야 하는 경우 클러스터 피어 주소 필드를 복원합니다. 원래 피어 주소를 같은 순서로 바꾼 다음 컨피그레이션을 저장하여 배너를 지웁니다.

민감한 데이터 및 클러스터 컨피그레이션을 제거하기 위해 피어가 재시작될 때 공장 재설정이 자동으로 트리거됩니다. 재설정은 다음 기본 네트워크 정보를 제외한 모든 컨피그레이션을 지웁니다.

참고: 이중 NIC 옵션을 사용하는 경우 모든 LAN2 컨피그레이션은 재설정에 의해 완전히 제거됩니다.

IP 주소 · 관리자 및 루트 계정과 비밀번호
SSH 키
옵션 키
HTTPS(Hypertext Transfer Protocol Secure) 액세스 사용
SSH 액세스 사용

참고: 버전 X12.6에서 공장 초기화 기능은 피어에서 서버 인증서, 연결된 개인 키 및 CA 트러스트 저장소 설정을 제거합니다. 이전 Expressway 소프트웨어 버전에서는 이러한 설정이 유지됩니다.

공장 초기화 실패

공장 재설정이 실패할 수 있습니다. 이는 Expressway가 새로 설치한 OVA(Open Virtualization Appliance)이고 업그레이드되지 않은 경우 발생할 수 있습니다.

이 문제를 해결하려면 다음 옵션 중 하나를 따르십시오.

tar.gz 파일을 사용하여 모든 노드를 동일한 소프트웨어 버전으로 업그레이드합니다. 업그레이드 프로세스가 끝나면 서버를 다시 시작하고 Factory Reset이 트리거됩니다.
tar.gz 파일을 WinSCP(/mnt/harddisk/factory-reset/)가 있는 공장 초기화 폴더에 직접 업로드합니다. 그런 다음 다시 시작하여 공장 재설정을 시작하거나 CLI에서 공장 재설정을 실행합니다.

참고: 업그레이드, 인증서 변경 전에 또는 공장 초기화 경고가 있을 때 적절한 백업을 수행해야 합니다.

재시작 순서

클러스터 또는 피어를 다시 시작해야 하는 경우 다음 단계를 수행하십시오.

기본 피어를 다시 시작하고 웹 인터페이스를 통해 액세스할 수 있을 때까지 기다립니다.
기본 및 모든 피어의 상태에서 클러스터 복제 상태를 검증합니다. 잠시 기다렸다가 피어의 웹 인터페이스를 가끔 새로 고칩니다.
필요한 경우 다른 피어를 한 번에 하나씩 다시 시작합니다. 각 복제 상태에 액세스할 수 있게 되면 몇 분 정도 기다렸다가 해당 복제 상태를 검증합니다.

참고: Expressway 피어가 성공 상태를 보고하기 전에 클러스터 변경을 수행한 후 약 5분 정도 기다려야 할 수 있습니다.

경보 및 경고

클러스터 오류의 경보는 다음과 같은 형식으로 표시됩니다. 클러스터 복제 오류: (details) 컨피그레이션의 수동 동기화가 필요하며, 다음 중 몇 가지 예를 들 수 있습니다.

클러스터 복제 오류: 구성을 수동으로 동기화해야 합니다.
클러스터 복제 오류: 기본 또는 이 하위 피어 구성 파일을 찾을 수 없습니다. 구성을 수동으로 동기화해야 합니다.
클러스터 복제 오류: 컨피그레이션 기본 ID가 일치하지 않습니다. 컨피그레이션을 수동으로 동기화해야 합니다.
클러스터 복제 오류: 이 피어의 컨피그레이션이 기본 컨피그레이션과 충돌하므로 수동으로 컨피그레이션을 동기화해야 합니다.

하위 Expressway에서 언급된 경보를 보고하는 경우 다음 절차를 수행합니다.

SSH 또는 기타 CLI 인터페이스에서 admin으로 로그인합니다.
다음 명령을 실행합니다. xcommand ForceConfigUpdate

참고: 업그레이드, 인증서 변경 전에 또는 공장 초기화 경고가 있을 때 적절한 백업을 수행해야 합니다.

이 명령은 하위 Expressway 컨피그레이션을 삭제한 다음 기본 Expressway에서 해당 컨피그레이션을 강제로 업데이트합니다.

문제가 지속되면 클러스터 피어당 암호화 키와 관련이 있을 수 있습니다. 일반적으로 피어가 잘못된 순서로 업그레이드될 때 하위 피어가 기본 피어와 동기화되지 않습니다. 따라서 xcommand forceeconfigupdate가 작동하지 않으면 다음 절차를 따르십시오.

기본 피어에 로그인하고 상태가 양호한지 확인합니다.
클러스터 컨피그레이션에서 이 피어가 기본 피어로 표시되는지 확인합니다.
기본 를 다시 업그레이드하고, 원래 업그레이드했던 패키지를 사용하십시오.

기본 피어가 업그레이드되고 재부팅된 후 복제 경보가 지워집니다. 이 작업은 일반적으로 재부팅 후 10분 이내에 수행되지만, 재부팅 후 최대 20분이 될 수 있습니다.

일반 경보

잘못된 클러스터링 컨피그레이션: H.323 모드를 켜야 합니다. 클러스터링은 피어 간의 H.323 통신을 사용합니다.

H.323 모드가 켜져 있는지 확인하려면 이 알람을 지우려면 Configuration(컨피그레이션) > Protocols(프로토콜) > H.323으로 이동합니다.

Expressway 데이터베이스 오류: Cisco 지원 담당자에게 문의하십시오.

이러한 종류의 알람을 트러블슈팅하려면 다음 절차를 따르십시오.

시스템 스냅샷을 생성하여 지원 담당자에게 제공하십시오.
클러스터에서 Expressway를 제거합니다.
이전에 Expressway에서 수행한 백업에서 해당 Expressway의 데이터베이스를 복원합니다.
Expressway를 클러스터에 다시 추가합니다.

두 번째 방법은 데이터베이스가 복구되지 않는 경우에 가능합니다.

시스템 스냅샷을 만들어 TAC(Technical Assistance Center)에 제공합니다.
클러스터에서 Expressway를 제거합니다.
root로 로그인하고 다음 명령 clusterdb_destroy_and_purge_data.sh를 실행합니다.
이전에 Expressway에서 수행한 백업에서 해당 Expressway의 데이터베이스를 복원합니다.
Expressway를 클러스터에 다시 추가합니다.

참고: 업그레이드, 인증서 변경 전에 또는 공장 초기화 경고가 있을 때 적절한 백업을 수행해야 합니다.

주의: clusterdb_destroy_and_purge_data.sh는 위험할 수 있습니다. 이 옵션을 최후의 수단으로 사용하십시오.

시스템 키 관련 문제

참고: 다음 정보는 버전 X14부터 적용됩니다.

단일 노드 시나리오에서 Expressway에 발생하는 키 파일 경보를 업데이트하지 못했습니다.

다음 절차에 따라 이러한 종류의 알람을 트러블슈팅합니다.

CLI를 통해 admin으로 로그인합니다(기본적으로 SSH를 통해 그리고 하드웨어 버전의 시리얼 포트를 통해 사용 가능).
다음 명령 xCommand ForceSystemKeyUpdate를 실행합니다.

클러스터 시나리오의 Expressway에서 발생하는 키 파일 경보를 업데이트하지 못했습니다.

다음 절차에 따라 이러한 종류의 알람을 트러블슈팅합니다.

이 경보가 발생하지 않는 CLI(SSH 및 하드웨어 버전의 시리얼 포트를 통해 기본적으로 사용 가능)를 통해 admin으로 노드에 로그인합니다.
다음 명령 xCommand ForceSystemKeyUpdate를 실행합니다.

로그 세부 정보

Expressway의 다른 로그와 마찬가지로 TCP 덤프와 함께 진단 로그를 활성화할 수 있습니다.

정상 상태에서 마스터 노드의 DB 동기화가 다음 출력으로 로그에 표시됩니다.

2020-07-21T15:16:50.321-05:00 expc01 replication: UTCTime="2020-07-21 20:16:50,321" Module="developer.replication" Level="INFO" CodeLocation="clusterconfigurationsynchroniser(270)" Detail="Starting synchronisation"
2020-07-21T15:16:50.330-05:00 expc01 replication: UTCTime="2020-07-21 20:16:50,330" Module="developer.replication" Level="INFO" CodeLocation="clusterconfigurationutils(750)" AlternateIPAddresses="[u'(10.15.13.15 expc01)', u'(10.15.13.16 expc02)']" ConfigurationMasterIndex="0" LocalPeerIndex="0" 
2020-07-21T15:16:50.433-05:00 expc01 replication: UTCTime="2020-07-21 20:16:50,433" Module="developer.replication" Level="INFO" CodeLocation="clusterconfigurationsynchroniser(257)" Detail="This peer is the cluster master, local configuration has already been replicated to the other peers"
2020-07-21T15:16:50.437-05:00 expc01 replication: UTCTime="2020-07-21 20:16:50,437" Module="developer.replication" Level="INFO" CodeLocation="clusterconfigurationsynchroniser(336)" Detail="Synchronisation completed successfully"

Peer node(피어 노드) 관점에서 다음 출력으로 표시됩니다.

2020-07-21T15:16:46.900-05:00 expc02 replication: UTCTime="2020-07-21 20:16:46,899" Module="developer.replication" Level="INFO" CodeLocation="clusterconfigurationsynchroniser(270)" Detail="Starting synchronisation"
2020-07-21T15:16:46.908-05:00 expc02 replication: UTCTime="2020-07-21 20:16:46,908" Module="developer.replication" Level="INFO" CodeLocation="clusterconfigurationutils(750)" AlternateIPAddresses="[u'(10.15.13.15 expc01)', u'(10.15.13.16 expc02)']" ConfigurationMasterIndex="0" LocalPeerIndex="1" 
2020-07-21T15:16:46.947-05:00 expc02 replication: UTCTime="2020-07-21 20:16:46,946" Module="developer.replication" Level="INFO" CodeLocation="clusterconfigurationsynchroniser(254)" Detail="This peer is not the cluster master, local configuration is already up to date"
2020-07-21T15:16:46.950-05:00 expc02 replication: UTCTime="2020-07-21 20:16:46,950" Module="developer.replication" Level="INFO" CodeLocation="clusterconfigurationsynchroniser(336)" Detail="Synchronisation completed successfully"

다음 출력에서는 Peer Disconnection이 표시됩니다.

2020-08-12T14:57:43.353-05:00 expc01 UTCTime="2020-08-12 19:57:43,353" Module="developer.clusterdb.cdb" Level="INFO" Node="clusterdb@expc01.apolo.local" PID="<0.159.0>" Detail="Processed mnesia_down event from accessible node" Node="clusterdb@expc02.apolo.local"
2020-08-12T14:57:43.354-05:00 expc01 UTCTime="2020-08-12 19:57:43,353" Module="developer.clusterdb.cdb" Level="ERROR" Node="clusterdb@expc01.apolo.local" PID="<0.159.0>" Detail="Inconsistent Database" Context="from mnesia system - mnesia down" Node="clusterdb@expc02.apolo.local"
2020-08-12T14:57:43.354-05:00 expc01 UTCTime="2020-08-12 19:57:43,354" Module="developer.clusterdb.cdb" Level="INFO" Node="clusterdb@expc01.apolo.local" PID="<0.159.0>" Detail="Connecting database on mnesia running_partitioned_network event" Node="clusterdb@expc02.apolo.local"
2020-08-12T14:57:43.354-05:00 expc01 UTCTime="2020-08-12 19:57:43,354" Module="developer.clusterdb.cdb" Level="INFO" Node="clusterdb@expc01.apolo.local" PID="<0.14215.425>" Detail="Ready to perform node connection transaction" Node="clusterdb@expc02.apolo.local"
2020-08-12T14:57:43.354-05:00 expc01 UTCTime="2020-08-12 19:57:43,354" Module="developer.clusterdb.cdb" Level="INFO" Node="clusterdb@expc01.apolo.local" PID="<0.14215.425>" Detail="Running node connection transaction" Node="clusterdb@expc02.apolo.local"
2020-08-12T14:57:43.354-05:00 expc01 UTCTime="2020-08-12 19:57:43,354" Module="developer.clusterdb.synchronise" Level="WARN" Node="clusterdb@expc01.apolo.local" PID="<0.14215.425>" Detail="Failed connecting to node" Node="clusterdb@expc02.apolo.local" Reason="{ badrpc, { EXIT, { aborted, { noproc, { gen_server, call, [ kernel_safe_sup, { start_child, { dets_sup, { dets_sup, start_link,  }, permanent, 1000, supervisor, [ dets_sup ] } }, infinity ] } } } } }"
2020-08-12T14:57:43.524-05:00 expc01 alarm: Level="WARN" Event="Alarm Raised" Id="20006" UUID="0f96695e-d954-4f6f-85c1-2ef1eae6f764" Severity="warning" Detail="Cluster database communication failure: The database is unable to replicate with one or more of the cluster peers" UTCTime="2020-08-12 19:57:43,524"
2020-08-12T14:57:43.771-05:00 expc01 alarm: Level="WARN" Event="Alarm Raised" Id="20004" UUID="3bca6888-f622-11df-93be-07cc953d7b99" Severity="warning" Detail="Cluster communication failure: The system is unable to communicate with one or more of the cluster peers" UTCTime="2020-08-12 19:57:43,771"

2020-08-12T14:57:53.872-05:00 expc01 tvcs: UTCTime="2020-08-12 19:57:53,871" Module="network.h323" Level="INFO":  Action="Sent" Dst-ip="10.15.13.16" Dst-port="1719" Detail="Sending RAS SCI  SeqNum=52319 Retransmit=True"
2020-08-12T14:57:54.872-05:00 expc01 tvcs: UTCTime="2020-08-12 19:57:54,871" Module="network.h323" Level="INFO":  Action="Sent" Dst-ip="10.15.13.16" Dst-port="1719" Detail="Sending RAS LRQ  SeqNum=52320 Retransmit=True"
2020-08-12T14:57:56.872-05:00 expc01 tvcs: UTCTime="2020-08-12 19:57:56,871" Module="network.h323" Level="INFO":  Action="Sent" Dst-ip="10.15.13.16" Dst-port="1719" Detail="Sending RAS LRQ  SeqNum=52320 Retransmit=True"
2020-08-12T14:57:57.871-05:00 expc01 tvcs: UTCTime="2020-08-12 19:57:57,871" Module="network.h323" Level="INFO":  Action="Sent" Dst-ip="10.15.13.16" Dst-port="1719" Detail="Sending RAS SCI  SeqNum=52319 Retransmit=True"
2020-08-12T14:57:58.871-05:00 expc01 tvcs: Event="External Server Communications Failure" Reason="gatekeeper timed out" Service="NeighbourGatekeeper" Detail="name:10.15.13.16:1719" Level="1" UTCTime="2020-08-12 19:57:58,871"
2020-08-12T14:57:58.871-05:00 expc01 tvcs: UTCTime="2020-08-12 19:57:58,871" Module="network.h323" Level="INFO":  Action="Sent" Dst-ip="10.15.13.16" Dst-port="1719" Detail="Sending RAS LRQ  SeqNum=52320 Timeout=True"
2020-08-12T14:57:59.601-05:00 expc01 UTCTime="2020-08-12 19:57:59,601" Module="developer.clusterdb.peernameresolver" Level="INFO" Node="clusterdb@expc01.apolo.local" PID="<0.145.0>" Detail="Triggering forced peer update of peers which failed DNS and queueing next run" Queue-Time-ms="300000"
2020-08-12T14:58:01.871-05:00 expc01 tvcs: UTCTime="2020-08-12 19:58:01,871" Module="network.h323" Level="INFO":  Action="Sent" Dst-ip="10.15.13.16" Dst-port="1719" Detail="Sending RAS SCI  SeqNum=52319 Timeout=True"

다음 출력에는 마스터 노드에서 TLS Enforcement로 변경 내용이 표시됩니다.

2020-08-12T15:13:24.970-05:00 expc01 UTCTime="2020-08-12 20:13:24,969" Module="developer.cdbtable.cdb.clusterConfiguration" Level="DEBUG" Node="clusterdb@expc01.apolo.local" PID="<0.345.0>" Detail="Inserting into table" TableName="clusterConfiguration"
2020-08-12T15:13:24.976-05:00 expc01 UTCTime="2020-08-12 20:13:24,975" Event="System Configuration Changed" Node="clusterdb@expc01.apolo.local" PID="<0.345.0>" Detail="xconfiguration clusterConfiguration tls_verify - changed from: Permissive to: Enforcing"
2020-08-12T15:13:24.976-05:00 expc01 httpd[15060]: web: Event="System Configuration Changed" Detail="configuration/cluster/tls_verify - changed from: 'Permissive' to: 'Enforcing'" Src-ip="10.15.13.30" Src-port="53155" User="admin" Level="1" UTCTime="2020-08-12 20:13:24" 
2020-08-12T15:13:24.979-05:00 expc01 management: UTCTime="2020-08-12 20:13:24,978" Module="developer.management.databasemanager" Level="INFO" CodeLocation="databasemanager(312)" Detail="Cluster configuration change detected"
2020-08-12T15:13:24.980-05:00 expc01 UTCTime="2020-08-12 20:13:24,980" Module="developer.cdbtable.cdb.clusterConfiguration" Level="DEBUG" Node="clusterdb@expc01.apolo.local" PID="<0.345.0>" Detail="Inserting into table" TableName="clusterConfiguration"
2020-08-12T15:13:24.986-05:00 expc01 management: UTCTime="2020-08-12 20:13:24,986" Module="developer.management.databasemanager" Level="INFO" CodeLocation="databasemanager(405)" Detail="TLS Verify change status" Startup="False" New="True"
2020-08-12T15:13:25.022-05:00 expc01 UTCTime="2020-08-12 20:13:25,022" Event="System Configuration Changed" Node="clusterdb@expc01.apolo.local" PID="<0.557.0>" Detail="xconfiguration alternatesConfiguration - Changed"
2020-08-12T15:13:25.022-05:00 expc01 UTCTime="2020-08-12 20:13:25,022" Module="developer.clusterdb.peernameresolver" Level="INFO" Node="clusterdb@expc01.apolo.local" PID="<0.145.0>" Detail="Notifying databasemanager (Management Framework)"
2020-08-12T15:13:25.022-05:00 expc01 UTCTime="2020-08-12 20:13:25,022" Module="developer.clusterdb.alternatesmanager" Level="INFO" Node="clusterdb@expc01.apolo.local" PID="<0.142.0>" Detail="alternate peer changed info recieved"
2020-08-12T15:13:25.031-05:00 expc01 UTCTime="2020-08-12 20:13:25,031" Event="System Configuration Changed" Node="clusterdb@expc01.apolo.local" PID="<0.557.0>" Detail="xconfiguration alternatesConfiguration - Changed" 
2020-08-12T15:13:25.192-05:00 expc01 management: UTCTime="2020-08-12 20:13:25,192" Module="developer.diagnostics.alarmmanager" Level="INFO" CodeLocation="alarmmanager(173)" Detail="Raising alarm" UUID="e2b8e3d1-b731-4d7d-b606-4682a8f0c2e6" Parameters="null"
2020-08-12T15:13:25.195-05:00 expc01 management: Level="WARN" Event="Alarm Raised" Id="20007" UUID="e2b8e3d1-b731-4d7d-b606-4682a8f0c2e6" Severity="warning" Detail="Restart required: Cluster configuration has been changed, however a restart is required for this to take effect" UTCTime="2020-08-12 20:13:25,194"

Peer node(피어 노드) 관점에서는 다음 출력에 표시됩니다.

2020-08-12T15:13:24.976-05:00 expc02 UTCTime="2020-08-12 20:13:24,976" Event="System Configuration Changed" Node="clusterdb@expc02.apolo.local" PID="<0.390.0>" Detail="xconfiguration clusterConfiguration tls_verify - changed from: Permissive to: Enforcing"
2020-08-12T15:13:24.979-05:00 expc02 management: UTCTime="2020-08-12 20:13:24,978" Module="developer.management.databasemanager" Level="INFO" CodeLocation="databasemanager(312)" Detail="Cluster configuration change detected"
2020-08-12T15:13:24.982-05:00 expc02 management: UTCTime="2020-08-12 20:13:24,982" Module="developer.management.databasemanager" Level="INFO" CodeLocation="databasemanager(405)" Detail="TLS Verify change status" Startup="False" New="True"
2020-08-12T15:13:25.040-05:00 expc02 UTCTime="2020-08-12 20:13:25,040" Module="developer.clusterdb.peernameresolver" Level="INFO" Node="clusterdb@expc02.apolo.local" PID="<0.136.0>" Detail="Notifying databasemanager (Management Framework)"
2020-08-12T15:13:25.040-05:00 expc02 UTCTime="2020-08-12 20:13:25,040" Module="developer.clusterdb.alternatesmanager" Level="INFO" Node="clusterdb@expc02.apolo.local" PID="<0.143.0>" Detail="alternate peer changed info recieved"
2020-08-12T15:13:25.041-05:00 expc02 UTCTime="2020-08-12 20:13:25,041" Event="System Configuration Changed" Node="clusterdb@expc02.apolo.local" PID="<0.543.0>" Detail="xconfiguration alternatesConfiguration - Changed"
2020-08-12T15:13:25.042-05:00 expc02 UTCTime="2020-08-12 20:13:25,042" Event="System Configuration Changed" Node="clusterdb@expc02.apolo.local" PID="<0.543.0>" Detail="xconfiguration alternatesConfiguration - Changed"
2020-08-12T15:13:25.046-05:00 expc02 UTCTime="2020-08-12 20:13:25,046" Module="developer.clusterdb.alternatesmanager" Level="INFO" Node="clusterdb@expc02.apolo.local" PID="<0.143.0>" Detail="alternate peer changed info recieved"
2020-08-12T15:13:25.047-05:00 expc02 UTCTime="2020-08-12 20:13:25,046" Module="developer.clusterdb.peernameresolver" Level="INFO" Node="clusterdb@expc02.apolo.local" PID="<0.136.0>" Detail="Notifying databasemanager (Management Framework)"
2020-08-12T15:13:25.047-05:00 expc02 UTCTime="2020-08-12 20:13:25,047" Event="System Configuration Changed" Node="clusterdb@expc02.apolo.local" PID="<0.543.0>" Detail="xconfiguration alternatesConfiguration - Changed"
2020-08-12T15:13:25.049-05:00 expc02 UTCTime="2020-08-12 20:13:25,049" Event="System Configuration Changed" Node="clusterdb@expc02.apolo.local" PID="<0.543.0>" Detail="xconfiguration alternatesConfiguration - Changed"
 2020-08-12T15:13:25.136-05:00 expc02 management: UTCTime="2020-08-12 20:13:25,136" Module="developer.diagnostics.alarmmanager" Level="INFO" CodeLocation="alarmmanager(173)" Detail="Raising alarm" UUID="e2b8e3d1-b731-4d7d-b606-4682a8f0c2e6" Parameters="null"
2020-08-12T15:13:25.139-05:00 expc02 management: Level="WARN" Event="Alarm Raised" Id="20007" UUID="e2b8e3d1-b731-4d7d-b606-4682a8f0c2e6" Severity="warning" Detail="Restart required: Cluster configuration has been changed, however a restart is required for this to take effect" UTCTime="2020-08-12 20:13:25,139"