Contents

Introduction

Prerequisites

Requirements

Componentes Utilizados

Informações de Apoio

O que é SMI?

O que é SMI CEE?

O que são PoDs CEE?

O que é Pgpool POD?

O que é o Postgres POD?

Problema

Troubleshoot

Solução

Desligar a CEE

Excluir conteúdo das pastas

Restaurar a CEE

Pós-cheques

Verifique se os alertas estão limpos do CEE

Introduction

Este documento descreve como implementar a solução alternativa para os problemas de reinicialização do Pool de Dispositivos (POD - Common Execution Environment) da Infraestrutura de Microserviços do Assinante (SMI - Subscriber Microservices Infrastructure) (pgpool).

Prerequisites

Requirements

A Cisco recomenda que você tenha conhecimento destes tópicos:

- Cisco SMI CEE (Ultra Cloud Core CEE)

- Arquitetura de Plataforma de Implantação Nativa de Nuvem (CNDP - Cloud Native Deployment Platform) de 5G ou Bare Metal (BM - Bare Metal) SMI

- Dockers e Kubernetes

Componentes Utilizados

As informações neste documento são baseadas nestas versões de software e hardware:

- SMI 2020.02.2.35

- Kubernetes v1.21.0

The information in this document was created from the devices in a specific lab environment. All of the devices used in this document started with a cleared (default) configuration. Se a rede estiver ativa, certifique-se de que você entenda o impacto potencial de qualquer comando.

Informações de Apoio

O que é SMI?

O Cisco SMI é uma pilha em camadas de tecnologias e padrões de nuvem que permitem aplicativos baseados em microsserviços das unidades de negócios Cisco Mobility, Cable e Broadband Network Gateway (BNG) - todas com funções semelhantes de gerenciamento de assinantes e requisitos semelhantes de armazenamento de dados.

Os atributos são:

- Pilha de nuvem de camada (tecnologias e padrões) para fornecer implantações de ponta a ponta e também acomodar a infraestrutura de nuvem atual do cliente.

- A CEE é compartilhada por todos os aplicativos para funções que não são de aplicação (armazenamento de dados, implantação, configuração, telemetria e alarme). Isso proporciona interação e experiência consistentes para todos os pontos de contato e pontos de integração do cliente.

- Os aplicativos e a CEE são implantados em contêineres de microsserviço e conectados com uma malha de serviço inteligente.

- API exposta para implantação, configuração e gerenciamento para permitir a automação.

O que é SMI CEE?

A CEE é uma solução de software desenvolvida para monitorar aplicativos móveis e de cabos que são implantados na SMI. A CEE captura informações (métricas importantes) dos aplicativos de forma centralizada para que os engenheiros possam depurar e solucionar problemas.

A CEE é o conjunto comum de ferramentas instaladas para todos os aplicativos. Ele vem equipado com um Ops Center dedicado, que fornece a interface de usuário (CLI) e APIs para gerenciar as ferramentas de monitor. Há apenas um CEE disponível para cada cluster.

O que são PoDs CEE?

Um POD é um processo executado no cluster de Kubernetes. O POD encapsula uma unidade granular conhecida como contêiner. Um POD contém um ou vários contêineres.

Kubernetes implanta um ou vários PODs em um único nó que pode ser uma máquina física ou virtual. Cada POD tem uma identidade discreta com um endereço IP interno e um espaço de porta. No entanto, os contêineres em um POD podem compartilhar o armazenamento e os recursos de rede. CEE tem vários PODs que têm funções exclusivas. Pgpool e postgress estão entre vários PODs CEE.

O que é Pgpool POD?

O Pgpool gerencia o pool de recursos do Postgres para conexão, replicação, balanceamento de carga e assim por diante. Pgpool é um middleware que funciona entre servidores PostgreSQL e um banco de dados PostgreSQL.

O que é o Postgres POD?

O Postgres suporta o banco de dados SQL (Structured Query Language) com redundância para armazenar alertas e painéis Grafana.

Problema

Os PODs pgpool são reiniciados regularmente enquanto os PODs postgresql são executados sem problemas.

Para exibir os alertas, insira este comando:

show alerts active summary | include "POD_|k8s-pod-"

Um exemplo de alerta da CEE é mostrado aqui.

[pod-name-smf-data/podname] cee# show alerts active summary | include "POD_|k8s-pod-"

k8s-pod-crashing-loop 1d9d2b113073 critical 12-15T21:47:39 pod-name-smf-data-mas

Pod cee-podname/grafana-65cbdb9846-krgfq (grafana) is restarting 1.03 times / 5 minutes.

POD_Restarted 04d42efb81de major 12-15T21:45:44 pgpool-67f48f6565-vjt Container=

k8s_pgpool_pgpool-67f48f6565-vjttd_cee-podname_a9f68607-eac4-40a9-86ef-db8176e0a22a_1474 of pod= pgpool-...

POD_Restarted f7657a0505c2 major 12-15T21:45:44 postgres-0 Container=

k8s_postgres_postgres-0_cee-podname_59e0a768-6870-4550-8db3-32e2ab047ce2_1385 of pod= postgres-0 in name...

POD_Restarted 6e57ae945677 major 12-15T21:45:44 alert-logger-d96644d4 Container=

k8s_alert-logger_alert-logger-d96644d4-dsc8h_cee-podname_2143c464-068a-418e-b5dd-ce1075b9360e_2421 of po...

k8s-pod-crashing-loop 5b8e6a207aad critical 12-15T21:45:09 pod-name-smf-data-mas Pod

cee-podname/pgpool-67f48f6565-vjttd (pgpool) is restarting 1.03 times / 5 minutes.

POD_Down 45a6b9bf73dc major 12-15T20:30:44 pgpool-67f48f6565-qbw Pod= pgpool-67f48f6565-qbw52 in namespace=

cee-podname is DOWN for more than 15min

POD_Down 4857f398a0ca major 12-15T16:40:44 pgpool-67f48f6565-vjt Pod= pgpool-67f48f6565-vjttd in namespace=

cee-podname is DOWN for more than 15min

k8s-pod-not-ready fc65254c2639 critical 12-11T21:07:29 pgpool-67f48f6565-qbw Pod

cee-podname/pgpool-67f48f6565-qbw52 has been in a non-ready state for longer than 1 minute.

k8s-pod-not-ready 008b859e7333 critical 12-11T16:35:49 pgpool-67f48f6565-vjt Pod

cee-podname/pgpool-67f48f6565-vjttd has been in a non-ready state for longer than 1 minute.

Troubleshoot

No mestre de Kubernetes, digite este comando:

kubectl describe pods -n

postgres-0"

A saída de exemplo da descrição do POD é mostrada aqui. A saída está truncada.

Events:

Type Reason Age From Message

---- ------ ---- ---- -------

Normal Scheduled 14m default-scheduler Successfully assigned cee-pod-name-l1/postgres-2

to pod-name-master-3

Normal Pulling 14m kubelet Pulling image "docker.10.192.x.x.nip.io/cee-2020.02.2.i38/

smi-libraries/postgresql/2020.02.2/postgres:1.3.0-946d87d"

Normal Pulled 13m kubelet Successfully pulled image "docker.10.192.x.x.nip.io/cee-2020.02.2.i38/

smi-libraries/postgresql/2020.02.2/postgres:1.3.0-946d87d" in 29.048094722s

Warning Unhealthy 12m kubelet Readiness probe failed: [bin][h][ir] >>> [2021-10-11 18:09:48]

pod is not ready

Warning Unhealthy 10m kubelet Readiness probe failed: [bin][h][ir] >>> [2021-10-11 18:11:18]

pod is not ready

Warning Unhealthy 10m kubelet Readiness probe failed: [bin][h][ir] >>> [2021-10-11 18:11:48]

pod is not ready

Warning Unhealthy 9m49s kubelet Readiness probe failed: [bin][h][ir] >>> [2021-10-11 18:12:18]

pod is not ready

Warning Unhealthy 9m19s kubelet Readiness probe failed: [bin][h][ir] >>> [2021-10-11 18:12:48]

pod is not ready

Warning Unhealthy 8m49s kubelet Readiness probe failed: [bin][h][ir] >>> [2021-10-11 18:13:18]

pod is not ready

Warning Unhealthy 8m19s kubelet Readiness probe failed: [bin][h][ir] >>> [2021-10-11 18:13:48]

pod is not ready

Warning Unhealthy 7m49s kubelet Readiness probe failed: [bin][h][ir] >>> [2021-10-11 18:14:18]

pod is not ready

Warning Unhealthy 7m19s kubelet Readiness probe failed: [bin][h][ir] >>> [2021-10-11 18:14:48]

pod is not ready

Warning BackOff 6m44s kubelet Back-off restarting failed container

Ou

Events:

Type Reason Age From Message

---- ------ ---- ---- -------

Warning FailedScheduling 13m default-scheduler 0/5 nodes are available: 2 node(s)

didn't match Pod's node affinity/selector, 3 node(s) didn't find available persistent

volumes to bind.

Normal Scheduled 13m default-scheduler Successfully assigned cee-pod-name-l1/postgres-0

to pod-name-master-1

Warning FailedScheduling 13m default-scheduler 0/5 nodes are available: 2 node(s)

didn't match Pod's node affinity/selector, 3 node(s) didn't find available

persistent volumes to bind.

Normal Pulling 13m kubelet Pulling image "docker.10.192.x.x.nip.io/cee-2020.02.2.i38/

smi-libraries/postgresql/2020.02.2/postgres:1.3.0-946d87d"

Normal Pulled 12m kubelet Successfully pulled image "docker.10.192.x.x.nip.io/

cee-2020.02.2.i38/smi-libraries/postgresql/2020.02.2/postgres:1.3.0-946d87d"

in 43.011763302s

Warning Unhealthy 7m20s kubelet Liveness probe failed: [bin][h][imm] >>>

[2021-10-11 18:09:16] My name is pg-postgres-0

Solução

Note: Este procedimento não causa tempo de inatividade no aplicativo.

Desligar a CEE

Para desligar a CEE, insira estes comandos da CEE:

[pod-name-smf-data/podname] cee#

[pod-name-smf-data/podname] cee# config terminal

Entering configuration mode terminal

[pod-name-smf-data/podname] cee(config)# system mode shutdown

[pod-name-smf-data/podname] cee(config)# commit

Commit complete.

Aguarde até que o sistema atinja 100%

Excluir conteúdo das pastas

Do master-vip, SSH para cada uma das VMs principais e remova o conteúdo dessas pastas: /data/cee-podname/data-postgres-[0-2].

Master 1

cloud-user@pod-name-smf-data-master-1:~$ sudo rm -rf /data/cee-podname/data-postgres-0

Master 2

cloud-user@pod-name-smf-data-master-2:~$ sudo rm -rf /data/cee-podname/data-postgres-1

Master 3

cloud-user@pod-name-smf-data-master-3:~$ sudo rm -rf /data/cee-podname/data-postgres-2

Restaurar a CEE

Para restaurar a CEE, insira estes comandos na CEE:

[pod-name-smf-data/podname] cee#

[pod-name-smf-data/podname] cee# config terminal

Entering configuration mode terminal

[pod-name-smf-data/podname] cee(config)# system mode running

[pod-name-smf-data/podname] cee(config)# commit

Commit complete.

Aguarde até que o sistema atinja os 100%.

Pós-cheques

Verifique os Kubernetes do mestre.

cloud-user@pod-name-smf-data-master-1:~$ kubectl get pods -A -o wide | egrep 'postgres|pgpool'

All pods should display up and running without any restarts

Verifique se os alertas estão limpos do CEE

Para verificar se os alertas foram removidos da CEE, insira este comando:

show alerts active summary | include "POD_|k8s-pod-"

Além disso, você pode inserir este comando para garantir que haja um mestre e dois DBs em standby:

echo "0----------------------------------";kubectl

exec -it postgres-0 -n $(kubectl get pods -A | grep postgres | awk '{print $1}' | head -1)

-- /usr/local/bin/cluster/healthcheck/is_major_master.sh;echo "1--------------------------

--------";kubectl exec -it postgres-1 -n $(kubectl get pods -A | grep postgres | awk '{print $1}'

| head -1) -- /usr/local/bin/cluster/healthcheck/is_major_master.sh;echo "2---------------

-------------------"; kubectl exec -it postgres-2 -n $(kubectl get pods -A | grep postgres |

awk '{print $1}' | head -1) -- /usr/local/bin/cluster/healthcheck/is_major_master.sh;

O exemplo de saída esperado é:

cloud-user@pod-name-smf-data-master-1:~$ echo "0----------------------------------";kubectl

exec -it postgres-0 -n $(kubectl get pods -A | grep postgres | awk '{print $1}' | head -1)

-- /usr/local/bin/cluster/healthcheck/is_major_master.sh;echo "1--------------------------

--------";kubectl exec -it postgres-1 -n $(kubectl get pods -A | grep postgres | awk '{print $1}'

| head -1) -- /usr/local/bin/cluster/healthcheck/is_major_master.sh;echo "2---------------

-------------------"; kubectl exec -it postgres-2 -n $(kubectl get pods -A | grep postgres |

awk '{print $1}' | head -1) -- /usr/local/bin/cluster/healthcheck/is_major_master.sh;

0----------------------------------

[bin][h][imm] >>> [2021-12-15 22:05:18] My name is pg-postgres-0

[bin][h][imm] >>> My state is good.

[bin][h][imm] >>> I'm not a master, nothing else to do!

1----------------------------------

[bin][h][imm] >>> [2021-12-15 22:05:19] My name is pg-postgres-1

[bin][h][imm] >>> My state is good.

[bin][h][imm] >>> I think I'm master. Will ask my neighbors if they agree.

[bin][h][imm] >>> Will ask nodes from PARTNER_NODES list

[bin][h][imm] >>> Checking node pg-postgres-0

[bin][h][imm] >>>>>>>>> Count of references to potential master pg-postgres-1 is 1 now

[bin][h][imm] >>> Checking node pg-postgres-1

[bin][h][imm] >>> Checking node pg-postgres-2

[bin][h][imm] >>>>>>>>> Count of references to potential master pg-postgres-1 is 2 now

[bin][h][imm] >>> Potential masters got references:

[bin][h][imm] >>>>>> Node: pg-postgres-1, references: 2

[bin][h][imm] >>> I have 2/2 incoming reference[s]!

[bin][h][imm] >>>> 2 - Does anyone have more?

[bin][h][imm] >>> Yahoo! I'm real master...so I think!

2----------------------------------

[bin][h][imm] >>> [2021-12-15 22:05:21] My name is pg-postgres-2

[bin][h][imm] >>> My state is good.

[bin][h][imm] >>> I'm not a master, nothing else to do!