[쿠버네티스] kind 클러스터에 operator sdk 컨테이너 이미지 로컬 배포 (2)

https://appletreeworkplace.tistory.com/41

[쿠버네티스] Kind + Cilium CNI 클러스터 구축 (1)

 

전편에서 생성한 kind 클러스터 위에 operator sdk로 만든 이미지를 로컬로 배포해서 정상적으로 동작하는지 확인해본다.

 

컨테이너 이미지 빌드

make docker-build IMG=localhost:5000/controller:1.0.0

docker images
REPOSITORY                  TAG       IMAGE ID       CREATED          SIZE
localhost:5000/controller   1.0.0     f817d23c4901   18 minutes ago   70.1MB

 

로컬 환경에 이미지를 만들어준다.

 

Kind 클러스터에 이미지 로드

kind load docker-image --name $MY_CLUSTER localhost:5000/controller:1.0.0

 

로컬 Docker에서 빌드한 이미지를 Kind 클러스터 내부로 로드하는 과정이다.
이 과정을 수행해주는 이유는 Kind는 자체적인 Docker 네트워크에서 실행되어 docker push 없이 kind load docker-image로 이미지를 등록해야 말아놓은 이미지가 사용이 가능하다.

Normal   BackOff    23s               kubelet            Back-off pulling image "localhost:5000/controller:1.0.0"
Warning  Failed     23s               kubelet            Error: ImagePullBackOff
Normal   Pulling    9s (x2 over 24s)  kubelet            Pulling image "localhost:5000/controller:1.0.0"
Warning  Failed     9s (x2 over 24s)  kubelet            Failed to pull image "localhost:5000/controller:1.0.0": failed to pull and unpack image "localhost:5000/controller:1.0.0": failed to resolve reference "localhost:5000/controller:1.0.0": failed to do request: Head "http://localhost:5000/v2/controller/manifests/1.0.0": dial tcp [::1]:5000: connect: connection refused
Warning  Failed     9s (x2 over 24s)  kubelet            Error: ErrImagePull

 

로드를 따로 안했더니 계속 이미지가 에러가 떠서 알게 되었다. 🥲

 

Operator 배포

make deploy IMG=localhost:5000/controller:1.0.0

 

동작 확인

k get po -A
omyo-meow-system     omyo-meow-controller-manager-6fd85d76df-jzrrl   1/1     Running   0          2m21s

 

파드가 러닝 상태로 떴다.

리소스를 만들어서 컨트롤러 리컨사일 부분이 정상적으로 동작하는지 확인해보았다.

 

리소스 배포

kubectl apply -f - <<EOF
apiVersion: omyo.test.io/v1alpha1
kind: OmyoTracker
metadata:
  name: test-tracker
spec:
  vmName: "vm-test"
  hostNode: "node-1"
  vmState: "Running"
EOF

 

오퍼레이터 로그

kubectl logs -n omyo-meow-system deployment/omyo-meow-controller-manager -f

 

Operator가 정상적으로 실행되다가 종료된 과정을 살펴보도록 한다.

2025-03-08T13:20:11Z INFO     setup   starting manager
2025-03-08T13:20:11Z   INFO     controller-runtime.metrics      Starting metrics server
2025-03-08T13:20:11Z   INFO     setup   disabling http/2
2025-03-08T13:20:11Z   INFO     starting server {"name": "health probe", "addr": "[::]:8081"}

 

오퍼레이터 컨트롤러 매니저가 시작되고, 매트릭 수집을 위한 매트릭 서버가 시작된다.

헬스 체크 서버(Health Probe) 시작되면서 Operator의 상태를 확인하는 API가 Kubernetes가 Operator가 정상 작동하는지 감지한다.

I0308 13:20:11.747981       1 leaderelection.go:254] attempting to acquire leader lease omyo-meow-system/a9bae644.test.io...
I0308 13:20:11.757835       1 leaderelection.go:268] successfully acquired lease omyo-meow-system/a9bae644.test.io
2025-03-08T13:20:11Z   DEBUG  events  omyo-meow-controller-manager-6fd85d76df-jzrrl_be888f8f-6e74-47af-ac2f-601937cd2dfb became leader        {"type": "Normal", "object": {"kind":"Lease","namespace":"omyo-meow-system","name":"a9bae644.test.io","uid":"c53e7713-554d-4bce-b7b6-0ca5c67d50c1","apiVersion":"coordination.k8s.io/v1","resourceVersion":"351222"}, "reason": "LeaderElection"}

 

Operator가 리더 선출을 하는데, 쿠버네티스에서 여러 Operator 인스턴스를 실행할 수 있기 때문에 한 개의 파드만 리더 역할을 맡도록 선출하게 된다.

리더 선출이 완료된 후 Reconcile 함수가 실행될 준비를 하게 된다.

2025-03-08T13:20:11Z   INFO     Starting EventSource    {"controller": "omyotracker", "controllerGroup": "omyo.test.io", "controllerKind": "OmyoTracker", "source": "kind source: *v1alpha1.OmyoTracker"}
2025-03-08T13:20:11Z   INFO     Starting Controller     {"controller": "omyotracker", "controllerGroup": "omyo.test.io", "controllerKind": "OmyoTracker"}
2025-03-08T13:20:11Z   INFO     Starting workers        {"controller": "omyotracker", "controllerGroup": "omyo.test.io", "controllerKind": "OmyoTracker", "worker count": 1}
2025-03-08T13:20:12Z   INFO     controller-runtime.metrics      Serving metrics server  {"bindAddress": ":8443", "secure": true}

 

OmyoTracker 리소스를 감지하는 이벤트 소스가 활성화되면서 리소스를 감지하게 되면 Reconcile 함수가 실행된다.

Reconcile 함수를 실행하는 워커 프로세스가 1개 활성화된 것을 확인할 수 있다.

2025-03-08T13:27:11Z   INFO     Host Node:      {"controller": "omyotracker", "controllerGroup": "omyo.test.io", "controllerKind": "OmyoTracker", "OmyoTracker": {"name":"test-tracker"}, "namespace": "", "name": "test-tracker", "reconcileID": "1f0e593e-f32e-47c9-beb2-a5c341457d6a", "host": "node-1"}

 

Reconcile 함수 내부에 리소스 배포 시 로그가 발생하도록 작성하였다.

2025-03-08T13:28:49Z   INFO     Stopping and waiting for non leader election runnables
2025-03-08T13:28:49Z   INFO     Stopping and waiting for leader election runnables
2025-03-08T13:28:49Z   INFO     Shutdown signal received, waiting for all workers to finish     {"controller": "omyotracker", "controllerGroup": "omyo.test.io", "controllerKind": "OmyoTracker"}
2025-03-08T13:28:49Z   INFO     All workers finished    {"controller": "omyotracker", "controllerGroup": "omyo.test.io", "controllerKind": "OmyoTracker"}
2025-03-08T13:28:49Z   INFO     Stopping and waiting for caches
2025-03-08T13:28:49Z   INFO     Stopping and waiting for webhooks
2025-03-08T13:28:49Z   INFO     Stopping and waiting for HTTP servers
2025-03-08T13:28:49Z   INFO     shutting down server    {"name": "health probe", "addr": "[::]:8081"}
2025-03-08T13:28:49Z   INFO     controller-runtime.metrics      Shutting down metrics server with timeout of 1 minute
2025-03-08T13:28:49Z   INFO     Wait completed, proceeding to shutdown the manager

 

make undeploy로 올려둔 오퍼레이터 파드를 내려주었을 때 종료 동작이다.