Ray Cluster 설치

 

• Ray Cluster는 다양한 환경에 설치 가능하다, Kubernetes상에서 Ray Cluster를 설치하기 위해서는
  KubeRay Operatoer를 사용하는 것을 권장한다.

 

• KubeRay 
  
  • Kubernetes 사용자 정의 리소스 정의(CRDs) : RayCLuster , RayJob , RayService
    • RayCluster :
      • 클러스터 생성/삭제, 자동 크기 조정
      • 내결함성 보장
      • RayCluster의 수명주기를 완벽 관리
    • RayJob :
      • KubeRay는 자동으로 RayCluster를 생성, 클러스터가 준비
      • 작업이 완료시  RayCluster를 자동으로 삭제하도록 RayJob을 구성할 수 있음
    • RayService :
      • RayCluster 및 Ray Serve 배포 그래프라는 두 부분으로 구성
      • RayCluster 및 고가용성을 위해 가동 중지 시간 없는 업그레이드를 제공합니다.
        
        

• Kubernets Ray Clusrter 구성도

 

 

 

 

• 조건
  • Kubernetes Cluster 환경
    • 최소 : CPU 4개 , Memory : GB

 

 

• 1. Kubernetes Cluster
  • 설치 방법
    • k3s
    • Kubeadm
    • kubespary
    • ansible
    • kind

 

 

• 2. KubeRay 배포
  
  • Helm 설치

helm repo add kuberay https://ray-project.github.io/kuberay-helm/
helm repo update

helm install kuberay-operator kuberay/kuberay-operator --version 1.1.1

 

kubectl get pods

 

 

 

• Ray Cluster CRD배포
  • 설치

helm install raycluster kuberay/ray-cluster --version 1.1.1

 

• Ray Cluster 상태 확인

kubectl get rayclusters

 

• 전체 Ray Cluster 상태 확인

kubectl get pods --selector=ray.io/cluster=raycluster-kuberay

 

 

 

• Head Pod Ray Cluster 실행

export HEAD_POD=$(kubectl get pods --selector=ray.io/node-type=head -o custom-columns=POD:metadata.name --no-headers)
echo $HEAD_POD
kubectl exec -it $HEAD_POD -- python -c "import ray; ray.init(); print(ray.cluster_resources())"

 

• Service 노출
  • ClusterIP -> NodePort

kubectl edit svc raycluster-kuberay-head-sv

• 접속 방법
  • http://Master-IP or Node-IP:8265 NodePort

 

 

 

 

 

• 삭제 방법

helm uninstall raycluster

kubectl get pods

helm uninstall kuberay-operator

kubectl get pods

kind delete cluster