본문 바로가기
728x90

AWS27

Ray Cluster 설치 Ray Cluster는 다양한 환경에 설치 가능하다, Kubernetes상에서 Ray Cluster를 설치하기 위해서는KubeRay Operatoer를 사용하는 것을 권장한다. KubeRay Kubernetes 사용자 정의 리소스 정의(CRDs) : RayCLuster , RayJob , RayServiceRayCluster :클러스터 생성/삭제, 자동 크기 조정내결함성 보장RayCluster의 수명주기를 완벽 관리RayJob :KubeRay는 자동으로 RayCluster를 생성, 클러스터가 준비작업이 완료시  RayCluster를 자동으로 삭제하도록 RayJob을 구성할 수 있음RayService :RayCluster 및 Ray Serve 배포 그래프라는 두 부분으로 구성RayCluster 및 고가용성.. 2024. 6. 23.
Ray Cluster 개요 Ray Cluster기계 학습, AI, 파이선 애플리케이션 확장을 위한 오픈 소스 통합 프레임 워크분산  담당자가 없이도 병렬처리를 위함데이터 전처리, 분산 훈련, 초매개변수 조정, 강화 학습, 모델Python 애플리케이션 병렬화 및 확장을 위한 Python 기반 분산 컴퓨팅환경 : Kubernetes, AWS, GCP, Azure 등에서도 사용 가능 Ray Cluster 시스템오케스테레이션 : 분삭 시스템의 다양한 구성 요소 관리예약 : 작업이 실행되는 시기와 장소 조정내결합성 : 불가피한 실패 시점에 관계 없이 작업이 완료되도록 보장자동 크기 조정  : 동작 수요에 할당된 리소스 수를 조정Ray Cluster 활용CPU, GPU에 대한 일괄 추론모델 제공대형 모델의 분산 학습병렬 하이퍼 파리미터 튜닝.. 2024. 6. 23.
Mongodb Cluster 구성 MongoDB Cluster 구성 mongoDB Repo 등록sudo vi /etc/yum.repos.d/mongodb-org-4.4.repo[mongodb-org-4.4]name=MongoDB Repositorybaseurl=https://repo.mongodb.org/yum/redhat/$releasever/mongodb-org/4.4/x86_64/gpgcheck=1enabled=1gpgkey=https://www.mongodb.org/static/pgp/server-4.4.asc mongoDB 설치sudo yum install -y mongodb-org mongoDB 설정외부 접속 허용 IP클러스터 이름sudo vi /etc/mongod.confnet: port: 27017 bindIp: 0.0.. 2024. 5. 27.
[AWS][ASG] 시작 템플릿 오토스케링 구성 안녕하세요 AWS 사용하게 되면 AutoScaling을 구성해서 트래픽이 많아지면 자동으로 감소 증가가 될 수 있도록 구성을 할 수 있습니다. 해당 방법은 사용자가 생성한 시작 템플릿을 통해서 적용이 가능합니다. 시작 템플릿 생성하기 시작 템플릿 이름, 템플릿 버전 설명, AutoScaling 지침,태그 시작 템플릿 콘텐츠 내 AMI 선택 인스턴스 유형 키페어 네트워크 스토리지 Auto Scaling 구성하기 Autoscaling 그룹 이름 , 시작 템플릿(기존 생성된 템플릿) 네트워크 설정 VPC, Subnet ASG -> ALB 연동 기존 ALB 선택(새 로드밸런서에 연결 선택해서 생성해도 무방) AutoScaling 인스턴스 크기 조절 최소 용량, 최대 용량 선택 감사합니다. 2022. 11. 2.
[AWS Cloudwatch]AWS Cloudwatch Memory 수집 EC2 인스턴스를 운영하다보면, 서비스 지연 및 서버 리소스에 대해서 이슈가 발생할 경우 Cloudwatch를 통해서 확인하는 경우가 존재하는데,,, 기본적으로 Cloudwatch에 대해서는 메모리 분석 불가능 (해결 방법은 아주 간단합니다. Cloudwatch Agent를 통해 수집 가능) CloudWatch Agent 설치 가이드 Cloudwatch IAM Role 생성 CloudWatch Agent 설치 CloudWatch Agent 메모리 사용량 확인 1. Cloudwatch IAM Role 생성 AWS 서비스 -> EC2 선택 "cloudwatchAgentServicePolicy" 검색 후 선택 Role 정책 이름 지정하기 Role 생성 상태 확인 EC2 인스턴스내에 Role 추가 하기 2. C.. 2022. 6. 28.
[AWS CloudWatch] AWS EC2 CloudWatch Log EC2 인스턴스를 운영하다보면, 로그를 통해서 이력 확인을 해야하는데, 서버 접속해서 확인하는데 AWS CloudWatch를 통해서 확인하면 쉽게 확인이 가능합니다. 사전 준비 - EC2 인스턴스 설치 사전 준비(https://monta010.tistory.com/45) CloudWatch Agent 설치 가이드 Cloudwatch 정책(Policy) 생성 Cloudwatch 역할(Role) 생성 패키지 설치(update, awslogs) EC2 인스턴스 IAM 권한 등록 로그 내보내기 대상 설정 서비스 설정 Cloudwatch Log 상태 확인 1. CloudWatch 정책(Policy) 생성 { "Version": "2012-10-17", "Statement": [ { "Effect": "Allow".. 2022. 6. 28.
[AWS EC2]AWS EC2 Container PortForwarding 접속 AWS EC2내 Container 포트포워딩 후 포트포워딩 포트를 통해 외부 접속 허용 (ECS EC2 구성은 아닙니다) 상세 스펙 OS : Amazon Linux Docker Version : 20.10.13 Docker Container : Nginx Container PortForwarding : 80 -> 8888 구성도 외부 사용자가 -> ALB DNS:8888 -> AWS EC2내 Container Nginx 접속 1. Docker 컨테이너 배포하기 - AWS EC2내에 Docker 설치는 "https://dog-developers.tistory.com/235" 님 내용 참고 부탁드립니다. docker run --name nginx-alb -p 8888:80 -d -v /docker-nginx.. 2022. 6. 22.
[AWS]AWS EC2 Public IP 추가 하기 AWS 상에서 EC2 인스턴스 구축시에 Public IP를 활성화하지 못할 경우 추가하는 방법 공유하고자 합니다 Public IP가 존재하지 않는 EC2 인스턴스 네트워크 인터페이스 생성 네트워크 인터페이스 연결 새로운 네트워크 인터페이스 연결하기 위해서는 해당 EC2는 중지가 필수 및 가용 영역 동일 기존 네트워크 인터페이스로 연결할 경우에는 중지는 필요 없음 네트워크 인터페이스 연결 상태 확인 탄력적 IP 생성하기 네트워크 인터페이스에 Public 할당하기 EC2 Public IP할당 확인하기 Public IP로 EC2 접속 2022. 6. 22.
[AWS EC2]AWS EC2 EBS Volume 증설하기 서버를 사용하시다가 용량이 부족할 경우 증설을 해야하는데. 온프레미스 서버는 서버를 종료 후 추가 하거나 해야하는 부분(RAID 구성시에는 더 복잡.....)서버를 사용하시다가 용량이 부족할 경우 증설을 해야하는데. 온프레미스 서버는 종료 후 용량을 추가를 해야하는데.... RAID 구성이 되어있다... 그러면 더 복잡해지는 상황이 발생하죠... 그러나 클라우드는 이부분에 대해서 아주 손쉽게?(익숙해지는 분들한테 이지만요) 용량 증설이 가능하죠 1. 기존 EC2 인스턴스 Console 확인 2. EC2 인스턴스 볼륨 선택( + 볼륨 생성) 3. 볼륨 수정하기(8GiB → 20GiB) 4. 볼륨 수정 완료(별도 적용 필요) 5. 현 용량 및 적용 전 df -h ## 전체 마운트 상태 확인 6. 실제 용량 .. 2022. 3. 11.
[AWS Migration]AWS EC2 마이그레이션(OVA) AWS EC2 마이그레이션 내부 온프레미스 환경(Vmware WorkStation) → EC2 마이그레이션 하기 환경 : Vmware WorkStation 형식 : OVA 참조 문서 : https://docs.aws.amazon.com/ko_kr/vm-import/latest/userguide/vmimport-image-import.html JSON 유효성 체크 : https://jsonformatter.curiousconcept.com/# 1. VM Import 기존 VM -> OVA 형식 추출 1.1 Vmware Workstaion OVA 추출 - File -> Export to OVF ovf → ova 확장자 변경 2. AWS CLI 설치 설치 참조 문서 : https://aws.amazon.com.. 2022. 3. 2.
728x90

티스토리툴바