Pod 쿠버네티스는 스케줄링, 로드밸런싱, 스케일링 등의 관리 작업을 수행하는데, 이 작업의 단위가 Pod이다. 하나의 Pod는 한 개의 컨테이너 혹은 여러 개의 컨테이너로 구성되어 있다. Pod는 특정 상태를 저장하고 있지 않으며, 언제든 삭제가 가능한 자원이다. apiVersion: v1 # kubernetes resource 의 API Version kind: Pod # kubernetes resource name metadata: # 메타데이터 : name, namespace, labels, annotations 등을 포함 name: counter spec: # 메인 파트 : resource 의 desired state 를 명시 containers: - name: count # container ..
도커와 쿠버네티스를 처음 사용해본다. 근데 몇 백 달러의 비용을 지불하거나(원래 클라우드 서비스가 블랙홀 같아서..) 직접 하드웨어를 구입해서 설치하는 것은 무리이다. 이에 쿠버네티스 서비스를 조그맣게(?) 내 노트북에 설치해서 이용해 볼 수 있도록 한 오픈소스 서비스들이 있다. 그 중 minikube를 통해서 기본적인 리소스 생성 등에 대해서 알아 볼 것이다. 그 전에 먼저 쿠버네티스의 몇 가지 특징에 대해서 알아보자. 선언형 인터페이스 쿠버네티스는 선언형 인터페이스를 선호한다. 말이 교과서적이라 맘에 안들지만, 쉽게 얘기하면 결과론적으로 'A와 같은 상태로 만들어줘'라고 선언하는 것을 kubenetes-native하다고 한다. 'A같은 상태가 되기 위해서 중간에 과정은 B, C를 거치고, D라는 예외..
Build once, Run anywhere. 도커 이미지는 패키지나 라이브러리 보다 더 상위(?)의 개념이다. 어떤 어플리케이션을 개발하는 데 필요한 환경(버전, 라이브러리 등)을 통째로 패키징한 데이터다. 따라서 받으면 누구나 어디서나 같은 결과가 나오는 것을 지향한다. 내가 만든 머신러닝 어플리케이션 코드를 도커 이미지로 만들고, 남들과 공유하는 방법에 대해서 알아보자. Dockerfile Dockerfile 기본 명령어는 아래와 같다. 명령어 기능 FROM base image로 어떤 이미지를 사용할 것인지를 명시 COPY 파일 혹은 디렉토리를 복사하는 명령어 RUN 도커 컨테이너에서 명령을 실행시키는 명령어 CMD 컨테이너가 시작될 때 실행하도록 하는 명령어, RUN과 다르게 하나의 도커 이미지에..
Docker 설치 가장 먼저 패키지 매니저인 apt-get을 업데이트한다. $ sudo apt-get update 도커 설치를 위한 prerequisites를 설치하려고 하는데, 역시나 에러가 떴다. 구글링해보니 lock이 걸려있는 경로를 지워줘야 한다고 한다. $ sudo rm /var/lib/apt/lists/lock $ sudo rm /var/cache/apt/archives/lock $ sudo rm /var/lib/dpkg/lock* 이후에 재부팅 하니 아래의 prerequisites 설치가 가능해졌다. $ sudo apt-get install \ apt-transport-https \ ca-certificates \ curl \ gnupg \ lsb-release 다음은 GPG key를 설치한..
Why Kubernetes? 본격적으로 Docker와 Kubernetes를 배우기에 앞서, Container와 Orchestration에 대해서 알아보자. 어떠한 서비스를 배포하는데, 모든 서비스가 특징이 다르다. A서비스는 많은 저장 용량이 필요하고, B서비스는 GPU가 필요하다. 이 도커를 담는(?) 컨테이너들의 capa를 관리하는 것이 오케스트레이션인데, 이 오케스트레이션 툴중 가장 많이 사용되는 것이 바로 Kubernetes이다. 오케스트레이션이 없다면, 엔지니어가 각자의 모델 학습을 하려면 엔지니어끼리 스케줄을 공유하여 선점해야하고, GPU 자원을 실시간으로 모니터링하고 공유해야 한다. 이를 정해진 룰에 따라서 관리해주는 것이 컨테이너 오케스트레이션이다. Docker 실습 환경 내 코드가 doc..
- Total
- Today
- Yesterday
- 머신러닝파이프라인
- torch
- 쿠버네티스
- Oreilly
- 전처리
- docker
- dl
- 파이프라인
- container
- 도커
- 머신러닝
- deeplearning
- nlp
- Tennis
- productmanager
- 딥러닝
- MLOps
- DDUX
- 인공지능
- pmpo
- mlpipeline
- ML
- 스타트업
- Bert
- PM
- PO
- 자연어처리
- Kubernetes
- productresearch
- productowner
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |