728x90 반응형 MLOps8 MLOps note(1) DevOps 철학인 자동화의 계보를 잇는 MLOps. 자동화하지 않으면 고장난 것이다라는 말에 동의하나요? 저는 동의합니다. 한번 만들어 놓은 분류 모델이 영원히 제 성능을 발휘하리라 믿는 사람은 없을 거라 생각합니다. 일반화 성능에서 정확도 100%를 달성할 수 없는 것은 현실세계의 문제는 1차원적이지 않기 때문입니다. 이는 곧 모델이 스스로 뚝딱뚝딱 보완하고 업그레이드를 하면 좋겠다라는 니즈가 발생합니다. 그래서! 현재 기준으로 내가 만들 수 있는 가장 훌륭한 모델을 만들었다면 앞으로 발생할 새로운 케이스들을 입력으로 받아 나이스한 추론 결과를 보여주겠죠. 데이터사이언티스트로 일하다보면 나이스한 추론 결과를 내도록 모델을 정교화하는 것도 물론 중요하지만 더 중요한 것은 역시 비즈니스에 잘 녹아들게 하.. 2023. 10. 12. MLOps의 필요성.. "MLOps가 왜 필요할까?" 단순한 AI모델을 배포하는 것은 쉽지만 이를 계속해서 유지보수 및 고도화해나가는 것은 많은 리소스가 든다. 그 예로는 프로세스간의 종속성, 문서화, API 유지, 리팩토링(소스코드수정) 등이 있다. ML에서는 이러한 문제만 해결하는 것이 힘든 부분들이 있기 때문에 MLOps의 필요성이 부각된다. "좋은 MLOps를 구성한다는 것은 어떤 것을 고려해야하나?" 데이터의 변화가 잦고, 모델 성능 개선을 위한 재학습 그리고 도메인 상의 라벨링에 대한 피드백과 크라우드 소싱에 대한 문제는 쉽게 해결하기 힘들다. 이상적으로 ML프로그래밍을 한다는 것은 변하는 데이터셋에 유연하고, 모델도 재사용가능하기 좋아야 한다. 당연히 문제 정의도 명확히 해야한다. 추가적으로 데이터/모델에 대한 검.. 2022. 6. 15. 딥러닝 모델 컨테이너 띄우기(wt. GPU) GPU를 활용해 학습을 하는 딥러닝 모델(BERT)을 컨테이너를 띄워 컨테이너 내에서 학습을 할 수 있는지 확인하는 것이 목표이다. 환경) Ubuntu 20.04 nvidia driver: 470 docker: 20.10.14 nvidia-docker: 20.10.14 1. 베이스 이미지 불러오기 아무것도 없는 컨테이너에서 pip, python, anaconda, pytorch ... 등등 모든 것을 새로 빌드하는건 많은 리소스를 요구한다. 도커 허브에서 이미지를 pull 하는 방법으로 과정을 대폭 간소화한다. 1. 별이 가장 많은 miniconda3 이미지를 불러온다. docker pull continuumio/miniconda3 편리하게도 위의 이미지에 컨테이너는 python은 물론 pip, git .. 2022. 3. 31. nvidia-docker 설치 및 컨테이너 띄우기 with GPU GPU를 사용하는 딥러닝 모델이 학습하는 환경을 이미지로 빌드하여 컨테이너 내에서 호스트에서 사용하는 GPU가 작동하는지 확인하는 것이 목표이다. 학습환경 OS: Ubuntu 20.04 Nvidia driver: 470 모델 BERT classfication 우분투, 엔비디아 드라이버가 설치되어 있는 상태로 시작했다. 1. docker 설치 -업데이트 및 패키지 설치 $ sudo apt update $ sudo apt-get install -y ca-certificates \ curl \ software-properties-common \ apt-transport-https \ gnupg \ lsb-release - GPG키와 저장소 추가 $ curl -fsSL https://download.docker.. 2022. 3. 31. GPU 사용 환경 세팅 **운영체제 우분투 20.04** 1. nvidia-smi 설치 2. cuda-toolkit 설치 3. cuDNN 설치 1. nvidia-smi 설치 1.1 현재 사용중인 그래픽카드 확인 그래픽카드 제원을 엿볼 수 있다. lshw -numeric -C display 1.2 사용가능한 nvidia-driver 확인 ubuntu-drivers devices 1.3 권장 드라이버 설치 recommended된 버전 "470" 을 두번째 줄의 명령어로 설치한다. #sudo ubuntu-drivers autoinstall #권장 드라이버로 자동 설치 sudo apt install -y nvidia-driver-470 #450버전의 driver 설치 1.4 재부팅(필수) 1.5 설치 확인 nvidia-smi 2. c.. 2022. 3. 26. MLOps를 위한 잡동사니 OS: Ubuntu:20.04 Linux * nohup 사용: 아래의 명령어를 실행하여 nohup을 사용할 수 있다. $ dpkg -S /usr/bin/nohup 사용예) jupyter lab을 실행하면 터미널이 실행중인 상태로 되는데, 만약 이 터미널을 종료하면 jupyter lab의 로컬연결이 끊기게 된다. 터미널로을 종료하더라도 실행시킨 jupyter lab이 계속 실행되게 하기 위해 nohup을 사용한다. 1. $vi jupyterlab.sh 이라는 실행 쉘스크립트를 생성한다. 스크립트 내용은 jupyter lab 만 작성 후 저장한다. 2. $chmod -x jupyterlab.sh 로 실행 권한을 부여한다. 3. $./jupyterlab.sh 로 프로세스사 실행되는지 확인한다. 4. 실행이 잘.. 2022. 3. 26. 이전 1 2 다음 728x90 반응형
