MLOps - Orientation

MLOps Day 1

Orientation : 개론

MLOps 전반적 개념

• 확실히 정해지지는 않았으나, AI / SW / Cloud 가 합쳐진 것
• 단순히 좋은 모델을 쓰는 것이 포인트가 아님
• 결국 ‘Data-Oriented’ AI 모델의 DevOps 환경을 구축
• ML 모델이 성공적으로 서비스되기 위해서는
  • 성능이 떨어지지는 않는지
  • 시스템 문제는 없는지
  • 데이터 분포 변화는 모니터링 되는지
  • 이상 데이터 필터링은 되는지
  • 모델 롤백은 되는지
  • Auto scale-out은 제대로 되는지

단방향 모델 학습은 이상적인 환경에서만 가능

• 단방향으로 안되니, DevOps 개념을 채용하자
• 테스트 자동화 / 빌드 자동화
• 단순한 코드 구현 외 필요한 다른 것들의 정의가 필요함 (e.g. Infra)
• 많은 회사들이 ML 서비스를 하려 했으나 실패
  • 왜? 모델 개발 외 업무들의 필요성 / 자동화를 간과함
• 즉, MLOps란 ML을 효율적으로 개발하고 / 성공적으로 서비스화하고 / 운영하는 데 필요한 모든 것을 다루는 분야

MLOps의 구성요소

• Data
• Model
• Serving