Skip to main content

One post tagged with "Apple Container"

View All Tags

[MLOps] 서울 자전거 모델 추적·서빙·모니터링 - MLflow·BentoML·Prometheus

· 37 min read
Jinwoong Kim
Technologist and Cloud Consultant

시리즈 순서: 1~2장 이론 → 3장 쿠버네티스 토대 → 4~5장 Feast·MLflow·KFP → 6장 BentoML·Evidently → 7장 KFP 데이터 준비 → 모델 검증 → 7~9장 KFP 훈련·검증 → 이 글

해당 포스팅은 현재 재직 중인 회사와 관련이 없고, 개인 역량 개발을 위한 스터디 자료로 활용할 예정입니다.

읽은 범위: Machine Learning Platform Engineering 9~11장. 책의 인쇄 페이지 기준으로 PVC 데이터 관리는 p. 263, TensorBoard는 p. 272, 모델 레지스트리는 p. 290, 서빙은 p. 299, 모니터링은 p. 325부터 이어진다. 9.1절의 PVC는 앞선 실습에서 다뤘으므로, 이번에는 서울 공공자전거 회귀 모델의 실험 추적·패키징·모니터링에 집중했다.

모델 계약 검증 글에서는 같은 모델이 여러 추론 경로에서 같은 값을 내는지 확인했다. 이어 7~9장 실습에서는 KFP 파이프라인으로 데이터 준비, 훈련·검증, PVC 재사용, MLflow 기록을 한 번에 실행했다.

서비스의 예측이 이상해지면 배포한 모델 버전부터 확인해야 한다. 그 버전을 고른 검증 결과와 훈련 데이터까지 거슬러 찾아갈 수 있어야 원인을 좁힐 수 있다. 반대로 새 모델을 배포할 때는 선택 근거를 남기고, 그 모델이 실제 API에서도 같은 예측을 내는지 확인해야 한다.

이번 글은 데이터·실험 기록 → 검증된 모델 버전 → 배포 패키지 → 운영 관찰과 대응의 순서로 9~11장을 따라간다. 서울 자전거 모델의 원본 해시와 실험 Run에서 시작해 승격한 모델 버전과 Bento 태그를 고정하고, API의 지표·로그·알림과 입력 변화까지 살펴본다.