DevOpsDays Taipei 2022

Jenkins實踐MLOps-以AI教育平台PAIA為案例

有幸受邀DevOpsDay今年舉辦的研討會，講述如何實踐PAIA 機器學習雲端部署的過程。

投影片內容可參閱此處。

整個MLOps雲端架構所使用的相關套件並不複雜，包含以下:

1. Jenkins (pipeline script)
2. PAIA Desktop(including MLGame + Python interpreter)
3. PAIA Webservice API
4. Kubernetes (CPU or GPU node on Cloud)
5. Cloud Storage(S3 or Azure Storage)
6. 最後就是大量的shell script

(ML training data的shell script process可參閱此篇文章)

困難的其實是對於現有系統的架構規劃與整合。不需要所有東西都重新create完全獨立的process或系統，應該在我們現有的系統與資源下發揮到最大效益。

包括透過VPN的設定，在Jenkins串連所有地端機器協助build code，與部署要執行運算的code與image環境在K8S雲端環境上。

而Jenkins因為plugins眾多，加上pipeline script 複雜不易管理，增加了使用Jenkins來達成MLOps的難度。但其實MLOps應該專注在DevOps，而非ML。

如果要把ML的trained model做fine tune與驗證的話，這會是另外的議題，且不應該歸類為MLOps，而是ML使用哪種algorithm來強化，CNN、RNN、Reinforcement Learning等的研究。

因此在整個演說中，我不斷強調MLOps不是什麼高高在上的東西，而是要接地氣因時制宜，將DevOps的精神發揮到極致，就是依照我們現有的Dev Apps整個Ops(Up operation)起來，

搭配機器輕鬆部署PAIA-Desktop在雲端環境上進行自動訓練。

因為前幾天較忙碌加上最後一天下午才到，所以只聽了其他人三個場次。其中玉山銀行介紹的airflow印象比較深刻，因為有細講到他們mlaas1.0到2.0的產品演進。是以產品面的角度去設計架構，真的在講airflow怎麼做ML的devops，其他場次則偏向講工具或推銷公司為目的，沒有新的東西。

如果是書上或網路上都可以看到搜尋到的文章內容，其實沒什麼好介紹的。而是針對每間公司每個產品的不同，採用不同的工具與方法(不是因為新技術所以使用，也不是因為別人用所以跟著用)，如何巧妙的搭配適應公司與原系統的環境，令人拍案叫絕的地方，那才是值得分享的議題。因為這種經驗是獨一無二的。

另外稍微抱怨一下DevOpsDays的餐點與活動的小點心可以改進XD。最後是工商服務:)