隨著人工智慧和機器學習在企業中的應用日益普及，MLOps 已成為模型部署與管理的關鍵。然而，MLOps 的每個階段，從資料準備到模型訓練、部署和監控，都可能潛藏安全風險，這些風險不僅會對企業的經濟利益造成威脅，還可能引發重大的安全與政治問題。本演講將通過真實案例深入探討這些風險，並教導聽眾如何使用威脅矩陣 (e.g., MITRE ATLAS) 進行分析與評估。

這些案例將涵蓋因在本地執行的開發環境或測試服務中，由於缺乏適當的安全保護或存取控制而產生的潛在威脅、資料和模型相關設置不當導致的系統漏洞、模型行為異常引發的業務損失與品牌聲譽損害，以及大型語言模型 (LLM) 在配置不完善或遭受攻擊後暴露敏感資訊的情況。透過逐步剖析這些問題的觸發點與風險擴散過程，幫助聽眾全面了解 MLOps 各階段潛在的風險。

最後，我們會介紹幾款當前主流的 AI 安全檢測工具，協助聽眾有效提升 MLOps pipeline 的安全性，從而更好地應對未來挑戰。