LLM（大型語言模型）開始被廣泛應用於各種不同的場景和平台，這一現象顯示了其在當今科技中的重要性。然而，作為這些多樣化應用的核心，LLM 本身卻顯得相對脆弱。除了我們早已熟知的提示注入（prompt injection）和越獄（jailbreak）這兩種攻擊手法外，這一年來，針對 LLM 的攻防技術不斷推陳出新，攻擊者可能會設計出各種創新的方法來突破模型的防禦。即使是原本的提示注入和越獄攻擊，也不斷出現新的變形和演變。這些發展顯示了在使用 LLM 的過程中，我們必須保持高度的警覺。因此，本次演講的目的是傳達有關 LLM 的最新攻防知識，幫助參與者更好地了解如何保護這些系統，並運用適當的安全策略來應對潛在的威脅。我們也將稍微探討如何進行 AI 模型、系統和產品的測試。這不僅僅是一個技術性的話題，而是涉及到如何在不斷變化的數位環境中，確保 LLM 的安全性與可靠性。希望透過這次演講，各位能夠深入理解這些挑戰，並在未來的工作中更加從容地應對各種可能出現的安全問題。