自從 ChatGPT 出現以來，生成式 AI 就引起了大家的注意。生成式人工智慧技術的突然出現讓資料保護監管機構感到驚訝。隨著越來越多的國家調查 OpenAI 等人工智慧公司，技術進步與隱私法之間的衝突似乎不可避免。從 OWASP 排名前 10 名的 LLM 申請、OpenAI 的 bug 賞金以及流行的 prompt injection 來看，該領域存在值得關注的安全問題。我們將分享先前發現的 3 個流行 LLM 中的隱私風險與面零的問題。正如許多政府單位與先進所重視，隱私問題也將成為 AI 時代的關鍵問題。我們將由技術的角度切入，從現有服務的prompt injection 攻擊面到我們當時使用此些技術進行對於主流大型 LLM 如 ChatGPT , Google Bard, Microsoft Bing 上發現的隱私議題，延伸至規範上的 privacy by design 設計與最新的法規規範。