這場演講中將揭示生成式 AI（如 ChatGPT）在對抗進階持續威脅（APT）中的關鍵作用。APT 是針對性強、持續時間長的網路攻擊，涉及潛伏、資料竊取等多重威脅。我們將深入探討 AI 在偵測、分析、回應和預測這些攻擊中的應用。從自動分類偵測事件，到識別網絡異常， AI 幫助揭露攻擊者策略，並提出有效的防禦措施。此演講將展現 AI 如何提高資安效能，並與資安專家的見解結合，共同提升防禦策略。

本議程將從多個面向 ( e.g., 無害性和本土化 ) 評估不同模型於台灣資安領域應用的能力，分析 TAIDE、Taiwan LLM 和奧義智慧研發的 LLM-CyCraftGPT 等不同模型的表現，了解它們在應對各種問題時的適用性 ，幫助聽眾在未來能更快速選擇適合的模型。

在此演講中，講者將闡明如何通過對抗性攻擊來誤導大語言模型（LLM）。講者將涵蓋常見的 LLM 應用案例，重點說明技術所產生的新興威脅，深入探討 LLM 對抗性攻擊後，通過實際案例來說明可能之負面影響。演講將介紹 LLM 安全與合規測試的概念，強調此類測試在評估和增強 LLM 安全性以提高可信任 AI 方面的關鍵作用。最終，此演講旨在提高觀眾對於 LLM 技術風險的理解，並鼓勵採取積極策略以防範此類對抗性威脅。

自從 ChatGPT 出現以來，生成式 AI 就引起了大家的注意。生成式人工智慧技術的突然出現讓資料保護監管機構感到驚訝。隨著越來越多的國家調查 OpenAI 等人工智慧公司，技術進步與隱私法之間的衝突似乎不可避免。從 OWASP 排名前 10 名的 LLM 申請、OpenAI 的 bug 賞金以及流行的 prompt injection 來看，該領域存在值得關注的安全問題。我們將分享先前發現的 3 個流行 LLM 中的隱私風險與面零的問題。正如許多政府單位與先進所重視，隱私問題也將成為 AI 時代的關鍵問題。我們將由技術的角度切入，從現有服務的prompt injection 攻擊面到我們當時使用此些技術進行對於主流大型 LLM 如 ChatGPT , Google Bard, Microsoft Bing 上發現的隱私議題，延伸至規範上的 privacy by design 設計與最新的法規規範。 

Generative AI 已經迅速滲透到各行各業，開始在我們生活各面向的應用上蓬勃發展。而新 AI 科技對於資安從業人員來說十分陌生，但由於人力吃緊，我們急需要各種 AI 自動化科技來解決從日常情資整理、告警分析、鑑識報告，到回覆客戶的資安各種問題。

奧義智慧團隊有扎實的 AI 研究團隊，透過自己 fine-tuned LLM  賦予的資安資料分析能力，再加上新的 Corrective RAG 機器人技術，將 AI 技術導入資安流程中，在這三個面相：News 資安情資機器人、RedTeam 攻擊模擬機器人、BlueTeam 事件應變機器人，透過實際案例展示，跟大家分享實作經驗心得。

對於世界上很多複雜的大型組織而言，Splunk 在安全運營領域佔據核心地位。 我們説明 CISO 及其團隊在事件不可避免地發生時快速規避新興威脅並做出回應，並成功地發揮業務推動者的作用。但我們還想知道，全球安全領導者到底如何看待 AI？

在 CISO 報告中，我們將分享最初的研究結果，並就領導者如何與網路安全形勢同步發展提供見解

摘要 :

1. 說明使用生成式 AI 需要注意的相關風險 ( 隱私、資料保護、雲端環境、Prompt Hacking )

2. 說明 OWASP Top 10 for LLM Applications

3. 說明 AI 在資安相關的應用情境 ( SOC、Malware 分析、Code Review )