隨著人工智慧技術快速發展，AI 系統已逐漸從單純回應指令的語言模型，邁向能夠自主規劃、使用工具並執行任務的 Agentic AI。AI 應用能力不斷提升，也帶來新的安全挑戰，包括自主式 AI 的身分識別與權限管理、模型與資料在雲端及加速運算環境中的安全保護，以及大型語言模型（LLM）可能產生的幻覺與不可預測行為。如何因應這些新興安全挑戰，已成為 AI 技術發展中值得關注的重要議題。

本次論壇以 AI 安全的前沿技術與研究為主軸，邀集產學界專家，從自主式 AI 的執行環境安全、可信運算、模型安全及 AI Safety 評測等面向，探討當前 AI 安全面臨的挑戰與研究發展。議題涵蓋 Agent 的身分識別、授權機制與執行期控管，以及 AI 與加速運算環境中的可信任運算；同時也將從 LLM 幻覺的角度探討 AI 時代的安全議題，並分享自主 AI 智能體在能力、行為傾向與控制方面的研究及評測方法。

除了技術與研究議題，本次論壇也將關注 AI Safety 的發展與參與。活動將透過無任所大使唐鳳的開場影片，探討臺灣在 AI Safety 領域可以扮演的角色，並由 NTU AI Safety 分享投入此領域的相關資源與途徑，讓更多人認識 AI Safety 的發展方向。

誠摯邀請關注人工智慧、資訊安全及 AI Safety 發展的產學研各界人士參與，由國立臺灣大學智慧聯網創新研究中心（NTU IoX Center）、臺灣人工智慧卓越中心（Taiwan AICoE）、臺灣資安科技研究中心（TACC）及 NTU AI Safety 共同舉辦的「2026 前瞻 AI 安全論壇：尖端科技與研究」，一同掌握 AI 安全的最新技術發展與研究趨勢。

活動資訊