為什麼必須持續更新 Java？首先必須了解的是，防火牆對於保護網路的作用其實相當有限。防火牆採取的是被動（Reactive）的防護模式，只能限制封包是否能夠傳送至內部主機。它確實可以用來封鎖特定連接埠（Port）、丟棄格式異常的封包、拒絕過小或過大的封包等。然而，真正的風險是來自那些被允許通過的封包。更大的問題在於，自從人們開始開發軟體以來，就一直有人試圖以開發者未預期的方式利用這些軟體，而且往往是出於惡意目的，例如竊取信用卡資料或使用者身分。為了達成目的，駭客會採用各種不同的攻擊手法，從誘騙使用者洩露機密資訊的網路釣魚，到利用緩衝區溢位等技術對軟體進行複雜攻擊，而如今這些攻擊更逐漸結合 AI 工具，大幅提升攻擊的效率與規模。
AI 應用程式安全（AI Application Security）旨在保護AI驅動的應用程式，包括由大型語言模型（Large Language Models, LLMs）驅動的系統，避免遭受提示詞注入（Prompt Injection）、資料投毒（Data Poisoning）及模型竊取（Model Theft）等新型威脅。AI 應用程式安全透過保護程式碼、資料、演算法及 API 等完整 AI 生命週期中的各個環節，並結合專門的工具與流程，提供傳統應用程式安全措施無法涵蓋的防護能力。此外，AI 應用程式安全也涵蓋模型行為、訓練資料及輸出內容的安全管理。
兩年前，你的團隊交付的是軟體。如今，他們交付的是兩種類型的產品，一種是大部分由 AI 生成的軟體，另一種則是團隊自己打造的 AI 系統：包括模型（Model）、Agents、以及具備推理與執行能力的功能模組。多數資安計畫仍只聚焦於前者，卻幾乎忽略了後者。
這個落差並非源於工具不足，而是分類方式本身出了問題。而整個產業目前對 AI Security（AI 安全）的分類方式，正在讓這個問題變得更加嚴重。