日前就發生一起 AI 代理（AI Agent）未經人工確認，即自主刪除公司整個資料庫與備份的事件，引發廣泛討論。即使事前已設定「不得執行破壞性指令」、「不得自行判斷不可逆操作」等規則，AI 代理仍違反限制，造成嚴重後果。

這起事件顯示，相較於一般聊天機器人多半在相對封閉的環境中回應提問，AI 代理的設計目標是完成任務。它可能保留任務相關資訊、串接外部工具，甚至存取檔案、帳號與系統資源。因此，企業導入 AI 代理時，需要關注的不只是回答是否正確，還有它能接觸哪些資源，以及在什麼條件下執行操作。

AI 代理不只是工具，而是新的攻擊面

AI 代理與一般 AI 工具最大的差異，在於它不只接收提示並產生回應，也會推理、規劃、選擇工具並執行任務。當「語言」成為觸發工具調用與系統操作的介面，風險就不再只停留在提示詞（Prompt）本身，也可能出現在 AI 代理理解任務、選擇工具或解讀資料的過程中。換言之，攻擊者能介入的環節，已從單一輸入內容擴大至 AI 代理完成任務的整個流程。

這也是既有防禦體系較難掌握 AI 代理風險的原因。過去企業多半以檔案、程式、網路連線或已知漏洞作為主要防護標的；但在 AI 代理架構中，工具描述與輸出、外部技能、外掛程式與相關生態系，都會影響代理的判斷與行為。OpenClaw 生態系遭濫用的案例，也反映出技能供應鏈與工具都是潛在的安全破口；當外部技能或工具遭植入惡意內容，原本正常的任務流程就可能被導向預期之外的執行結果。

一旦 AI 代理開始執行作業時，影響就會擴及端點上的資料、憑證、設定與權限。因此，企業評估 AI 代理風險時，不能只問「有沒有使用 AI」，更需要掌握這些代理在哪些端點上運作、能接觸哪些資料與權限，以及一旦代理執行非預期操作，是否能追溯與處理。

第一步不是禁用 AI，而是先對 AI 代理做全面盤點

面對 AI 代理帶來的新型風險，企業不需要一開始就以禁止使用來應對，而是可以先從盤點 AI 代理本身與其組成元件著手。訂定 AI 代理風險指標的國際開放資安社群 OWASP，為協助提升 AI 供應鏈的透明度，近期積極推動 AI BOM（AI Bill of Materials）與 AI SBOM（AI Software Bill of Materials）的建立，凸顯出企業掌握 AI 模型元件與相關供應鏈的重要性。在盤點 AI 代理時，企業不只要確認有哪些 AI 代理已部署或使用，也要進一步掌握其背後的模型、工具、外掛程式與相依元件等，才能釐清 AI 代理部署於哪些端點、會調用哪些工具、可能接觸哪些資料，以及是否已出現高風險行為或不當設定。

掌握這些資訊後，就能讓後續的權限調整、工具隔離、人工稽核或治理措施，建立在清楚明確的基礎上。如果企業不了解 AI 代理由哪些元件組成、在環境中的何處運作，也不知道它們已接觸了哪些資源，將難以判斷哪些問題需要優先處理，更可能因此錯失防禦先機。當企業能將 AI 代理轉化為可管理的資產與風險項目，就可在導入 AI 時，同步掌握資料、權限與端點風險。

ThreatSonar Plus：以自動化盤點與檢測因應 AI 新風險

盤點資產後，下一步是決定如何因應已辨識出的風險。ThreatSonar Plus 是全方位端點風險檢測平台，協助企業透過單次檢測，自動化盤點資產、檢視與評估風險。平台檢測範圍涵蓋：

• 資產與 AI 代理盤點：盤點端點設備、作業系統、軟體與應用程式，並納入 AI 代理的部署與使用情況，協助企業確認環境中有哪些資產、哪些端點正在使用 AI 代理，作為後續風險分析與管理的基礎。
• AI 代理風險檢測：檢視 AI 代理可能接觸的資料與操作行為，包含 API 金鑰、憑證與機敏資料是否暴露，是否存在隱藏指令、惡意技能、非預期指令執行，以及權限與存取範圍是否過大。
• 漏洞偵測與風險評估：依據盤點結果將資產資訊對應至 CPE，並比對 CVE 資料庫，協助企業辨識端點中的已知弱點、高風險軟體、作業系統版本或設備風險。
• 安全配置與合規檢查：依據 CIS 基準檢查系統設定，確認端點配置是否符合安全要求；同時支援 SEMI E187 相關檢測，涵蓋作業系統、網路安全、端點防護與安全監控等面向。

自動化盤點與檢測可協助企業快速掌握環境中的風險現況，包括哪些端點正在使用 AI 代理、哪些資料或憑證可能有暴露風險、哪些漏洞與設定問題需要立即處理。當企業能及早辨識這些風險並著手處置，才能有效因應新型端點風險對營運與資安管理造成的影響。

享有 AI 高效率，無需以安全為代價

在企業導入 AI 代理大幅提升工作效率之際，評估端點安全的方式也必須與時俱進。如果只在事件發生後才回頭檢視自身環境，往往已難以判斷問題是來自 AI 代理的自主行為、端點漏洞、權限配置，還是多個因素交互影響。
從資料庫與備份同時受影響的案例可以看出，要讓 AI 代理從「可能失控的龍蝦」成為兼具安全與效益的生產力工具，企業必須要能快速掌握自身環境現況，並及早採取對應措施。在享有 AI 效率與便利的同時，企業無需以安全作為代價；運用端點檢測，讓潛藏危險因子無所遁形，從容應對 AI 新風險。

資料來源：
1. https://www.aol.com/entertainment/dangerous-ai-escapes-deletes-entire-131400323.html
2. https://www.ithome.com.tw/news/173735
3. https://genai.owasp.org/initiatives/ai-sbom-initiative/