Human-in-the-Loop 是什麼？如何實踐 Agentic AI 人機協作
當 AI 從回答問題走向執行任務，企業需要設計清楚的決策邊界：哪些可以自動完成，哪些必須等人確認？
先掌握重點
Human-in-the-Loop（HITL，人機協作）是把人工審核、判斷或回饋，納入 AI 運作流程的設計方式。在 Agentic AI 應用中，企業可讓 AI 先整理資訊與準備操作，再由具權限的人員確認關鍵決策。叡揚 C.ai 已公開提供人工放行機制；導入時仍須依任務風險，規劃審核責任與例外處理方式。
什麼是 Human-in-the-Loop（HITL）？
HITL 的核心，是讓人在適當的時點參與 AI 流程。參與方式可以是核准一項操作、修正回答、處理例外，或在上線後評估結果。對企業而言，重點是把「誰能決定、何時介入、依據什麼判斷」寫進流程。
例如，AI 可以彙整客戶需求、查詢可用資料並起草報價信；當流程準備對外寄送、承諾價格或調動庫存時，再交由負責人確認。企業因此能把資料整理交給 AI，同時保留對重要行動的審核權。
NIST《AI 風險管理框架 1.0》附錄 C 指出，人與 AI 的角色、決策及監督責任需要明確區分；人機配置可以從高度自動化到人工主導，應依實際情境設計。
HITL、Guardrails 與權限控管有什麼差別？
| 機制 | 主要回答的問題 | 流程設計範例 |
|---|---|---|
| HITL 人機協作 | 這一步是否需要人判斷？ | 對外寄送報價前，由業務確認內容。 |
| Guardrails 安全護欄 | 什麼內容或行為應受限制？ | 針對敏感資料與不當請求設定檢查規則。 |
| 權限控管 | 這個身分能讀取或執行什麼？ | 限制可查詢的客戶資料與可操作的倉別。 |
三者分別處理人工判斷、行為邊界與存取範圍。即使有人按下核准，後端系統仍應檢查執行者的權限與資料範圍。
為什麼 Agentic AI 更需要人機協作？
生成式 AI 的錯誤可能停留在一段文字；具備工具呼叫能力的 AI Agent，則可能把錯誤帶進訂單、庫存或對外服務。當任務涉及真實系統與營運資源，企業就需要把控制點放在行動發生之前。
- 處理不完整資訊：來源過期、資料互相衝突或使用者需求含糊時，先補問或送審，減少錯誤延續到下一步。
- 保留專業判斷：價格例外、客訴補償與特殊申請等事項，通常需要結合企業政策及現場脈絡。
- 讓責任有依據：記錄待審內容、核准者與執行結果，有助於事後檢視流程、釐清問題並改善。
人工審核本身也可能出錯。審核畫面應呈現原始來源、擬執行動作、影響範圍及異常提示，讓審核者有足夠資訊提出質疑，而不只是快速點選核准。
叡揚資訊 C.ai 如何支援 HITL 人機協作？
叡揚資訊將 C.ai 3.0 定位為企業級 Agentic Portal，整合 Skills／Tools、Agentic RAG 與系統串接，並將 HITL、護欄及身分權限納入治理架構。其發布資訊也說明支援 MCP 與傳統 API，可作為串聯既有系統的基礎。
關鍵操作前，先取得人工放行
C.ai 對關鍵或具風險的操作，可設定執行前人工確認；流程暫停並通知人員，通過審核後才繼續。例如製作報價單時查詢庫存的調貨出現「拒絕」與「允許放行」的操作，將人工的決策確認加入。
讓審核、護欄與維運一起規劃
另有企業自建及第三方護欄、管理日誌、工具調用趨勢與用量管理。企業在評估導入時，可依據真實的工作流程演示人工放行、執行結果與管理紀錄，確認能否配合企業現行作業。
從實際任務看人機分工
以客戶詢價為例：C.ai 3.0 可協助查詢庫存、評估調貨與交貨、確認報價並撰寫信件，再由員工確認；展示畫面亦呈現執行前詢問。這類任務適合用來檢視 AI 準備工作與人工確認之間的銜接。
HITL 可以用在哪些企業情境？
以下依人工審核、例外接手與回饋改善三個方向，提供可用於需求討論的流程範例。實際串接系統、通知管道與觸發條件，需配合企業環境確認。
情境一：請購與預算申請，先備妥資料再送審
讓 AI 協助彙整需求、查找內規及準備申請草稿；涉及金額、預算科目或例外條件時，由承辦人與主管確認。核准後，才依既有流程進行後續作業。
- 提出需求說明用途、金額與預計時程。
- AI 整理草稿彙整資料，標示缺漏與待確認事項。
- 人員核對檢查政策依據、金額及執行範圍。
- 核准後處理依授權執行，保存結果；遭拒或逾時則停止等待處理。
情境二：IT Helpdesk 與客服，定義人工接手條件
一般操作指引可先由 AI 協助查找；遇到來源不足、反覆無法解決或重大事件，則建議轉交專責人員。接手資訊宜包含問題摘要、已嘗試步驟與必要的錯誤訊息，並避免夾帶密碼或多餘個資。
人工接手是設計建議。是否能依情緒、關鍵字或信心門檻自動轉派，以及可接入的客服／工單系統，應在方案評估時另行確認。
情境三：知識服務，讓回饋成為改善依據
為未解決、引用錯誤或資料過期的問題分類，由知識管理人員更新文件、檢查檢索設定，再以固定問題集重新驗證。對重要規章，另指定文件負責人、有效日期與改版流程。
更新知識庫與重新訓練模型是不同的作業。新增資料或收集使用者回饋後，仍應驗證回答品質；不能只憑回饋數量，就認定 AI 已自動學會正確內容。
企業如何開始加入 HITL 進 AI 應用？
建議先選一個範圍清楚、結果可核對的流程試點。例如先讓 AI 準備報價草稿，再逐步評估是否開放寫入系統或執行其他操作。
- 盤點任務風險：區分查詢、草擬、寫入及對外執行，列出不可自行執行的操作。
- 定義審核責任：指定審核者、代理人、可核准範圍及逾時處理方式；沒有核准時，不應視為同意。
- 檢查執行條件：確認資料來源與工具權限；如果待執行內容在核准後改變，應重新確認。
- 測試例外情境：包含拒絕、取消、重複操作、API 失敗與資料變動，確定流程能停止或交由人處理。
- 以實際數據調整：定期檢視效率與品質，逐步調整自動化範圍。
導入成效，應同時衡量效率與品質
| 評估面向 | 建議指標 | 觀察重點 |
|---|---|---|
| 作業效率 | 單件工時、審核等待時間 | 資料準備是否更快？是否出現新的等待瓶頸？ |
| 內容品質 | 抽查正確率、人工修改率 | 來源是否適用？是否存在反覆發生的錯誤？ |
| 執行控制 | 未授權執行事件、拒絕後續執行事件 | 測試關卡是否有效阻止不應發生的操作？ |
| 服務體驗 | 問題解決率、重複說明次數 | 轉交人工後，是否仍需從頭了解問題？ |
比較導入前後的結果時，應使用相近的任務範圍與抽樣方式。自動化比例需要依任務難度與風險決定，不宜直接套用固定百分比。
Human-in-the-Loop 與 C.ai 常見問題
HITL 會讓 AI 自動化變慢嗎？
人工審核可能增加等待時間，因此宜依風險安排介入點。讓 AI 先完成資料整理，並在關鍵操作前集中送審，有助於兼顧效率與控制；實際成效應以試點數據衡量。
C.ai 是否支援執行前人工確認？
是。叡揚 C.ai 於關鍵或具風險的操作可設定人工確認放行，流程暫停並通知人員，審核通過後再繼續執行。實際審核規則與串接範圍，需依企業需求確認。
導入 HITL 就能完全避免 AI 幻覺或資料外洩嗎？
不能。HITL 是治理機制的一部分，仍需配合資料品質、身分權限、安全護欄、測試與維運。審核者也需要看到足夠的依據，才能有效檢查 AI 的結果。
HITL 與 RAG 有什麼不同？
RAG（檢索增強生成）讓 AI 先檢索資料，再據以產生回答；HITL 則讓人在流程中參與審核、判斷或回饋。兩者可以搭配使用，但檢索到資料並不代表內容一定正確或適用。
企業應先從哪一種流程開始？
可先挑選規則清楚、資料可取得、結果容易核對的單一流程，例如 FAQ 查詢或報價草稿。試點時定義人工介入點、停止條件與驗收指標，再逐步擴大執行權限。
讓 AI 進入工作流程，也讓關鍵決策有人把關
正在評估企業 AI Agent？帶著一項實際任務，與叡揚資訊討論資料來源、系統串接及人工審核節點，確認 C.ai 如何配合團隊的工作方式。
