選單
GSS 技術部落格
在這個園地裡我們將從技術、專案管理、客戶對談面和大家分享我們多年的經驗,希望大家不管是喜歡或是有意見,都可以回饋給我們,讓我們有機會和大家對話並一起成長!
若有任何問題請來信:gss_crm@gss.com.tw
7 分鐘閱讀時間 (1332 個字)

用 Dify 打造你的專屬 AI 客服機器人:從知識庫開始的智慧對話設計

用 Dify 打造你的專屬 AI 客服機器人:從知識庫開始的智慧對話設計

在這個 AI 驅動的時代,客服不再只是 FAQ 的堆疊,而是一場「智慧互動」的體驗。你是否也想過擁有一個能回答各式問題、記得客戶需求,甚至還會主動推薦資訊的智能客服機器人?這篇文章將帶你一步步用 Dify 打造專屬的 AI 聊天夥伴,從零開始建構知識庫、應用流程,最後讓它成為你的最佳客服助手。

Step1 建立知識庫,讓機器人有「知識」
 為什麼要先建知識庫?知識庫就像是機器人的腦袋,我們要先餵它資料,它才能聽得懂問題、回答得準確。
本機器人知識庫以員工手冊為例

 操作教學 01:建立知識庫

  1. 登入 Dify
  2. 點選上方選單第三個「知識庫」
  3. 點「建立」 → 選擇資料來源(可用上傳文件 / Notion / 網頁)
  4. 選擇「匯入已有文字」


操作教學 02:處理知識庫文件

  1. 分段設置上傳文件後,會需要對文件進行處理
    請依文件章節大小來設定適當的分段最大長度  https://platform.openai.com/tokenizer
  2.  索引方式 通常選擇高品質,但需要額外消耗 token。選擇經濟無需消耗 token。
    • 經濟模式:在經濟模式下,每個區塊內使用 10 個關鍵字進行檢索,降低了準確度但無需產生費用。對於檢索到的區塊,僅提供倒排索引方式選擇最相關的區塊,詳細說明請閱讀下文。
      • 倒排索引 在經濟索引方式下,僅提供倒排索引方式。這是一種用於快速檢索文件中關鍵字的索引結構,常用於線上搜尋引擎。倒排索引僅支援 TopK設定項目。
      • TopK 用於篩選與使用者問題相似度最高的文字片段。系統同時會根據選用模型上下文視窗大小動態調整片段數量。系統預設值為 3 。數值越高,預期被回想的文字分段數量越多。 
    • 高品質模式:在高品質模式下,使用 Embedding 嵌入模型將已分段的文字區塊轉換為數位向量,幫助更有效地壓縮與儲存大量文字資訊;使得使用者問題與文字之間的匹配能夠更加精準。將內容區塊向量化並輸入至資料庫後,需要透過有效的檢索方式調取與使用者問題相符的內容區塊。 高品質模式提供向量檢索、全文檢索和混合檢索三種檢索設定。
  3. Embedding 模型 將文字串成 embedding (一堆數字)。 
  4.  檢索設定 Dify 提供了向量檢索、全文檢索、混合檢索功能,其中常用的搜尋是混合搜尋。 搜尋中可以設定權重使用重新排序(Rerank)模型。使用權重設定時,可以設定搜尋更焦點或關鍵字。 
  5. 建立知識庫完成
  6.  召回測試 建立好知識庫後,可以在左邊的召回測試中確認資料的完整性以及正確性,確認是否需要手動調整。 
分段設定
檢索設定

Step 2:建立應用流程,讓機器人會「對話」

  1. 點選「工作室」→左上角「 新增空白應用」
  2. 選擇「聊天流」類型
  3. 建立完成之後,會出現開始節點、LLM節點、回覆節點
  4. 新增節點-知識檢索
  5. 設定知識庫-點+選擇已匯入的知識庫
  6. 設定LLM Model與system
    在知識檢索節點的下一個節點,你需要選擇 LLM 節點來整理知識庫回想的內容。
    LLM 需要根據使用者的提問,調整回覆,讓回覆內容更加得體。
    上下文:需要將知識檢索節點的輸出作為 LLM 節點的上下文。
    系統提示詞:根據{{上下文}},答案{{使用者提問}}你可以在提示詞書寫區域輸入/或{來引用變數。
    在變數中,sys.開頭的變數是系統變量,請查詢說明文件相關說明。 此外,你可以打開 LLM 記憶讓使用者的對話體驗更加連貫。
  7. 完成之後可以在預覽嘗試對話確認是否正確
  8. 確認功能沒問題之後就可以發佈
  9. 發佈完後就會發現下面運行的連結可以按了
  10. 點選運行就能看到所建立的機器人
LLM節點設置, 此prompt僅供參考,可以自行設定
完整節點參考
預覽畫面
發佈以及運行

 進階應用:加入分類器、設計預設問答、引導提問

操作教學 03:加入分類器

  1. 添加節點-問題分類器
  2. 將問題分類器節點連接上開始與知識檢索
  3. 設定分類樣式
    分類器內會有模型、輸入變量(使用者的提問)、分類1、分類2(可增加至所需要的數量),再依分類主題連接到對應的下個節點

    問題分類器分類描述需簡潔明瞭,再高級設置的instructions中補充關鍵字或是例子
  4. 將另一個分類歸類為不能回覆,並加上一個回覆節點,設定不能回覆時要顯示什麼資訊給使用者
  5. 完成
高級設置參考,可以描述的詳細一點能夠更好的分類
加上問題分類器後的完整節點

操作教學 04:設置對話開場白以下衍生問題建議

  1. 可以設置對話開場白,讓你的聊天機器人更人性化~
  2. 也可以預設問題選項
  3. 再開啟下一步問題建議
    可以自動產生下一個問題
  4. 完成
功能中開啟對話開場白以及下一步問題建議
設置對話開場白內容以及預設問題

操作教學 05:開啟記憶功能

  1. 開啟LLM記憶
    開啟記憶功能後聊天機器人就能「記住你之前問過的問題或設定」,在後續對話中根據這些資訊接續回答,讓對話更自然、連貫,也能提供更貼近你需求的回覆。
  2. 開啟問題分類器的記憶
LLM的記憶
問題分類器的記憶
Modular Monolith Architecture
慢不是壞事,台灣雲端轉型的後發優勢

相關文章

 

評論

尚無評論
已經注冊了? 這裡登入
Guest
2025/05/04, 週日

Captcha 圖像