支援企業 AI 需求，LLM 技術與 AI 加值服務打造解決方案 繁中、資料機密、雲地及算力成本 環環相扣

IDC報告指出生成式 AI 下一波 技術發展將全面產業化，並 預計至 2027 年，全球在 AI 解決方案上 的科技支出將成長到美金五千億元以上。 叡揚從 2013 即開始投入 AI 的相關研發， 隨企業需求提升，叡揚於 LLM ( 大型語 言模型 ) 以牽涉繁體中文、文化、資料機 密、雲地選擇，及成本算力考量下，強調 高效且彈性的 LLM Fine-Tuning 策略， LLM 與外部知識的動態結合，持續更新 的外部資訊，並把關機敏資料的安全性。

多模態的理解與應用擴充，藉由不同資料 類型的模型與 LLM 結合訓練以實現多模 態能力的擴充，未來將提供一站式整合 AI Gateway，創造最佳效能、滿足企業 AI 需求。

數位發展部目前正在大力推動「臺灣 AI 行動計畫 2.0」，持續帶動政策規劃、產 業商機、數位服務與社會福祉的整體戰 略討論，作為台灣未來展望，透過數位 產業打造更有包容性、韌性、蓬勃發展的 未來。叡揚 AI Solutions Day 活動當天邀 請 AI 卓越中心副召集人，也是 TAIDE 的 重要成員許永真教授分享臺灣大型語言模 型的自主里程碑與發展方向；現場叡揚展 示多款將 AI 技術結合應用系統的前後處 理，充分展現成效，如運用機器學習技術 辨識影印或影像檔的財報資料，金融產業 將 OCR 加入 AI 元素，即使影像有斜式或 蓋章等干擾，也能夠高達 90% 以上的成 功辨識率，接著串接到會計與徵授信系 統，減少使用者 90% 以上的登打與核對 時間。

 另外，廣為被使用的公文管理與知識管理 系統在結合 AI 及 LLM 下，輔助使用者快 速且正確地完成公文撰寫或查找完善資 訊，如同隨時都有資深且貼心的同仁手把 手協助，讓人工智慧助益組織文化知識傳 承與效能躍進。

 AI、LLM 等技術可以為知識管理提供新 功能優勢，尤其知識管理系統具備良好的 協作介面讓團隊成員無形中留存高品質對 話、創化內容，提高組織知識匯集、協作 共享及權限管理避免產權洩漏。

國立臺灣大學資訊工程學系 許永真教授 分享臺灣 LLM 的自主里 程碑與發展方向

而組織的各類系統，也能透過叡揚的機器 人生成平台快速生成對話式服務；非資訊 人員也能透過視覺化的操作平台，將組織 的流程與知識轉化設計出對話機器人，融 合 AI 理解後，更能透過口語化的問與答 提供服務對象需要的解答或引導至正確的 系統，呈現直覺的人機介面

對 於 LLM 及 AI 技 術，叡揚投入始於 2013 年， 由 NLP、機器學習開始， 團隊持續研讀論文、試驗各類模型，落地解 決實務問題，後續延伸到圖像區塊辨識 及 內 容 物 辨 識 ( VDU-Visual Document Understanding) 的應用。

 2022 年底 GPT 的出現，出現更多可探索 的機會與挑戰，叡揚過去在 AI 的實作經驗，可較快測試釐清哪些問題不用 LLM 就可完成，也可較快試驗各推陳出新的 LLM，符合市場需求。