叡揚資訊 AI Solutions Day： 聚焦生成式 AI 驅動數位轉型
叡揚資訊隆重舉辦「AI Solutions Day」，匯聚企業界及學術界的代表，以「AI 技術應用」為主軸，為企業精準制定 AI 策略、加速智慧升級。叡揚資訊董事長張培鏞開場時表示，AI 技術正迅速改變全球產業格局，各企業需要迎接 AI 技術帶來的挑戰與機遇。張董事長分享了叡揚資訊在推動 AI 應用的成果和未來願景，並強調「全員 AI」不僅是技術上的轉型，更是企業文化的全面進化。
隨後，國立成功大學蔣榮先教授針對生成式 AI 的實際應用進行剖析，蔣教授指出生成式 AI 技術的突破不僅帶來了以科技重塑產業的潛力，更是疫情後產業推動數位轉型的幫手。他強調 「數位轉型是各產業面臨的重大挑戰」，生成式 AI Agent 已在醫療、金融保險及企業、ESG 等領域出現大量應用案例，企業如何將 AI 應用加速數位轉型的各個環節，更確保在全球競爭中保持優勢。 資策會軟體研究院的蒙以亨院長以實例分享資策會在生成式 AI 應用上的成果。他分享了企業發展 AI 的關鍵技術， 包括在邊緣 AI、企業自建 LLM 以及 AI TRiSM（人工智慧信任、風險和安全管理）等面向的應用，突顯 AI 在企業中的廣泛應用性與巨大潛力。蒙院長更指出，未來將更進一步攜手學研單位及產業界，擴大服務量能以協助企業面對的各項 AI 應用挑戰。此外，群聯電子技術長林緯博士深入分析，目前企業自建 GenAI，前期建置的硬體成本仍是一大門檻，選擇較佳的解決方案將有助於地端運算的效能提升、強化企業生成式 AI 部署。
技術應用展示： 探索智能軍師系統的無限潛力
除了邀請產官學界的先進分享，叡揚資訊創新研發中心王博士於活動中分享，建構大型語言模型（LLM）時，僅依賴基 本擷取增強生成技術（RAG）無法完全滿足企業使用者需求。為此，叡揚正在研發進階的擷取增強生成技術（Advanced RAG）來加強檢索上的效益。此外，為提高 LLM 在生成的內容與結構的穩定性，創新研發中心採用微調技術（Parameter Efficient Fine-tuning）的策略來對 LLM 進行微調，以提升生成內容的精準度，使產出準確性與穩定性提高了近三成，顯著改善了 LLM 的實際應用表現。 另一方面，電腦視覺相關的技術應用， 包含以圖找圖、文件影像理解等任務， 也可以利用小型的模型帶來穩定且高準確率的效果，降低硬體需求。由此反映在實際應用領域中，要能符合需求並不是僅靠參數量龐大的模型就能實現；相反地，如何利用相對小的模型與精進處理流程，更是發揮效益的關鍵技術。
在 AI 技術的實際應用展示環節中，未來平台發展事業群林資深經理指出，當生成式 AI 結合對話服務平台，可協助企業 打造智慧助手（如 Copilot）。透過 NoCode/Low-Code 解決方案，企業能以更低的技術門檻加速 AI 落地應用。公文暨服務管理直屬事業處吳副處長則分享，叡揚將 AI 技術導入公文系統，利用 LLM 完成智慧撰稿並結合使用者回饋進行模型訓練，進一步優化公文詞彙校正的精確度，提升運作效率。
創新協同事業處呂副處長表示，融合知識管理（KM）技術與大型語言模型 （LLM），將可協助企業建構專屬的智能軍師系統，基於內部授權數據生成精準答案，同時確保資料授權範圍受到嚴密管控。在文件影像辨識領域，前瞻技術服務事業處江顧問分享了叡揚結合影像視覺理解（VDU）及 LLM 技術所打造的財報辨識系統。該系統已成功導入金融業，將人工作業時間減少高達八成，顯示其應用潛力與效益。
此外，雲端及巨資事業群田產品總監強調，「當 AI 辨識技術牽涉到產品客戶， 反應時間很關鍵」，叡揚透過擴充式 （scalable）AI 容器化平台，不僅降低運營成本，將辨識時間縮短 80%，展現了可擴大服務的商業應用，提供彈性的運作架構。
叡揚資訊舉辦 AI Solutions Day 匯聚企業界及學術界代表。
AI 技術引領企業數位轉型的 全新里程
叡揚資訊在本次「AI Solutions Day」中不僅展示 AI 技術的創新研發量能，而是全面推動 AI 應用的決心和信心。叡揚資 訊董事長張培鏞表示，公司將持續投入技術研發，並期許成為企業數位轉型過程中的重要夥伴。AI 技術不僅提高軟體和硬體的服務能量，企業導入成熟 AI 加值的資訊服務，可以獲得更高效、更靈活的作業流程，進一步提升企業的增長和創新。
叡揚資訊在 LLM 尚未迸出的 2013 年就投入 AI，多年來對於 AI 該如何運用與判斷已有相當經驗，也解決了不少問題，例如中文文件中字詞的糾錯、自動分文、複雜的財報影像檔的辨識並轉成資料庫，也配合智慧財產局解決專利與商標相似度等等問題，經過時十多年來的實戰經驗，自然對 AI 或 LLM 少了一些天真的幻想，也比較能釐清該如何善用 LLM。
執行長的話
這波 LLM 可說是過去數十年來，各界投入 AI 與硬體發展匯集下，所迸出的超級成果，但大家也有下列思考：
| 1. 如何有效的對 LLM 提出 Prompt，畢竟 AI 耗算力、電力，據說每次 prompt 的電力可充滿飽一次手機，且生手與熟手得到的結果迥異。那是否可以由熟手思考、設計使用介面，引領普羅大眾經由對話框提示輸入欲詢問資料，並由後台下有效的 Prompt 給 LLM。 |
|
2. 各類 LLM 在 OpenAI 推出後，很神奇地陸續迸出，有地端與雲端，也包括國科會以 Llama 為基礎所 Fine-Tune 的 TAIDE。我們與用戶的困擾就是該如何抉擇雲端或地端，或該用哪個 LLM ？以及選擇了之後，後續若有更好的 LLM 推出，該如何切換？過去訓練的模型又該如何處理？ 3. LLM 先天有的幻覺目前似乎很難根絕，所以在運用上就發展出 RAG 技術，以及經驗累積就變得很重要，那麼如何有效借用他人經驗就是關鍵。 4. 想要運用 AI 來協助的問題大致可分為語言與影像兩大類型，是不是所有問題都以 LLM 來解答呢？不同領域的問題是否有更適用的 LLM 或有哪些技術或經驗可以套用以確保成效，或減少幻覺的出現。 |
總之大家對於 AI 與 LLM 的應用有很高期待、焦慮與疑惑！且個人也想提醒能善用 AI 的加持，畢竟需要有資料，更要有良好資訊化或數位化為基礎，否則恐怕踩空，不易得到 AI 的祝福。