建構 AI 驅動的知識庫聊天機械人：HKBNGPT

自從 OpenAI 的 ChatGPT 於 2022 年 11 月公佈以來，生成式 AI 的興起引發眾多初創企業誕生。

然而生成式 AI 到底是炒作，還是貨真價實的技術革命？

作為 AI 技術專業人士，我開始探索相關科技潛力，並使用 Teams 和 Azure OpenAI，開發了一個供內部使用的知識庫聊天機械人。目標是為每位銷售人才（註：Talent，為香港寬頻 HKBN 對員工的稱呼）提供自家數碼助手，幫助他們隨時掌握 HKBN 不斷擴展的產品與服務組合。

在這為期一個月的實驗中，我意識到訓練 ChatGPT 就像在家訓練自己兩個孩子一樣。為了充分發揮 ChatGPT 潛力，我將訓練過程分為多個階段，並為每個階段分配專門的 GPT 代理。通過將工作負荷分配給不同 GPT 代理，我確保每個階段有分門別類的處理，從而優化聊天機械人性能。這與我根據孩子的學術能力，分別教授不同學科的處理方式非常相似，有助他們在擅長的領域中取得佳績。

本文將探討在開發 HKBNGPT 過程中遇到的四大關鍵挑戰，以及為克服這些問題，而採取的創新解決方案。

區分需要來自內部數據還是公開數據的問題	確保在與聊天機械人互動時，機密訊息保持機密

構建聊天機械人的一個主要挑戰，是確定問題是否需要來自內部或公開數據的回答。為了確保準確回應，理解每個問題上文下理至關重要。我通過在系統中實施額外的分類層來解決這個挑戰。這一層使聊天機械人能夠通過與現有內部數據進行交叉參照來識別問題是否涉及內部數據，從而讓 HKBNGPT 能夠自動判斷，問題是否與內部數據相關。

挑戰2：解決模糊不清的問題

問題模糊不清會使提取相關內部數據變得困難，無法提供具意義的回答。為了解決這個問題，我們使用 GPT 技術添加了一個額外提示層。這些提示通過加入相關關鍵詞，並微調問題精確度來增強最初的查詢。這種方法有助於有效搜索內部數據庫，並確保準確訊息檢索。例如，通過為問題「HKBNES 如何支援中小企業？」添加上文下理和相關細節，聊天機械人可提供具效益結果。

挑戰3：識別回答所需的相關內部數據

為了識別與回答相關內部數據，我們使用了基於語義嵌入相似性的向量數據庫。通過創建內部數據的向量表示，我們可以將用戶問題與最相關的訊息匹配。借助語義相似性預訓練模型，HKBNGPT 可以將用戶問題與內部數據的向量表示進行比較。這種方法促進了最相關內部數據的探索，使聊天機械人能夠提供個性化回應。

挑戰4：確保在與聊天機械人互動時，絕密訊息會保持機密

在開發利用內部數據的聊天機械人時，保持機密訊息安全至關重要。為了解決這一問題，我們實施了額外內容過濾層，在將問題轉發給 GPT 之前過濾掉敏感訊息。這一保護措施確保僅共享相關數據，維護內部訊息私隱，防止任何機密數據洩漏。

HKBNGPT 的誕生：革新通訊和知識獲取方式

HKBNES 隆重推出企業級 HKBNGPT Jumpstart, 方案，該方案革新了企業員工溝通方式和知識庫存取方式。通過安全部署在 Microsoft Azure 上 OpenAI 先進 GPT 技術，我們的解決方案確保了數據安全性最高水平。更重要的是，它使用戶能夠訪問並增強企業特定知識庫。

HKBNGPT Jumpstart 的主要功能包括：

• 企業知識庫：全面的公司訊息儲存庫
• 提示管理與監控：高效管理和監控提示，以確保最佳性能
• 知識管理管理入口網站：集中管理知識庫的管理員入口網站
• 基於角色的查詢：根據用戶角色和責任提供定制訊息訪問
• 公開網絡查詢：與公開數據源集成以提供更廣泛見解

通過採用這種變革性方案，HKBNGPT Jumpstart 大大減少了訊息檢索所需時間，提升了工作效率，並確保所有員工都能夠隨時獲得準確、最新的指導。該解決方案提供了極高的保護和可靠性，使機構能夠充分釋放 AI 驅動聊天機械人潛力。

總結而言，HKBNGPT Jumpstart 方案在利用 AI 技術應對機構內部產品組合擴展和知識共享挑戰方面邁出了重要一步。通過採用創新技術克服數據來源區分、解決模糊性、識別相關訊息以及確保數據私隱的挑戰，HKBNGPT Jumpstart 使員工之間的有效溝通和知識獲取變得更加便捷。憑藉企業級功能和強大的數據安全性，我們的解決方案使機構能夠簡化工作流程，提升生產力，並為員工提供準確的指導。

通過擁抱 AI 力量，HKBNES 成功開啟一個企業內部智能化和高效知識管理的新時代。