建构 AI 驱动的知识库聊天机械人：HKBNGPT

自从 OpenAI 的 ChatGPT 于 2022 年 11 月公布以来，生成式 AI 的兴起引发众多初创企业诞生。

然而生成式 AI 到底是炒作，还是货真价实的技术革命？

作为 AI 技术专业人士，我开始探索相关科技潜力，并使用 Teams 和 Azure OpenAI，开发了一个供内部使用的知识库聊天机械人。目标是为每位销售人才（注：Talent，为香港宽频 HKBN 对员工的称呼）提供自家数码助手，帮助他们随时掌握 HKBN 不断扩展的产品与服务组合。

在这为期一个月的实验中，我意识到训练 ChatGPT 就像在家训练自己两个孩子一样。为了充分发挥 ChatGPT 潜力，我将训练过程分为多个阶段，并为每个阶段分配专门的 GPT 代理。通过将工作负荷分配给不同 GPT 代理，我确保每个阶段有分门别类的处理，从而优化聊天机械人性能。这与我根据孩子的学术能力，分别教授不同学科的处理方式非常相似，有助他们在擅长的领域中取得佳绩。

本文将探讨在开发 HKBNGPT 过程中遇到的四大关键挑战，以及为克服这些问题，而采取的创新解决方案。

区分需要来自内部数据还是公开数据的问题	确保在与聊天机械人互动时，机密讯息保持机密

构建聊天机械人的一个主要挑战，是确定问题是否需要来自内部或公开数据的回答。为了确保准确回应，理解每个问题上文下理至关重要。我通过在系统中实施额外的分类层来解决这个挑战。这一层使聊天机械人能够通过与现有内部数据进行交叉参照来识别问题是否涉及内部数据，从而让 HKBNGPT 能够自动判断，问题是否与内部数据相关。

挑战2：解决模糊不清的问题

问题模糊不清会使提取相关内部数据变得困难，无法提供具意义的回答。为了解决这个问题，我们使用 GPT 技术添加了一个额外提示层。这些提示通过加入相关关键词，并微调问题精确度来增强最初的查询。这种方法有助于有效搜索内部数据库，并确保准确讯息检索。例如，通过为问题「HKBNES 如何支援中小企业？」添加上文下理和相关细节，聊天机械人可提供具效益结果。

挑战3：识别回答所需的相关内部数据

为了识别与回答相关内部数据，我们使用了基于语义嵌入相似性的向量数据库。通过创建内部数据的向量表示，我们可以将用户问题与最相关的讯息匹配。借助语义相似性预训练模型，HKBNGPT 可以将用户问题与内部数据的向量表示进行比较。这种方法促进了最相关内部数据的探索，使聊天机械人能够提供个性化回应。

挑战4：确保在与聊天机械人互动时，绝密讯息会保持机密

在开发利用内部数据的聊天机械人时，保持机密讯息安全至关重要。为了解决这一问题，我们实施了额外内容过滤层，在将问题转发给 GPT 之前过滤掉敏感讯息。这一保护措施确保仅共享相关数据，维护内部讯息私隐，防止任何机密数据泄漏。

HKBNGPT 的诞生：革新通讯和知识获取方式

HKBNES 隆重推出企业级 HKBNGPT Jumpstart, 方案，该方案革新了企业员工沟通方式和知识库存取方式。通过安全部署在 Microsoft Azure 上 OpenAI 先进 GPT 技术，我们的解决方案确保了数据安全性最高水平。更重要的是，它使用户能够访问并增强企业特定知识库。

HKBNGPT Jumpstart 的主要功能包括：

• 企业知识库：全面的公司讯息储存库
• 提示管理与监控：高效管理和监控提示，以确保最佳性能
• 知识管理管理入口网站：集中管理知识库的管理员入口网站
• 基于角色的查询：根据用户角色和责任提供定制讯息访问
• 公开网络查询：与公开数据源集成以提供更广泛见解

通过采用这种变革性方案，HKBNGPT Jumpstart 大大减少了讯息检索所需时间，提升了工作效率，并确保所有员工都能够随时获得准确、最新的指导。该解决方案提供了极高的保护和可靠性，使机构能够充分释放 AI 驱动聊天机械人潜力。

总结而言，HKBNGPT Jumpstart 方案在利用 AI 技术应对机构内部产品组合扩展和知识共享挑战方面迈出了重要一步。通过采用创新技术克服数据来源区分、解决模糊性、识别相关讯息以及确保数据私隐的挑战，HKBNGPT Jumpstart 使员工之间的有效沟通和知识获取变得更加便捷。凭借企业级功能和强大的数据安全性，我们的解决方案使机构能够简化工作流程，提升生产力，并为员工提供准确的指导。

通过拥抱 AI 力量，HKBNES 成功开启一个企业内部智能化和高效知识管理的新时代。