本方案采用MaxKB来实施智能客服系统架构。MaxKB是杭州飞致云公司一款基于 LLM 大语言模型的开源知识库问答系统,通过字面意思也不难看出,它需要配合大语言模型配合使用,并且MaxKB与 LLM的联系就是:需要用到LLM来生成并优化相关的返回内容。如果直接使用本地部署的离线模型,就会出现已读乱回的现象。原因是由于直接使用LLM,生成LLM前预训练的数据专业性不够、且模型当时预训练的数据内容是固定的,只要模型提供商不迭代,那么模型性能就得不到提升,就会导致回答的知识准确度就差很多。
MaxKB的技术架构主要包括以下几个部分:前端、后端、语言处理框架、数据库、大语言模型、知识存储和检索和工作流来分析。