搭建私有行业知识问答系统用什么技术组合效果好？

搭建私有行业知识问答系统，用什么样的技术效果更好？

了解过RAG，有种说法是RAG效果不稳定，召回率不高。

那么搭建一个私有的行业知识问答系统，应用什么样的技术才能有好的效果？这些技术需要什么样的软硬件支持？

谢谢老师！

j2025 2024-12-27

源自：LLM大模型课算法全能工程师实战营 3-2 【掌握大模型训练全流程】LLM的兴起

收起

3回答

那位科技大模型算法回答被采纳获得+3积分 2024-12-27 22:51:59

我们的课程刚好有搭建一个私有的行业知识问答系统！然后呢确实需要考虑多种技术以确保效果。RAG（Retrieval-Augmented Generation）是一种结合了检索（Retrieval）和生成（Generation）的方法，它通过检索相关信息再生成回答，以提高问答系统的性能。单纯的RAG的效果不稳定，召回率不高，但这通常是由于数据集、模型训练和调优不足等因素造成的。所以我们的课程也详细对rag做了进一步的优化方案讲解，包含了：RAG 进阶和 Query 的改造，然后是RAG的三个阶段：Naive RAG、 Advanced RAG 和 Modular RAG。相关的硬件在课程里都有提及。

收起回答

j2025 提问者 #1

在课程列表中未看到Naive RAG、 Advanced RAG 和 Modular RAG。会在哪个章节讲到，谢谢！

2024-12-28 10:37:05
那位科技大模型算法回复提问者 j2025 #2

最新的rag基础和进阶中有提到

2025-01-07 20:21:45

起航阳仔 2025-01-12 09:52:51

昨天参加了一个AGI的论坛，里面提到了一个数推分离的结构，如果你不想用RAG可以看看这个，这个目前已经商用落地

收起回答

提问者 j2025 2024-12-27 11:20:08

补充一下，更具体的来说，我是需要基于指定的公司规章规范类文档、行业标准类文档实现问答功能。谢谢！

收起回答

那位科技大模型算法 #1

我们的课程刚好有搭建一个私有的行业知识问答系统！然后呢确实需要考虑多种技术以确保效果。RAG（Retrieval-Augmented Generation）是一种结合了检索（Retrieval）和生成（Generation）的方法，它通过检索相关信息再生成回答，以提高问答系统的性能。单纯的RAG的效果不稳定，召回率不高，但这通常是由于数据集、模型训练和调优不足等因素造成的。所以我们的课程也详细对rag做了进一步的优化方案讲解，包含了：RAG 进阶和 Query 的改造，然后是RAG的三个阶段：Naive RAG、 Advanced RAG 和 Modular RAG

2024-12-27 22:52:17