越来越火的大模型应用——RAG，到底是个啥？

正文

请到「今天看啥」查看全文

通用大模型，是一个掌握了大量人类通用知识，且具备超强记忆与推理能力的优秀学生，而不是某个垂直领域的专家（比如医学或者法律专家）。

当面临一些复杂度较高的领域性问题，或者私有知识相关的问题时（比如介绍企业的某个新产品），它就可能会编造信息并将其输出。

当然，除了“幻觉”问题，大模型还存在知识落后、输出难以解释、输出不确定等一些问题。

这也决定了大模型在大规模商业生产应用中会面临着挑战：

很多时候，我们不仅需要理解力和创造力，还需要极高的准确性（不仅要会写作文，还要会准确解答数学题）。

02

RAG如何优化“幻觉”问题

RAG ，正是为了尽力解决大模型在实际应用中面临的一些问题（ 特别是“幻觉”问题 ）而诞生的一种优化方案 ，也 是最 重要的方案。

其基本思想 可以简单表述如下：

将传统的生成式大模型与实时信息检索技术相结合，为大模型补充来自外部的相关数据与上下文，以此帮助大模型生成更丰富、更准确、更可靠的内容。

这允许大模型在生成内容时，可以依赖 实时与个性化的数据和知识 ，而不只是依赖训练知识。

简单的说：RAG给大模型增加了一个可以快速查找的“知识外挂 ” 。

用一个例子帮助理解RAG的概念：

如果把大模型比喻成一个经过大量知识与技能训练的优秀学生，把大模型响应的过程比喻成考试。那么，这个优秀学生在考试时，仍然可能会遇到没有掌握的知识，从而编造答案（幻觉）。

RAG，就是在这个学生考试时，临时给他的一本参考书。我们可以要求他在考试时，尽量参考这本书作答。

那么，在遇到与这本书中的知识相关的问题时，他的得分是不是就高多了呢？

请到「今天看啥」查看全文