大模型的局限性

优化方法

RAG（Retriever-Augmented Generation）模型将文本生成和文档检索结合在一起，以处理大量的信息。在回答问题或生成文本时，它首先通过检索器在大量的文档上搜索相关的信息，然后使用生成器模型来生成答案或文本，同时使用检索到的文档作为额外的上下文。这种方法允许模型处理比其自身训练数据更大的信息，并且能够生成更准确和详细的答案。

Fine-tuning是一种在预训练模型的基础上训练模型的方法。预训练模型在大量无标签数据上进行训练，学习到语言的一般特征。然后，通过在特定任务的标注数据上进行微调，模型可以适应特定的任务。

RAG(检索增强生成)

构建向量数据库