全程:Retrival Augmented Generation,检索增强生成。
作用主要是:从资料库中检索内容,然后基于这些内容生成答案。
解决问题:无法读取全部,上下文有限。
- 分片:字数,内容,段落,章节之类的。切分成多份
- 索引:
- 通过Embedding把片段转换为文本向量
- Embedding模型,做专门的向量转化
- 向量数据库:Embedding后向量存储在这里,便于后续查找
- 将片段文本和片段向量存入数据库模型
- Embedding模型,做专门的向量转化
- 通过Embedding把片段转换为文本向量
- 召回:
- 根据相似度查询,寻找最相关的片段(余弦,欧氏距离,点积)
- 重排:
- 从召回结果中,选择更合适的一些去选择
- cross-encoder方法,准确度高但是耗时比较大
- 从召回结果中,选择更合适的一些去选择
- 生成:
- 把内容和片段发给大模型