RAG

全程:Retrival Augmented Generation,检索增强生成。
作用主要是:从资料库中检索内容,然后基于这些内容生成答案。
解决问题:无法读取全部,上下文有限。

  • 分片:字数,内容,段落,章节之类的。切分成多份
  • 索引:
    • 通过Embedding把片段转换为文本向量
      • Embedding模型,做专门的向量转化
        • 向量数据库:Embedding后向量存储在这里,便于后续查找
      • 将片段文本和片段向量存入数据库模型
  • 召回:
    • 根据相似度查询,寻找最相关的片段(余弦,欧氏距离,点积)
  • 重排:
    • 从召回结果中,选择更合适的一些去选择
      • cross-encoder方法,准确度高但是耗时比较大
  • 生成:
    • 把内容和片段发给大模型

暂无评论

发送评论 编辑评论


				
|´・ω・)ノ
ヾ(≧∇≦*)ゝ
(☆ω☆)
(╯‵□′)╯︵┴─┴
 ̄﹃ ̄
(/ω\)
∠( ᐛ 」∠)_
(๑•̀ㅁ•́ฅ)
→_→
୧(๑•̀⌄•́๑)૭
٩(ˊᗜˋ*)و
(ノ°ο°)ノ
(´இ皿இ`)
⌇●﹏●⌇
(ฅ´ω`ฅ)
(╯°A°)╯︵○○○
φ( ̄∇ ̄o)
ヾ(´・ ・`。)ノ"
( ง ᵒ̌皿ᵒ̌)ง⁼³₌₃
(ó﹏ò。)
Σ(っ °Д °;)っ
( ,,´・ω・)ノ"(´っω・`。)
╮(╯▽╰)╭
o(*////▽////*)q
>﹏<
( ๑´•ω•) "(ㆆᴗㆆ)
😂
😀
😅
😊
🙂
🙃
😌
😍
😘
😜
😝
😏
😒
🙄
😳
😡
😔
😫
😱
😭
💩
👻
🙌
🖕
👍
👫
👬
👭
🌚
🌝
🙈
💊
😶
🙏
🍦
🍉
😣
Source: github.com/k4yt3x/flowerhd
颜文字
Emoji
小恐龙
花!
上一篇