Derolol Blog

深度解析 RAG 技术在大模型时代的原理与实践

概念

Alt text

分类

Alt text

朴素 RAG

• 步骤
  • 索引: 直接将输入数据向量化
  • 检索: 对向量数据库进行匹配
  • 生成: 最后将输入数据与向量数据库匹配结果共同放入大模型中生成最终结果

高级 RAG

• 步骤
  • 增加了对数据的预筛选，围绕预检索和后检索提出了多种优化策略

模块化 RAG

• 步骤
  • 引入多个特定的功能模块和替换现有模块上。
  • 整个过程不仅限于顺序检索和生成，还包括迭代和自适应检索等方法

RAG for Code

Code Generation

• REDCODER 摘要和代码双向生成
• APICoder
• COCOGEN