AI 文摘

大模型检索增强生成(RAG)高质量报告





作者: AINLP 来源: AINLP

今天分享一个来自同济大学Haofen Wang的关于检索增强生成的报告:《Retrieval-Augmented Generation (RAG): Paradigms, Technologies, and Trends》。质量不错,推荐阅读!

大语言模型的局限性和实际应用面临的问题

RAG指的就是检索相关信息来辅助大模型回答

优化大模型的性能通常可以从提示工程、RAG或者微调入手

RAG对比微调

RAG的应用场景

Naive RAG就是建索引、召回、生成三步走

进阶的做法还会考虑索引优化、召回前后做一些额外处理

模块化RAG考虑了更多更全的模块

三类RAG的对比

做RAG经常考虑的三个问题,召回什么、什么时候召回、如何利用召回的信息

RAG的发展总览

数据索引怎么优化

结构化语料库

对召回的来源进行优化

知识图谱作为召回的数据源

对查询进行优化

对文本嵌入进行优化

对检索的过程进行优化,比如可以迭代召回

还可以把RAG跟微调进行结合

相关研究总结

评价RAG的有效性

一些常用的RAG框架

工业应用

RAG总结

三大趋势

存在的挑战

扩展到多模态

生态发展

进技术交流群请添加AINLP小助手微信(id: ainlp2)

请备注具体方向+所用到的相关技术点

![](https://api.allorigins.win/raw?url=https://mmbiz.qpic.cn/mmbiz_jpg/nW2ZPfuYqSJADkmZ2IX6Z23znAibuEevotDMq9iaMxiapK7jfMibiauGFkycicAJEs6x5U9SGyDJZ0S1tRed9TPNUUDQ/640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1&wx_co=1)

关于AINLP

AINLP 是一个有趣有AI的自然语言处理社区,专注于 AI、NLP、机器学习、深度学习、推荐算法等相关技术的分享,主题包括LLM、预训练模型、自动生成、文本摘要、智能问答、聊天机器人、机器翻译、知识图谱、推荐系统、计算广告、招聘信息、求职经验分享等,欢迎关注!加技术交流群请添加AINLP小助手微信(id:ainlp2),备注工作/研究方向+加群目的。

  


![](https://api.allorigins.win/raw?url=https://mmbiz.qpic.cn/mmbiz_jpg/nW2ZPfuYqSKABHCqVVQkVYPrM4XY1vsd0iaeuXzyJnoFc8cibd5mYb4wdA3WMQtiaPVmr0XLZHMuVibqWncibpnTSnQ/640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1&wx_co=1)

更多AI工具,参考Github-AiBard123国内AiBard123

可关注我们的公众号:每天AI新工具