重庆北碚网站建设深圳台历制作

重庆北碚网站建设,深圳台历制作,枸杞网站的建设方案,wordpress 在线教学RAG(检索增强生成)通过结合检索技术与LLM提示#xff0c;有效解决大模型知识局限性和幻觉问题。其核心架构包含检索生成两阶段#xff1a;数据准备阶段包括提取、分割、向量和入库#xff1b;应用阶段实现问题检索、Prompt注入和答案生成。高级RAG技术如分块优化…RAG(检索增强生成)通过结合检索技术与LLM提示有效解决大模型知识局限性和幻觉问题。其核心架构包含检索生成两阶段数据准备阶段包括提取、分割、向量和入库应用阶段实现问题检索、Prompt注入和答案生成。高级RAG技术如分块优化、混合搜索、查询转换等进一步提升系统性能广泛应用于智能客服、企业知识库等领域是提升大模型回答准确性的关键技术。RAG概念检索增强生成Retrieval Augmented Generation简称 RAG。可简单描述为RAG检索增强生成 检索技术 LLM 提示。RAG主要用于解决模型知识的局限性、 模型幻觉问题、数据安全性问题等。例如我们向 LLM 提问一个问题RAG 从各种数据源检索相关的信息并将检索到的信息和问题注入到 LLM 提示中LLM 最后给出答案。这个过程有两个主要步骤语义搜索和生成输出。在语义搜索步骤中从知识库中找到与查询最相关的部分内容。在生成步骤中使用这些查询到的内容来生成响应。RAG架构如图所示RAG是通过检索获取相关的知识并将其融入Prompt让大模型能够参考相应的知识从而给出合理回答。核心为“检索生成”前者主要是利用向量数据库的高效存储和检索能力召回目标知识后者则是利用大模型和Prompt工程将召回的知识合理利用生成目标答案。RAG应用流程主要包含两个阶段数据准备阶段数据提取—文本分割—向量化embedding—数据入库应用阶段用户提问—数据检索召回—注入Prompt—LLM生成答案数据准备阶段主要是将私域数据向量化后构建索引并存入数据库的过程。包括数据提取、文本分割、向量化、数据入库等环节。数据提取•数据加载包括多格式数据加载、不同数据源获取等。•数据处理包括数据过滤、压缩、格式化等。•元数据获取提取数据中关键信息例如文件名、Title、时间等 。文本分割文本分割主要考虑两个因素embedding模型的Tokens限制情况以及语义完整性对整体的检索效果的影响。常见文本分割方式如下•句分割以”句”的粒度进行切分保留一个句子的完整语义。常见切分符包括句号、感叹号、问号、换行符等。•固定长度分割根据embedding模型的token长度限制将文本分割为固定长度例如256/512个tokens这种切分方式会损失很多语义信息一般通过在头尾增加一定冗余量来缓解。向量化embedding向量化是将文本数据转化为向量矩阵的过程。常见的embedding模型如下表所示。模型名称描述获取地址ChatGPT-EmbeddingChatGPT-Embedding由OpenAI公司提供以接口形式调用。https://platform.openai.com/docs/guides/embeddings/what-are-embeddingsERNIE-Embedding V1ERNIE-Embedding V1由百度公司提供依赖于文心大模型能力以接口形式调用。https://cloud.baidu.com/doc/WENXINWORKSHOP/s/alj562vvuM3EM3E是一款功能强大的开源Embedding模型包含m3e-small、m3e-base、m3e-large等多个版本支持微调和本地部署。https://huggingface.co/moka-ai/m3e-baseBGEBGE由北京智源人工智能研究院发布同样是一款功能强大的开源Embedding模型包含了支持中文和英文的多个版本同样支持微调和本地部署。https://huggingface.co/BAAI/bge-base-en-v1.5• 数据入库数据向量化后构建索引并写入数据库的过程常用数据库包括FAISS、Chromadb、ES、milvus等。应用阶段根据用户的提问通过高效检索方法召回与提问最相关的知识并融入Prompt大模型参考当前提问和相关知识生成相应的答案。关键环节包括数据检索、注入Prompt等。数据检索常见检索方法包括相似性检索、全文检索等一般可以选择多种检索方式融合提升召回率。•相似性检索即计算查询向量与所有存储向量的相似性得分返回得分高的记录。常见方法包括余弦相似性、欧氏距离、曼哈顿距离等。•全文检索在数据存入时通过关键词构建倒排索引在检索时通过关键词进行全文检索找到对应的记录。注入Prompt在RAG场景中Prompt一般包括任务描述、背景知识检索得到、任务指令一般是用户提问等根据任务场景和大模型性能也可以在Prompt中适当加入其他指令优化大模型的输出。一个简单知识问答场景的Prompt如下所示【任务描述】假如你是一个专业的客服机器人请参考【背景知识】回【背景知识】{content} // 数据检索得到的相关文本【问题】石头扫地机器人P10的续航时间是多久在实际应用过程中需要根据大模型的实际输出进行针对性的Prompt调优。原始RAG标准的 RAG 流程将文本分块然后使用一些 Transformer Encoder 模型将这些块嵌入到向量中将所有向量放入索引中最后创建一个 LLM 提示告诉模型根据我们在搜索步骤中找到的上下文回答用户的查询。在运行时使用同一编码器模型对用户的查询进行向量化然后搜索该查询向量的索引找到 top-k 个结果从我们的数据库中检索相应的文本块并将它们作为上下文输入到 LLM 提示中。提示与下边内容类似def question_answering(context, query): prompt f Give the answer to the user query delimited by triple backticks {query}\ using the information given in context delimited by triple backticks {context}.\ If there is no relevant information in the provided context, try to answer yourself, but tell user that you did not have any relevant context to base your answer on. Be concise and output the answer of size less than 80 tokens. response get_completion(instruction, prompt, modelgpt-3.5-turbo) answer response.choices[0].message[content] return answer高级RAG1、分块 (Chunking) 向量化 (Vectorisation)1.1 分块 (Chunking)将初始文档拆分为一定大小的块块的大小取决于所使用的嵌入模型以及模型需要使用 token 的容量。1.2 向量化 (Vectorisation)选择一个搜索优化的模型来嵌入我们的块。比如 bge-large 或 E5 嵌入系列。2、搜索索引2.1 向量存储索引RAG 管道的关键部分是搜索索引一般采用向量索引比如faiss、nmslib 以及 annoy这些工具基于近似最近邻居算法如聚类、树结构或HNSW算法。2.2 分层索引在大型数据库情况下一个有效的方法是创建两个索引——一个由摘要组成另一个由文档块组成然后分两步进行搜索首先通过摘要过滤掉相关文档然后只在这个相关组内搜索。2.3 假设性问题和HyDE(Hypothetical Document Embeddings,假设性文档嵌入)假设性问题让 LLM 为每个块生成一个问题并将这些问题嵌入到向量中在运行时对这个问题向量的索引执行查询搜索将块向量替换为索引中的问题向量然后在检索后路由到原始文本块并将它们作为 LLM 获取答案的上下文发送。假设性文档嵌入根据输入问题生成一个假设性答案然后对该假设性答案进行嵌入与检索可以同时携带原问题。即要求 LLM 在给定查询的情况下生成一个假设的响应然后将其向量与查询向量一起使用来提高搜索质量。2.4 内容增强2.4.1 语句窗口检索器文档中的每个句子都是单独嵌入的。为了在获取最相关的单个句子后更好地推理找到的上下文将上下文窗口扩展为检索到的句子前后的 k 个句子然后将这个扩展的上下文发送到 LLM。绿色部分是在索引中搜索时发现的句子嵌入整个黑色 绿色段落被送到 LLM 以扩大其上下文同时根据提供的查询进行推理。2.4.2 自动合并检索器或父文档检索器)思路与语句窗口检索器非常相似——搜索更精细的信息片段然后在LLM 进行推理之前扩展上下文窗口。文档被拆分为较小的子块这些子块和较大的父块有引用关系。首先在检索过程中获取较小的块然后如果前 k 个检索到的块中有超过 n 个块链接到同一个父节点较大的块将这个父节点替换成给 LLM 的上下文。2.5 融合检索或混合搜索结合传统的基于关键字的搜索稀疏检索算法如 tf-idf 或搜索行业标准 BM25和现代语义或向量搜索并将其结果组合在一个检索结果中。唯一的关键是如何组合不同相似度分数的检索结果。通常通过 Reciprocal Rank Fusion 算法来解决。混合或融合搜索通常能提供更优秀的检索结果因为它既考虑了查询和存储文档之间的语义相似性也考虑了关键词匹配。3、重排reranking和过滤filtering根据相似性分数、关键字、元数据过滤掉结果或使用其他模型如 LLM、sentence-transformer 交叉编码器Cohere 重排名接口、或者基于元数据重排检索到的上下文。4、查询转换查询转换是一系列技术使用 LLM 作为推理引擎来修改用户输入以提高检索质量。对于复杂的查询大语言模型能够将其拆分为多个子查询。比如当你问“在 Github 上Langchain 和 LlamaIndex 这两个框架哪个更受欢迎”我们不太可能直接在语料库找到它们的比较所以将这个问题分解为两个更简单、具体的合理的子查询• “Langchain 在 Github 上有多少星”• “Llamaindex 在 Github 上有多少星”这些子查询会并行执行检索到的信息随后被汇总到一个 LLM 提示词中。5、聊天引擎通过查询压缩技术将聊天上下文与用户查询一起考虑在内。如ContextChatEngine首先检索与用户查询相关的上下文然后将其与内存缓冲区中的聊天记录一起发送到 LLM以便 LLM 在生成下一个答案时了解上一个上下文。6、查询路由查询路由是 LLM 驱动的决策步骤决定在给定用户查询的情况下下一步该做什么——选项通常是总结、对某些数据索引执行搜索或尝试许多不同的路由然后将它们的输出综合到一个答案中。查询路由器还用于选择数据存储位置来处理用户查询。比如传统的向量存储、图形数据库或关系型数据库或者是不同层级的索引系统。7、响应合成响应合成的主要方法有• 通过将检索到的上下文逐块发送到 LLM 来优化答案• 概括检索到的上下文以适应提示• 根据不同的上下文块生成多个答案然后将它们连接或概括起来。总结RAG是一个强大的功能能够提高语义搜索效率。它让大语言模型LLM在回答问题前先从外部知识库中检索相关信息再基于检索结果生成更准确、可靠的回答。主要解决了知识时效性、 幻觉问题、 专业领域知识、可解释性问题。覆盖了智能客服、 企业知识库、 法律咨询、医疗辅助、AI搜索引擎等多种典型应用场景。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。大模型入门到实战全套学习大礼包1、大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通2、大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。3、AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。4、大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。5、大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。适用人群第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】