国外网站排行榜小程序软件开发制作

国外网站排行榜,小程序软件开发制作,大连手机自适应网站制作公司,开发商交房必备条件目录引言RAG的核心工作流程传统检索方式的局限性——向量搜索的优缺点解决方案#xff1a;重排序#xff08;Reranking#xff09;机制的引入实践示例#xff1a;两阶段检索模式重排序在高精度领域的重要性总结引言 之前小马的文章《如何5分钟快速搭建智能问答系统》介绍过…目录引言RAG的核心工作流程传统检索方式的局限性——向量搜索的优缺点解决方案重排序Reranking机制的引入实践示例两阶段检索模式重排序在高精度领域的重要性总结引言之前小马的文章《如何5分钟快速搭建智能问答系统》介绍过基于RAG实现的问答系统。然而基于RAG的原理实现就有很多种比如当语料有QA问答对和长文本时如何实现多路召回当召回的语料长度过大时如何用模型进行重排再给到回答总结大模型等等这些都是实际场景中需要精雕细琢的技术细节。今天我们就来简单感受下模型重排。RAG的核心工作流程检索RetrievalAI系统首先根据用户提出的问题从其连接的数据源企业内部数据库、文档库或外部知识库中查找相关的文档或信息片段。这个过程类似于人类使用搜索引擎寻找答案。生成答案Grounded Generation在获取相关资料后AI系统会基于这些信息生成最终的回答并且通常会注明参考来源从而提升信息的可信度。传统检索方式的局限性——向量搜索的优缺点工作原理向量检索主要依赖“语义理解”而非简单的关键词匹配将用户问题和所有待检索文档转换为数学模型中的“向量”表示通过计算向量间的余弦相似度或欧几里得距离来评估相关性面临挑战信息压缩损失固定长度的向量可能导致重要细节丢失单阶段局限初步检索可能包含不相关或宽泛内容长上下文窗口问题LLM的处理能力有限过多文档会降低性能和准确率信息稀释效应关键内容被淹没在大量文本中“中间文档难题”位于文档中间的重要信息容易被忽略解决方案重排序Reranking机制的引入工作流程初步检索使用快速检索技术获取相关文档二次排序对初步结果进行重新评估和排序提升最相关文档的优先级选择性输入将重排后的最相关文档输入LLM减少无关信息干扰实践示例两阶段检索模式第一阶段向量搜索使用ChromaDB向量数据库进行快速检索基于余弦相似度获取初步排名#在向量数据库中通过余弦相似度做一阶段检索# 用户查询query_text大语言模型的工作原理和技术特点query_embeddingget_embedding(query_text)print(f用户问题{query_text})# 从 ChromaDB 搜索最相似的 5 条结果resultscollection.query(query_embeddings[query_embedding],n_results5,include[documents,distances])retrieved_docsresults[documents][0]# 获取返回的文档列表distancesresults[distances][0]# 获取相似度距离print(ChromaDB 搜索结果未重排)fori,(doc,distance)inenumerate(zip(retrieved_docs,distances),1):similarity1-distance# 将距离转换为相似度print(f{i}. 相似度:{similarity:.4f}-{doc})测试查询“大语言模型的工作原理和技术特点”结果示例ChromaDB 搜索结果未重排1.相似度: 0.7058 - 大语言模型的涌现能力使其在没有专门训练的情况下也能完成复杂任务如推理和编程2.相似度: 0.7017 - 大语言模型的参数规模从数十亿到数万亿不等参数量越大通常性能越强3.相似度: 0.6908 - 大语言模型通过自监督学习从海量文本中学习语言规律和知识形成强大的语义理解能力4.相似度: 0.6731 - 大语言模型LLM是基于Transformer架构的深度学习模型能够理解和生成人类语言5.相似度: 0.5491 - ChatGPT是OpenAI开发的大语言模型通过强化学习和人类反馈训练具有优秀的对话能力第二阶段重排序使用Cohere的Reranker模型进行精细排序基于语义匹配度重新调整文档优先级# 使用 Cohere Reranker 进行重排序responseco.rerank(queryquery_text,documentsretrieved_docs,modelrerank-v3.5)reranked_results[]reranked_scores[]foriteminresponse.results:original_docretrieved_docs[item.index]# 使用索引获取原始文档reranked_results.append(original_doc)reranked_scores.append(item.relevance_score)print(\n 经过 Reranker 重新排序的最终结果)fori,(doc,score)inenumerate(zip(reranked_results,reranked_scores),1):print(f{i}. 相似度:{score:.4f}-{doc})测试查询“大语言模型的工作原理和技术特点”经过 Reranker 重新排序的最终结果1.相似度: 0.7699 - 大语言模型LLM是基于Transformer架构的深度学习模型能够理解和生成人类语言2.相似度:0.6999 - 大语言模型通过自监督学习从海量文本中学习语言规律和知识形成强大的语义理解能力3.相似度: 0.5974 - 大语言模型的涌现能力使其在没有专门训练的情况下也能完成复杂任务如推理和编程4.相似度: 0.4884 - 大语言模型的参数规模从数十亿到数万亿不等参数量越大通常性能越强5.相似度: 0.4183 - ChatGPT是OpenAI开发的大语言模型通过强化学习和人类反馈训练具有优秀的对话能力重排序在高精度领域的重要性适用场景专业性要求高法律、金融、医疗等领域需要高度可靠的参考资料混合检索优化结合多种检索技术时的结果归一化和优先级调整减少AI幻觉风险避免AI因检索不准确而生成错误信息核心价值精准度提升确保最相关的内容位于搜索结果前列减少无关干扰优化进入LLM的文档数量和质量资源优化在有限的计算和提示空间内最大化信息价值总结重排序通过对初步检索结果进行语义层面的二次评估和排序成为提升检索质量和最终答案可靠性的关键技术。它弥补了快速检索的准确性局限特别是在高精度、专业化的应用场景中表现突出尽管带来了更高的计算成本但其对回答质量的改善使其成为优化RAG系统的重要工具。相关文章https://www.51cto.com/aigc/4818.html