网站建设+临沂三角形景观绿化设计图

网站建设+临沂,三角形景观绿化设计图,沈阳之道网站建设,宁波seo营销RAG#xff08;Retrieval-Augmented Generation#xff0c;检索增强生成#xff09;是当前大模型应用中最主流的架构之一。它通过结合外部知识库与大语言模型#xff08;LLM#xff09;#xff0c;有效缓解了模型幻觉、知识滞后和领域专业性不足等问题。本文将带你从零开…RAGRetrieval-Augmented Generation检索增强生成是当前大模型应用中最主流的架构之一。它通过结合外部知识库与大语言模型LLM有效缓解了模型幻觉、知识滞后和领域专业性不足等问题。本文将带你从零开始完整实现一个生产级 RAG 系统。一、RAG 系统整体架构一个典型的 RAG 系统包含以下核心模块用户提问 → 查询理解 → 向量检索 → 文档重排 → 提示工程 → LLM 生成 → 输出 ↑ ↑ 可选 可选 查询改写 重排序模型我们将逐步实现每个环节。二、环境准备pipinstalllangchain0.2.0\langchain-community\langchain-core\langchain-text-splitters\sentence-transformers\chromadb\rank_bm25\transformers\torch\openai\python-dotenv建议使用 Python 3.9并设置虚拟环境。三、数据准备加载与切分文档1. 加载文档支持 PDF、Word、TXT、HTML 等格式fromlangchain_community.document_loadersimportPyPDFLoader,DirectoryLoader loaderDirectoryLoader(./docs,glob*.pdf,loader_clsPyPDFLoader)documentsloader.load()2. 文本切分Chunking合理切分对检索质量至关重要。推荐使用语义感知切分fromlangchain_text_splittersimportRecursiveCharacterTextSplitter text_splitterRecursiveCharacterTextSplitter(chunk_size512,chunk_overlap50,separators[\n\n,\n,。,,,, ,])chunkstext_splitter.split_documents(documents)技巧chunk_overlap可避免语义割裂separators按优先级断句。四、向量化构建嵌入Embedding1. 选择 Embedding 模型开源本地模型BAAI/bge-large-zh-v1.5中文强、text-embedding-ada-002OpenAI本地部署推荐sentence-transformersfromlangchain_community.embeddingsimportHuggingFaceBgeEmbeddings embeddingsHuggingFaceBgeEmbeddings(model_nameBAAI/bge-large-zh-v1.5,model_kwargs{device:cuda},encode_kwargs{normalize_embeddings:True})2. 构建向量数据库使用 Chroma轻量级或 Milvus生产级importchromadbfromlangchain_chromaimportChroma vectorstoreChroma.from_documents(documentschunks,embeddingembeddings,persist_directory./chroma_db)retrievervectorstore.as_retriever(search_kwargs{k:5})k5表示检索 Top-5 相关片段。五、检索优化关键原始向量检索可能召回不相关结果需优化1. 查询改写Query Rewriting使用 LLM 对用户问题进行澄清或扩展fromlangchain_core.promptsimportPromptTemplatefromlangchain_openaiimportChatOpenAI rewrite_promptPromptTemplate.from_template(你是一个查询优化器。请将以下用户问题改写为更清晰、更适合检索的形式{question})llmChatOpenAI(modelgpt-4o)rewriterrewrite_prompt|llm rewritten_queryrewriter.invoke({question:怎么重启服务}).content2. 混合检索Hybrid Search结合关键词BM25 向量检索fromrank_bm25importBM25Okapiimportjieba# 构建 BM25 索引中文需分词corpus[doc.page_contentfordocinchunks]tokenized_corpus[list(jieba.cut(text))fortextincorpus]bm25BM25Okapi(tokenized_corpus)defhybrid_search(query,k5):# 向量检索vec_resultsretriever.invoke(query)vec_ids{doc.metadata[id]fordocinvec_results}# BM25 检索tokenized_querylist(jieba.cut(query))bm25_scoresbm25.get_scores(tokenized_query)top_bm25sorted(range(len(bm25_scores)),keylambdai:bm25_scores[i],reverseTrue)[:k]# 融合取并集去重all_docsvec_results[chunks[i]foriintop_bm25ifinotinvec_ids]returnall_docs[:k]3. 重排序Re-ranking使用 Cross-Encoder 模型对 Top-K 结果重新打分fromsentence_transformersimportCrossEncoder rerankerCrossEncoder(BAAI/bge-reranker-large)pairs[(query,doc.page_content)fordocinretrieved_docs]scoresreranker.predict(pairs)reranked[docfor_,docinsorted(zip(scores,retrieved_docs),reverseTrue)]六、提示工程与生成构建高质量 Prompttemplate 你是一个专业客服助手请根据以下上下文回答用户问题。 - 如果答案不在上下文中请回答“根据现有资料无法回答”。 - 保持回答简洁、准确。 上下文 {context} 问题{question} 回答 promptChatPromptTemplate.from_template(template)构建 RAG 链fromlangchain_core.runnablesimportRunnablePassthroughfromlangchain_core.output_parsersimportStrOutputParser rag_chain({context:retriever,question:RunnablePassthrough()}|prompt|llm|StrOutputParser())answerrag_chain.invoke(如何配置 API 密钥)七、评估与迭代RAG 系统需持续评估检索质量MRR生成质量ROUGE、BLEU、人工评分端到端效果使用 TruLens 或 RAGAS 框架# 示例用 RAGAS 评估fromragasimportevaluatefromragas.metricsimportfaithfulness,answer_relevancy resultevaluate(datasetyour_test_set,metrics[faithfulness,answer_relevancy],llmllm,embeddingsembeddings)八、部署建议本地测试FastAPI Uvicorn生产部署Docker 容器化搭配 Redis 缓存、Nginx 负载均衡监控记录查询日志、延迟、失败率总结一个健壮的 RAG 系统 ≠ 简单拼接“检索 LLM”。关键在于高质量数据切分混合检索 重排序精准的提示工程持续评估与迭代