你了解网站建设吗 软文案例网站开发费用报价

你了解网站建设吗 软文案例,网站开发费用报价,东莞路桥总公司电话,静态做头像的网站简介 本文记录阿里淘天大模型岗面试真题回顾#xff0c;包含17个核心问题及详细解答#xff0c;涵盖测试时扩展、Transformer显存消耗、DeepSeek-R1训练阶段、自适应推理、PPO/DPO算法、RAG流程、图RAG算法等关键技术点。内容全面深入#xff0c;既有理论解析又有实践指导包含17个核心问题及详细解答涵盖测试时扩展、Transformer显存消耗、DeepSeek-R1训练阶段、自适应推理、PPO/DPO算法、RAG流程、图RAG算法等关键技术点。内容全面深入既有理论解析又有实践指导为准备大模型面试的求职者提供宝贵参考是通往大厂岗位的必备学习资料。是时候准备实习和面试了。不同以往的是当前职场已不再是那个双向奔赴时代了。求职者在变多HC 在变少岗位要求还更高了。最近我们又陆续整理了很多大厂的面试题帮助一些球友解惑答疑分享技术面试中的那些弯弯绕绕。本文记录网友“南门子”应聘阿里淘天大模型岗的面试真题回顾特别是那些考察基础理论、模型原理和经典知识的“八股”题目并附上他的作答参考希望能为后来者提供借鉴。1. 测试时扩展test-time scaling是什么怎么实现答测试时扩展也称测试时计算优化或推理时扩展是一种在大型模型推理阶段动态分配额外计算资源如 GPU以提升输出质量的技术。其核心思想是不修改模型参数仅通过优化推理过程如多次采样、自我验证、延长思考步骤来提高模型在复杂任务中的表现尤其针对需要深度推理的场景如数学、编程、逻辑分析。常见的实现方法包括多次采样外部扩展对同一输入进行多次推理取平均或投票结果。自我验证内部扩展在推理过程中模型自身进行验证并选择最佳的推理结果。CoT内部扩展模型在推理过程中通过生成推理步骤并使用这些步骤来生成推理结果。延长思考步骤内部扩展在 CoT 中加入特殊指令如Wait强制模型延长思考时间纠正错误思路。例如模型尝试提前输出答案时追加Wait标记使其继续推理直至达到计算预算上限。2. 基于 Transformer 架构的大模型在推理时显存主要消耗在哪些方面答推理时显存主要消耗在如下三个方面。模型参数占用 2x 模型参数量 GB 的显存。激活值Transformer 模型在推理时需要存储每一层的激活值通常占用 2 x 批大小 x 序列长度 x 层数 x 隐层维度 GB 的显存。3. Deepseek-R1 训练的四个阶段DeepSeek-R1 的训练流程分为四个核心阶段通过**两轮有监督微调SFT和两轮强化学习RL**的交替优化逐步提升模型的推理能力、通用性及安全性。第一阶段冷启动监督微调Cold Start SFT方法使用****数千条人工标注的高质量思维链CoT数据包含多语言对齐的规范格式如reasoning与/reasoning标签对基础模型DeepSeek-V3-Base进行轻量微调。作用激发模型遵循人类偏好输出逻辑连贯的推理过程为后续RL提供稳定起点显著缩短收敛时间并提升可读性。第二阶段面向推理的强化学习Reasoning-Oriented RL方法混合奖励函数包括****规则奖励答案正确性如代码测试通过、格式规范性语言一致性奖励惩罚中英文混杂提升目标语言占比。采用 GRPO 算法训练至模型在推理任务上收敛如 AIME 2024 准确率从 15.6% 提升到 71.0%。作用专攻数学、编程、科学等复杂推理任务优化多步逻辑严谨性。第三阶段拒绝采样与监督微调Rejection Sampling SFT方法推理数据采用拒绝采样方法从 RL 模型中生成响应筛选高质量答案约 60 万条推理数据。通用数据复用 DeepSeek-V3 的 SFT 数据集约 20 万条覆盖写作、问答、角色扮演等任务。两轮监督微调第一轮仅使用 60 万条拒绝采样数据微调模型第二轮用全部的 80 万条数据微调模型平衡推理与非推理能力。作用扩展多领域能力解决 RL 过拟合问题。第四阶段全场景强化学习RL for All Scenarios方法多样化奖励机制推理任务沿用规则奖励如数学答案验证。通用任务如对话、写作使用神经奖励模型评估无害性和实用性。多提示分布训练融合用户查询、长文本理解等场景确保模型适应复杂需求。目标对齐人类偏好提升安全性与开放域泛化能力最终输出兼具推理严谨性与自然交互能力的****DeepSeek-R1模型。4. 大模型自适应推理的方法都有哪些分别展开说说自适应推理都是通过大模型的后训练技术来实现的代表方法如下Qwen3阿里基本思想是让用户来控制模型是否进行思考以及思考的深度而不是模型自适应决定。基础模型已经经过一轮 SFT 一轮 RL 微调过的、具有推理能力的 Qwen3 模型。训练方法在 Qwen3 训练的第三阶段。聊天模板对聊天模板进行了改进在用户输入之后引入特殊 token - /think 和 /no_think 来控制模型是否进行思考有监督训练混合推理模型自己生成的推理数据和人工收集的无推理数据然后对推理模型做有监督微调。AdaCoT字节基本思想是平衡思考开销和模型性能即建模帕累托多目标优化问题最大化模型的性能同时最小化 CoT 思考触发率。基座模型基础模型仅预训练豆包 1.515B/150B MoE 架构。有监督训练使用一个 15B 的模型标注哪些数据是复杂问题构造为think reasoning_steps /think answer的形式以及哪些数据是简单问题构造为think /think answer的形式然后对模型做有监督训练预热训练。无监督训练奖励函数四方面评分加权求和分别是回答质量分数推理遗漏惩罚0 或 -1思考过度惩罚0 或 -1以及格式惩罚0 或 -1训练过程使用 PPO 强化学习算法计算损失时不计算think之后第一个 token 决策 token的损失该方法叫做选择性损失掩模Selective Loss MaskingSLMAdaptThink清华基本思路也是训练模型根据问题的难度选择是否思考实现的方法主要是约束优化和重要性采样。其中约束优化是说模型在不做思考的情况下响应的质量不能比思考后响应的质量差重要性采样是指因为参考模型是个推理大模型他不可能不输出思考过程因此对响应 y 输入为 x think的第一个 token以 50% 的概率将其替换为/think。基座模型推理大模型DeepSeek-R1-Distill-Qwen-1.5B 和 DeepSeek-R1-Distill-Qwen-7B。5. PPO 和 DPO 的主要思想是什么DPO 相比 PPO 的 RLHF 做了哪些改进答PPO 算法的核心思想是在约束策略更新幅度的前提下最大化奖励而 DPO 的核心思想是将强化学习转化为偏好分类问题。DPO 相比 PPO-RLHF 实现了四大改进训练流程简化消除强化学习循环PPO 需要四个模型策略模型Actor、参考模型Reference、奖励模型Reward Model、价值网络Critic用于计算优势函数。DPO 只需要两个模型策略模型和参考模型。此外DPO 将 PPO 的迭代采样-评分-参数更新简化为单阶段的有监督训练。数据效率优化PPO 的迭代训练需要将同批次数据复用 20~50 次而 DPO 只需一次训练。训练速度提升同数据集、同硬件条件下PPO-RLHF 的收敛速度是 DPO 的 ~10 倍PPO-RLHF 的单步训练耗时是 DPO 的 ~4.5 倍因此DPO 的训练速度相比 PPO 提升 ~45 倍。DeepSeek 提出的 GRPO 仅用 2 个模型Actor Reward省去 Critic 和 Reference显存降低 50%。但其可行性依赖强基座模型如 DeepSeek-V3通用性仍需验证。一直在更新更多的大模型学习和面试资料已经上传带到CSDN的官方了有需要的朋友可以扫描下方二维码免费领取【保证100%免费】6. RAG 的基本流程是什么Naive RAG四步chunk - index - retrieval - generation。Advanced RAG五步chunk - index - retrieval - re-rank - generation。Agentic RAGAgentic RAG RAG × AI Agent通过动态代理协调 多跳推理 自我优化将 RAG 从静态工具升级为主动问题解决者成为处理开放域复杂任务的下一代范式。7. 在检索增强生成RAG框架中为什么要引入重排序步骤重排序的原理是什么答在检索增强生成RAG框架中重排序Re-ranking是关键的后处理步骤用于优化初步检索结果的质量从而提升大语言模型LLM生成答案的准确性和相关性。作用初步检索采样向量检索如余弦相似度或关键词匹配如 BM25检索语料库仅关注文本表层特征忽略了深层语义关联。例如查询糖尿病治疗方案可能匹配到提及糖尿病但内容无关的文档因此初步检索返回的 Top-K 文档如 Top-50常包含低相关文本直接输入LLM会导致生成答案偏离主题或包含错误信息。重排序通过精细化排序将真正相关的文档置于前列使 LLM 优先使用高质量上下文生成答案的准确率提升 20%~50%。一种常见的做法为先用快速检索如 BM25召回 100 篇文档再用重排序精炼 Top-5。原理交互式语义建模Cross-Encoder架构将查询Query和文档Document拼接后输入 Transformer 模型通过全注意力机制直接生成相关性分数。公式表示Score Transformer([CLS] Query [SEP] Document [SEP])。重排序模型能够捕捉 Query 和 Document 之间的多维度特征包括语义相似度、上下文一致性、领域特征等。主流重排序方法基于 PLM如BGE-Reranker、BERT-Reranker、ColBERT 等利用预训练语言模型PLM对 Query 和 Document 进行编码计算相似度分数。基于 LLM如RankGPT、Zero-Shot Prompting 等利用大语言模型的强大语义理解能力通过零样本提示Zero-Shot Prompting直接对 Query 和 Document 进行相关性评分。混合策略结合传统检索方法如 BM25和深度学习模型如 Cross-Encoder先进行初步检索召回 Top-100再通过重排序模型优化结果召回 Top-10。8. Embedding Model 和 ReRanker 的异同答Embedding Model 和 ReRanker 在 RAG 框架中扮演不同的角色。Embedding 快速找候选Reranker 精准确定排名二者协同构成 RAG 的黄金管道Embedding 扩大搜索范围Reranker 提炼核心信息共同提升LLM生成质量。典型应用场景9. 介绍你知道的图 RAG 算法答我知道的图 RAG 算法主要有 LightRAG 和 GraphRAG。1LightRAG具体实现方式步骤如下分块Chunk 索引Indexing将文本分割成小块并构建出基于图的索引结构。文本分割将文档分割成小块。实体、关系提取利用 LLM 识别并提取每块文本中的实体如名称、日期、地点、事件等和它们之间的关系形成知识图谱中的节点和边。生成键值对对每个实体节点和关系边使用 LLM 配置文件函数生成文本键值对其中键是单词或短语用于高效检索值是总结相关片段的文本段落辅助文本生成。图去重与优化识别并合并来自不同文本段的相同实体和关系减小图的大小提高数据处理效率得到最终的知识图谱。检索Retrieval双层检索。查询关键词提取对于给定查询 q提取局部查询关键词和全局查询关键词。关键词匹配利用向量数据库匹配本地查询关键词与候选实体全局查询关键词与链接到全局键的关系。高阶相关性增强收集检索到的图元素的邻接节点以增强查询的高阶相关性实现高效检索相关实体和关系提高结果的全面性。生成Generation将检索到的信息包括相关实体和关系的值等和初始查询一起输入通用 LLM生成与用户需求对齐的全面答案。2GraphRAG具体实现方式步骤如下分块Chunk将源文档提取的文本按一定粒度分割成文本块确定合适的块大小以平衡 LLM 调用次数和长文本上下文窗口的召回率。索引IndexingGraphRAG 的建立文本块索引的步骤比较复杂包括图元素抽取、图元素摘要、图社区构建和图社区摘要等 4 个步骤。图元素抽取对于每个文本块使用 LLM 识别并提取图节点和边的实例包括实体的名称、类型、描述以及实体之间的关系等并输出为带分隔符的元组列表。也可以根据需要提取与节点实例相关联的额外协变量。图元素摘要使用 LLM 对图中的元素实例进行总结将每个图元素实体节点、关系边和声明协变量的实例级摘要转换为单块描述性文本以消除重复节点并提高总结质量。图社区构建将元素摘要表示为同质无向加权图使用 Leiden 算法等社区检测算法将图划分为节点之间连接更紧密的社区得到不同层次的社区划分。图社区摘要为每个社区生成报告式的摘要。对于叶级社区按优先级将元素摘要添加到 LLM 上下文窗口直至达到令牌限制对于更高级别的社区根据需要替换子社区摘要以适应上下文窗口。检索Retrieval准备社区摘要对于用户查询随机打乱社区摘要并按预设令牌大小分成块确保相关信息分散在不同的块中。映射社区答案并行生成每个块的中间答案并让 LLM 生成一个表示答案对目标问题帮助程度的分数过滤掉得分为 0 的答案。生成Generation将中间社区答案按帮助分数降序排列并迭代添加到新的上下文窗口直至达到令牌限制使用此最终上下文生成返回给用户的全局答案。10. 你认为好的大模型提示词应该是什么样的答好提示词的黄金公式 清晰角色 结构化任务 强约束 可验证。角色明确模型身份如编程助手结构使用 TAG(Task Action Goal) / COS(Context Objective Steps) 框架分步拆解约束指定格式、长度、安全红线验证通过人工评审及指标量化效果提示词优化工具11. 为什么现在 Decoder-only 成为大模型的主流架构相比于 Encoder-Decoder 的架构好在哪里答主要有三方面的原因包括工程实现、计算效率、以及任务适配度。1工程实现优势Decoder-only 简化了 Transformer 的工程实现仅需要实现 Masked Attention 机制无需考虑无 Mask 的 Attention以及 Cross-Attention 的复杂性。2计算效率优势节省参数在同等深度层数设定下并且假设超参数设置相同如头数、隐层维数Decoder-only 的参数量是 Encoder-Decoder 的一半。节省算力Encoder-Decoder 架构的 Encoder 部分采用无掩模的注意力机制只有 Decoder 部分采用 Masked AttentionMasked Attention 计算量是无掩模 Attention 的一半。推理加速在推理阶段Decoder-only 可以利用 KV-Cache 复用机制显著降低多轮对话的延迟而 Encoder-Decoder 则需要重新计算编码器输出缓存效率较低这个问题在多轮对话场景中尤为突出。3任务适配度优势CLM 因果语言建模预训练目标在文本生成方面的先进性已经被广泛证明Decoder-only 天然适配 CLM并且进一步方便了 Prompting、In-Context Learning 的实现。特别说明实验证明在语言建模类任务文本生成、故事创作、代码补全中Decoder-only 的困惑度PPL显著低于 Encoder-Decoder。而类似 T5 这样 Encoder-Decoder 架构的 Transformer 在各种 Seq2Seq 任务如机器翻译、文本摘要、代码生成等中表现优秀。虽在翻译任务表现优异但因参数量翻倍11B T5≈5.5B GPT公平比较下无优势。12. Decoder-only 架构的注意力矩阵为什么是满秩的满秩注意力矩阵有什么优势答Decoder-only 架构的核心是因果注意力Causal Attention其注意力矩阵是严格的下三角矩阵因为三角矩阵的行列式 对角线元素之积又 Softmax 保证了注意力矩阵中所有元素均为正因此对角线元素也均为正 - 行列式恒为正 - 矩阵满秩。满秩注意力矩阵的优势包括完全的位置关系建模满秩矩阵的行/列向量线性无关能精确表示序列中任意位置的依赖关系。更大的模型容量注意力矩阵中没有冗余参数因为行/列向量线性无关彼此无法线性表示能够更好地利用参数空间提升模型的表达能力。工程实践优势相比与 Encoder-Decoder 模型Decoder-only 的泛化能力更强GPT 的 Zero-shot 能力强于 T5微调时收敛更快。13. 大模型的灾难性遗忘问题是什么怎么解決释义大模型的灾难性遗忘Catastrophic Forgetting是指模型在适应新任务或新数据时对先前学到的知识出现大面积遗忘导致其在旧任务上的性能急剧下降的现象宏观表现为大模型微调后变傻了。原因造成灾难性遗忘的根本原因是由于在训练微调过程中反向传播优化新任务损失时全局权重更新会破坏旧任务对应的参数模式解决方案至少有四种参数结构隔离法为不同任务分配独立参数路径避免共享参数的冲突更新。代表方法Adapter/LoRA 模块化扩展冻结原模型参数插入轻量级可训练模块如 AdapterLoRA仅更新新增参数。数据回放法混合新旧任务数据训练强制模型同时记忆历史与当前知识。真实数据回放存储少量旧任务典型样本1%~5%与新数据混合训练合成数据回放用大模型自身生成旧任务的合成数据替代真实数据。正则化约束参数更新幅度保护重要权重不被覆盖。弹性权重巩固Elastic Weight ConsolidationEWC计算参数重要性Fisher 信息矩阵损失函数中惩罚重要参数的大幅度更新。自我蒸馏Self-DistillationSDFT让微调后的模型模仿初始模型的输出分布缩小知识差距。训练新任务时使用旧任务的教师模型输出作为软标签指导新模型学习。工业实践推荐-优先 LoRA 合成回放如金融报告生成系统 - 高安全场景用 SDFT 蒸馏如医疗诊断模型 - 动态任务扩展选 Adapter 路由如多语言翻译引擎。14. 大模型生成内容的方法都有哪些它们的区别是什么答常用的文本生成策略包括 Top-p、Top-k、集束搜索Beam Search和贪婪解码Greedy Decoding四种。15. 造成大模型复读机问题的原因是什么怎么解决复读机问题简答版本复读机问题是 LLM 统计学习本质的映射当前工业界通过数据清洗 - 解码调参 - 后处理三级流水线可有效缓解参考阿里云、DeepSeek。以下是详细版本答造成大模型复读机问题的原因主要有三个方面。数据质量方面简而言之就是训练数据中包含大量重复的模式。比如用语重复性互联网训练数据中高频出现重复短语如新闻标题套路、社交媒体热词模型过度拟合这些模式。多样性缺失垂直领域数据不足时如电商标题模型只能复现有限表达。解码策略的局限性搜索策略贪婪解码与集束搜索会优先选择概率最高的词抑制低概率但合理的选项加剧重复。采样策略温度Temperature设置过低低温会强化高频词概率分布抑制多样性。注意力机制缺陷上下文窗口限制模型无法追踪长距离依赖如 2048 tokens遗忘前文内容导致重复生成相似段落。诱导头Induction Heads现象模型倾向于从已生成文本中复制局部模式如连续三个形容词结构。训练目标的局限性Next-Token Prediction 任务追求局部最优token 级别的生成而非全局最优完整句子的一致性生成保守文本。缺乏显式多样性约束传统的有监督训练损失函数交叉熵未惩罚重复行为。根据上述分析解决复读机问题的方法也主要可以从四个方面考虑数据清洗与增强删除重复语料加入多语言、多风格数据。解码策略调参Top-p 采样优先选用Top-p 采样方法动态选择累积概率≥p的最小词集避免固定 k 值的僵化。温度调节高温增强多样性低温保连贯性因此可以适当提高温度如 0.7~1.0增加低概率词的采样机会。重复惩罚降低已出现词的 logit 分值强制模型转向新词。架构与推理升级扩展位置编码如RoPE、窗口注意力Sliding Window突破长度限制。训练技术创新损失函数改进可选择Unlikelihood Training对重复 n-gram 施加负向损失主动抑制复制行为。对比学习Contrastive Loss拉大正负样本距离避免输出坍缩。**参数高效微调**LoRA/P-Tuning冻结主干参数仅微调适配器保留通用性并注入领域多样性。*. 后处理与人工干预。实时去重算法检测删除连续重复n-gram如no_repeat_ngram_size3。置信度加权评分对关键术语如医学术语赋予高权重降低通用短语重要性。人工反馈强化学习RHLF标注员对非重复文本奖励微调模型偏好。场景化解决方案推荐16. 对比 Deepspeed 和 Megatron 的区别答Deepspeed 和 Megatron 的差异主要体现在并行策略优化、硬件适配性和功能定位等方面。并行策略优化Deepspeed主要对****数据并行进行优化在各个 GPU 之间共享模型切片、梯度、优化器参数。Megatron主要针对****模型并行进行优化包括张量并行和流水线并行支持大规模模型的切分和分布式训练。硬件适配性Deepspeed支持多种硬件平台如 CPU 和 GPU并且可以将优化器状态卸载到 CPU 上适合资源受限的环境。Megatron深度优化 NVIDIA GPU特别是 Tensor Core 加速依赖 NCCL 通信库主要在高性能计算集群如 DGX/A100上表现优异。功能定位Deepspeed着眼于****降低显存占用从而赋能资源受限场景中的大规模模型训练适用于资源受限的场景。Megatron着眼于****硬件GPU性能压榨从而加速模型训练适用于硬件资源充足的场景进一步提升训练效率。实际上Megatron 才是在加速模型的训练过程而 Deepspeed 更多是降低硬件资源的占用。Megatron 才应该叫 DeepspeedDeepspeed 应该叫 Efficient-Memory两者可以结合使用Deepspeed 可以在 Megatron 的基础上进一步优化资源使用。17. [重点] 目前有一些专业领域知识比如医疗知识或者法律条文准备做一个智能助手要让你搭建一个 RAG 链路你会怎么做答我会分为 5 大核心模块实现全链路设计方案。1知识库构建Data Foundation数据来源医疗临床指南如UpToDate、药典、医学期刊PubMed、电子病历脱敏数据法律法律法规库、司法解释、判例文书、合同范本嵌入模型选型通用场景text-embedding-3-large领域优化微调BAAI/bge-large-zh法律/医疗语料存储方案向量数据库Pinecone高并发或 Milvus开源结构化元数据Elasticsearch支持法条编号、发布日期等字段过滤2查询理解模块Query Understanding意图识别医疗分类器识别咨询类型诊断/用药/预后法务分类器识别法律条款类型合同/法律/Policy查询改写首先建立标准术语表然后 prompting LLM 对查询进行改写。如法律场景扩展缩写“民法典第 584 条” - “《中华人民共和国民法典》第五百八十四条”医疗术语标准化“心梗” - “心肌梗死”3混合检索系统Hybrid Retrieval4证据增强生成Evidence-Augmented Generation提示词工程关键结构[系统指令] 你是一名专业律师基于以下法律条文解答问题生成模型选型通用GPT-4-turbo128K上下文领域微调Llama 3 法律文书微调LoRA5安全与合规层Safety Compliance事实性校验医疗通过 UMLS统一医学语言系统校验术语一致性法律条文时效性检查对比发布日期与生效日期风险拦截生成响应的后处理defrisk_detection(text):**溯源展示**输出时附带知识片段来源如《民法典》第XXX条2023 年修订版。6其他隐私性如患者隐私保护在知识库预处理中自动删除病历中的姓名/身份证号NER 模型正则。评估与迭代迭代策略错误案例分析构建误检样本回流系统持续训练每月用新数据微调检索/生成模型代码23.合并 K 个升序链表import heapq代码1143. 最长公共子序列动规经典题目直接秒deflongestCommonSubsequence(text1: str, text2: str) - int:一直在更新更多的大模型学习和面试资料已经上传带到CSDN的官方了有需要的朋友可以扫描下方二维码免费领取【保证100%免费】如何系统的学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。01.大模型风口已至月薪30K的AI岗正在批量诞生2025年大模型应用呈现爆发式增长根据工信部最新数据国内大模型相关岗位缺口达47万初级工程师平均薪资28K数据来源BOSS直聘报告70%企业存在能用模型不会调优的痛点真实案例某二本机械专业学员通过4个月系统学习成功拿到某AI医疗公司大模型优化岗offer薪资直接翻3倍02.大模型 AI 学习和面试资料1️⃣ 提示词工程把ChatGPT从玩具变成生产工具2️⃣ RAG系统让大模型精准输出行业知识3️⃣ 智能体开发用AutoGPT打造24小时数字员工熬了三个大夜整理的《AI进化工具包》送你✔️ 大厂内部LLM落地手册含58个真实案例✔️ 提示词设计模板库覆盖12大应用场景✔️ 私藏学习路径图0基础到项目实战仅需90天第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】