https://uhaiin.com/llm LLM 应用开发 零基础实战指南，zjc 的独立技术书阅读站 zh-CN Thu, 27 Aug 2026 05:46:30 +0000 Thu, 27 Aug 2026 05:46:30 +0000 Jekyll v4.4.1 https://uhaiin.com/llm/419d6c4b83f13fca54214538c6012b2f/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。核心链路基础调用：API -> Prompt -> 结构化输出 -> 校验RAG：解析 -> 切块 -> Embedding -> 混合检索 -&gt... Sun, 01 Feb 2026 00:00:00 +0000 https://uhaiin.com/llm/419d6c4b83f13fca54214538c6012b2f/ https://uhaiin.com/llm/0c3d998767f1b5fb8de6aaef32e3ef4e/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。从会用 API 到能设计可靠 LLM 系统，中间是对模型边界、数据质量、业务目标、安全风险和工程演进的持续理解。31.1 能力模型 阶段 能力 ... Sat, 31 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/0c3d998767f1b5fb8de6aaef32e3ef4e/ https://uhaiin.com/llm/bb1ba69067b4aea7700026528075d063/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。本章整理 LLM 应用开发常见面试题，重点给出工程判断和追问方向，而不是背模板答案。30.1 LLM 与传统软件的区别问题：LLM 应用和传统 Web 应用最大的区别是什么？回答要点： ... Fri, 30 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/bb1ba69067b4aea7700026528075d063/ https://uhaiin.com/llm/0266c2071e0701502b5298c7ad7d05a0/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。本章把前面的能力组合成一个企业智能客服知识库。目标是回答政策问题、查询订单状态、处理退款申请草稿，并在信息不足或高风险时转人工。29.1 需求定义用户故事： 用户可以询问退换货、物流、... Thu, 29 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/0266c2071e0701502b5298c7ad7d05a0/ https://uhaiin.com/llm/eb51cba890192c86b88979dcfb852c74/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。LLM 应用的变更包括代码、Prompt、模型、索引、工具策略、护栏和数据集。任何一项变化都可能引起质量漂移，因此需要组合版本、灰度、对比和快速回滚。28.1 发布对象 ... Wed, 28 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/eb51cba890192c86b88979dcfb852c74/ https://uhaiin.com/llm/46f1ef1dd1620c40d7ebb1e1a80266b7/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。LLM 应用的行为不确定，更需要完整记录每次请求的输入、配置、检索、工具、模型输出、校验结果和用户反馈。可观测性用于排障、归因、评测、成本和审计。27.1 三支柱 ... Tue, 27 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/46f1ef1dd1620c40d7ebb1e1a80266b7/ https://uhaiin.com/llm/9eb11f76a9873961b81bdbbdd73c0e37/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。用户感知延迟由排队、检索、工具、模型首字和输出长度共同决定。优化要区分首字延迟、尾延迟和总完成时间，并用 trace 定位瓶颈。26.1 延迟构成总延迟 = 网络 + 队列等待 +... Mon, 26 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/9eb11f76a9873961b81bdbbdd73c0e37/ https://uhaiin.com/llm/34701a2946f13f32bbffe449092413ca/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。LLM 成本来自输入 token、输出 token、工具调用、检索和存储。成本优化的前提是不显著降低质量，并把预算、监控和限流纳入系统设计。25.1 成本构成总成本 = 模型输入 to... Sun, 25 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/34701a2946f13f32bbffe449092413ca/ https://uhaiin.com/llm/1ef18a5dbb85e7b42cd92404b6c5b8ea/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。LLM 应用必须继承企业已有的身份、租户、角色和数据权限体系。模型不能决定用户能看什么，所有数据访问都应由服务端在检索或查询前强制过滤。24.1 身份链路User -> Iden... Sat, 24 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/1ef18a5dbb85e7b42cd92404b6c5b8ea/ https://uhaiin.com/llm/ef0ab7e3ed7161e93180c76518ed7792/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。安全护栏在输入、检索、工具、模型输出和最终展示之间建立多层防线。它不是单个敏感词过滤器，而是策略、模型、规则和人工审核的组合。23.1 风险面 风险 示例... Fri, 23 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/ef0ab7e3ed7161e93180c76518ed7792/ https://uhaiin.com/llm/c10bfe30e342da9dac506a38225f5751/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。幻觉指模型生成了看似合理但缺乏依据、与事实或业务规则冲突的内容。不能期待完全消除，但可以通过数据、检索、约束、校验和流程降低发生率和影响。22.1 幻觉类型 类型 ... Thu, 22 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/c10bfe30e342da9dac506a38225f5751/ https://uhaiin.com/llm/34943f9ccca3004be681a325cb3789b8/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。数据集决定评测上限。它记录的是业务期望，而不是模型当前擅长的内容。建设数据集要兼顾覆盖、难度、隐私、版本和持续迭代。21.1 数据来源 来源 优点 ... Wed, 21 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/34943f9ccca3004be681a325cb3789b8/ https://uhaiin.com/llm/0f4d1f958b745d0bf65cfabd19df617d/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。没有评测，Prompt、模型、检索和工具的修改都是盲改。LLM 应用评测要把主观质量转化为可比较、可回归、可归因的指标。20.1 评测分层 层级 对象 ... Tue, 20 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/0f4d1f958b745d0bf65cfabd19df617d/ https://uhaiin.com/llm/b7eab6ab03dad8de74059195a48cae49/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。企业应用中，LLM 常常只是长流程中的一个节点。工作流编排把模型调用、规则、API、人工审批和异步任务组织成可观测、可恢复的执行图。19.1 为什么需要编排单次调用难以覆盖： 多步骤任... Mon, 19 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/b7eab6ab03dad8de74059195a48cae49/ https://uhaiin.com/llm/0bbabd204d17c66971d50244067e8e19/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。代码执行能补足模型不擅长的精确计算、数据处理和图表生成，但也带来命令执行、文件访问、网络外连和资源耗尽风险。核心原则是：模型可以提出代码，系统决定在受限环境中运行。18.1 应用场景 ... Sun, 18 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/0bbabd204d17c66971d50244067e8e19/ https://uhaiin.com/llm/08f14b1b81972fe9e0a0a6fcc60c7620/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。多 Agent 不是把模型多调几次就叫协作，而是把复杂任务拆给不同角色，通过明确的通信协议、共享状态和决策边界完成工作。它适合大型任务，也带来更高成本和更难的排查。17.1 何时需要多 ... Sat, 17 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/08f14b1b81972fe9e0a0a6fcc60c7620/ https://uhaiin.com/llm/b7843e0072e665e033c84b79001e33d5/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。记忆让应用能利用历史信息，但也会带来成本、隐私、权限污染和上下文失效问题。记忆管理的关键不是保存更多，而是在正确时机取出最小可用信息。16.1 记忆类型 类型 ... Fri, 16 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/b7843e0072e665e033c84b79001e33d5/ https://uhaiin.com/llm/bec596b7f7bc13ea5eddf720df086456/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。Agent 是在目标、工具、状态和停止条件约束下循环决策的系统。它比单次调用更强，也更容易失控。本章讲 Agent 的核心组件、状态机、安全边界和工程实现。15.1 Agent 定义wh... Thu, 15 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/bec596b7f7bc13ea5eddf720df086456/ https://uhaiin.com/llm/b339c13df6b2bf804849570826477967/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。Function Calling 让模型输出结构化工具调用请求，由应用执行工具并把结果返回给模型。模型不直接执行代码，真正执行者永远是应用服务。14.1 基本流程User -> ... Wed, 14 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/b339c13df6b2bf804849570826477967/ https://uhaiin.com/llm/43a6c8f2fe657e7d406c4f9d00b3e6cb/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。一个生产级 RAG 系统不只是“向量库 + 模型”，还包括数据接入、解析、索引、检索、生成、引用、评测、更新、权限、缓存和观测。本章把这些模块串成完整系统。13.1 总体架构离线管道So... Tue, 13 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/43a6c8f2fe657e7d406c4f9d00b3e6cb/ https://uhaiin.com/llm/b9c165e15cf4363f450010132a33da84/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。召回阶段追求“找得到”，重排阶段追求“排得准”。Rerank 模型将查询和候选文档一起编码，能更准确判断细粒度相关性，是提升 RAG 精度的重要环节。12.1 召回与重排Query -... Mon, 12 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/b9c165e15cf4363f450010132a33da84/ https://uhaiin.com/llm/6a828cdb44754e1de60ed971292d84d6/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。向量检索擅长语义相似，但对错误码、型号、人名、版本号等精确信号不稳定；关键词检索相反。混合检索把多种召回路径组合起来，提高复杂查询的覆盖率。11.1 单路召回的盲区 ... Sun, 11 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/6a828cdb44754e1de60ed971292d84d6/ https://uhaiin.com/llm/3c0ca5fb7b8b8a42bee1318ff9594f1a/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。向量库负责存储向量、元数据和索引，并支持相似度查询、过滤、更新和分布式扩展。选型时要同时看召回、延迟、规模、事务、运维和生态。10.1 核心能力 能力 说... Sat, 10 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/3c0ca5fb7b8b8a42bee1318ff9594f1a/ https://uhaiin.com/llm/b6a5edc3d13b97d5853cd306a1a42417/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。Embedding 模型把文本映射为向量，让语义相近的内容在向量空间中接近。它是向量检索的核心，但不是 RAG 的全部。9.1 基本概念"如何申请退款" -> [0.12, -0.... Fri, 09 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/b6a5edc3d13b97d5853cd306a1a42417/ https://uhaiin.com/llm/382fd065f21d9b154f132059b29bd978/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。切块把长文档转换成可检索的知识单元。块太大，向量语义被稀释；块太小，上下文不足。切块策略要与文档结构、检索方式和生成目标匹配。8.1 为什么要切块长文档 -> 解析 blocks... Thu, 08 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/382fd065f21d9b154f132059b29bd978/ https://uhaiin.com/llm/1fa177c20b58154260718a4679c375a3/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。RAG 的质量上限常常在解析阶段就确定了。PDF、Word、HTML、扫描件和表格解析错误，会在后续切块、向量化、检索和生成中被放大。本章讲解析目标、工具选择和质量评估。7.1 解析目标... Wed, 07 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/1fa177c20b58154260718a4679c375a3/ https://uhaiin.com/llm/17ca61fd5259f5ee4da1c4a3f4840dcf/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。生成式模型逐 token 输出，完整结果可能需要数秒。流式响应可以让用户更早看到进展，但它会带来传输协议、超时、安全过滤、输出解析和可观测性问题。6.1 非流式与流式非流式：Client... Tue, 06 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/17ca61fd5259f5ee4da1c4a3f4840dcf/ https://uhaiin.com/llm/ae27dab0b3718b0f9baaad738f9139cf/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。自然语言输出适合人看，业务系统更需要结构化结果。本章讲如何让模型稳定输出 JSON，如何在服务端校验，以及如何设计失败修复流程。5.1 为什么需要结构化用户输入 -> LLM ... Mon, 05 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/ae27dab0b3718b0f9baaad738f9139cf/ https://uhaiin.com/llm/0a37300badb953da99dadd858af676c7/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。Prompt 是 LLM 应用的接口定义。它把任务、上下文、约束和输出格式组织成模型可执行的指令。工程化 Prompt 不是追求“魔法咒语”，而是让需求清晰、可测试、可版本化。4.1 P... Sun, 04 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/0a37300badb953da99dadd858af676c7/ https://uhaiin.com/llm/f90f0fce813cccd3d00d592849855e7b/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。模型 API 是 LLM 应用的基础依赖。调用层要处理协议、参数、认证、超时、重试、限流、流式响应、错误分类和调用追踪。本章以 OpenAI 风格的 Chat Completions 接... Sat, 03 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/f90f0fce813cccd3d00d592849855e7b/ https://uhaiin.com/llm/0d9bd2b8c266b83b9e5191875a7105fb/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。选型的第一步不是找“最强模型”，而是判断任务是否适合模型，以及模型出错时业务能否承受。本章讨论 LLM 的能力边界、适用任务和工程降级方案。2.1 模型擅长什么 任... Fri, 02 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/0d9bd2b8c266b83b9e5191875a7105fb/ https://uhaiin.com/llm/f4829d303ed7e328231858cbe42ea5ca/ 这是《LLM 应用开发 零基础实战指南》的独立章节版。本章从概念、实操和生产排查三个视角展开，代码块保留了原书可直接运行的版本。LLM 应用不是简单调用一次模型接口。一个可靠的生产系统需要处理 Prompt、上下文、结构化输出、检索、工具调用、评测、安全护栏、缓存、成本、延迟、可观测性和灰度回滚。本章先建立 LL... Thu, 01 Jan 2026 00:00:00 +0000 https://uhaiin.com/llm/f4829d303ed7e328231858cbe42ea5ca/