共 3 条路线

学习路线

不知道该从哪看起的时候,照着路线图的顺序走就行。每个阶段都会指到对应的文章或资源。

从零理解大模型

入门

不写代码也能走完的入门路线。先搞懂注意力机制在做一件什么事,再学会怎么把话说清楚让模型听话。

01

这条路线是给完全没接触过大模型的人准备的。不需要数学基础,也不需要会写代码。

很多人入门时直接跳去调 API、搭 RAG,结果一遇到「模型不听话」就不知道怎么排查。根因往往是没搞懂底层在做什么。这条路线先把这两件事补上:

  1. 模型内部在算什么 —— 理解注意力和上下文是怎么工作的,后面调参、调上下文时才有判断力
  2. 怎么把需求说清楚 —— 提示工程是把需求翻译成模型能执行的形式,这是所有应用的基础

走完这两篇,再去看 RAG 和 Agent 会轻松很多,因为你会发现它们本质上都是「怎么把合适的信息放进上下文」的不同答案。

  1. 1
    看懂注意力机制

    丢掉 QKV 的公式恐惧,从「查字典」的直觉理解注意力是怎么工作的,以及为什么要除以 sqrt(d_k)。

  2. 2
    学会和模型对话

    把提示词当成接口来设计——结构化、给示例、约束输出格式,让结果稳定可复现。

大模型应用开发

进阶

从会写提示词到能交付应用:选对模型、接上私有数据、再让模型自己调用工具完成任务。

02

这条路线面向准备把大模型接进真实产品的开发者。

三步的顺序是刻意安排的,每一步都在解决上一阶段的瓶颈:

选型是起点。 很多项目一开始就选错模型——要么杀鸡用牛刀,成本高得离谱;要么用太小的模型,效果不达标反复返工。先建立判断框架,能省下大量试错成本。

RAG 解决「不知道」。 模型不了解你的业务数据,这是做应用时第一个撞上的墙。注意 RAG 的难点不在原理,而在分块、召回和评估这些工程细节。

Agent 解决「不会做」。 当任务需要模型主动查数据、算数、调接口时,单次调用就不够了。理解那个 while 循环之后,你就有了自己判断框架该不该用的能力——而不是被框架牵着走。

走完之后,你应该能独立判断一个需求该用提示工程、RAG、Agent 还是微调来解决。

  1. 1
    先学会选模型

    别只看榜单。用「任务难度 / 成本 / 上下文 / 可用性」四个问题建立自己的选型框架。

  2. 2
    让模型用上你的数据

    RAG 的五个环节、分块策略、混合检索与重排,以及那些 Demo 好用上线翻车的典型原因。

  3. 3
    让模型自己动手

    抛开框架看 Agent 的本质——一个 while 循环。附带完整的 Python 实现和四个必踩的坑。

私有化与模型定制

实战

当数据不能出内网、或者需要模型贴合特定场景时:本地部署、成本评估,以及什么时候真的该上微调。

03

有些场景下,把数据发给第三方 API 这条路根本走不通:金融、医疗、涉密单位,或者单纯是合规要求。

这条路线讲的是私有化落地的完整判断链:先确认是否真的需要,再解决怎么部署,最后才考虑要不要微调。

顺序很重要,而且绝大多数人搞反了。

正确的顺序是:评估 → 部署 → 微调。

搞反的典型表现是先花几万块买显卡,或者一上来就张罗微调数据集——结果发现用 API 加一套 RAG 就能解决问题,成本还更低。

这篇路线的核心其实是一个决策问题:知识不足用 RAG,行为不对才微调。理解这条分界线,能帮你避开私有化落地里最贵的那几个坑。

如果你还不确定自己的问题属于哪一类,先回到大模型应用开发那条路线把 RAG 和提示工程过一遍,通常就清楚了。

  1. 1
    评估:真的需要私有化吗

    先用 API 验证价值再考虑自部署。搞清楚什么情况下自建才划算,别先买卡再找场景。

  2. 2
    把模型跑在自己的机器上

    显存需要多少、量化等级怎么选、Ollama 和 vLLM 该用哪个——附硬件选型对照表。

  3. 3
    把模型调成你要的样子

    知识问题用 RAG,行为问题才微调。LoRA 原理、四个关键超参、QLoRA 省显存,以及数据格式的坑。