Embedding 与向量库入门:搞懂 RAG 为什么能「搜得到」
AI先给结论:RAG 能「搜得到」,靠两样东西——Embedding 把文字变成一串数字(向量),让意思相近的文字在数字空间里离得近;向量库负责把这些向量存起来,并按「离得多近」做检索。Embedding 决定「语义能不能对齐」,向量库决定「搜得快不快、准不准」。D7 那篇知识库能答出文档内容,底层就是这套。
一、为什么 RAG 必须先懂 Embedding
传统搜索靠「关键词匹配」:你搜「退款」,它找含「退款」二字的句子,但「退钱」「撤销订单」就搜不到。大模型要的语义搜索不一样——「退款」和「退钱」意思接近,就该被当成一类。把文字变成向量后,这种「意思接近」就能用「数字距离近」来表达,这正是 Embedding 干的事。
二、Embedding 是什么
- 输入一句话,模型输出一串固定长度的数字,比如 768 或 1536 个;
- 这串数字就是这句话在「语义空间」里的坐标;
- 意思越近,坐标越近(用余弦相似度衡量),意思无关,坐标就远。
所以「退款」和「退钱」的向量挨着,「退款」和「今天天气」的向量离得远。这就是语义检索的地基。
三、向量库干啥
| 职责 | 说明 |
|---|---|
| 存向量 | 把每段文档的向量和原文一起存 |
| 相似查询 | 拿问题的向量,找出最近的几段原文 |
| 快 | 用近似索引,百万级也能毫秒级返回 |
常见选择有轻量的本地库(适合个人),也有分布式的(适合企业)。库本身不聪明,它只负责「按距离找最近」;聪不聪明全看 Embedding 模型。
四、一个最小检索骨架(思路)
# 切分 → 向量化 → 入库 → 查询,四步
chunks = split_text(doc, size=500) # 按 500 字切,别太长
vectors = model.encode(chunks) # Embedding 模型把每段变向量
index.add(vectors, chunks) # 写进向量库,存向量+原文
q_vec = model.encode("怎么退款") # 问题也向量化
hits = index.search(q_vec, top_k=3) # 取最相似的 3 段
answer = llm(hits) # 把命中文段喂给模型生成回答
这就是 D7 知识库的骨架:先离线把文档切了、向量化、入库;用户提问时把问题向量化,捞出最相关的几段,再让模型基于这几段作答。模型没背过你的文档,但它「临时翻到了对的几页」。
五、决定准不准的三个点
| 点 | 影响 | 建议 |
|---|---|---|
| 切分长度 | 太长掺噪声,太短丢上下文 | 按语义段切,300~800 字试起 |
| Embedding 维度/模型 | 决定语义对齐质量 | 用成熟通用模型,别自训 |
| 重排(rerank) | 初检可能排错顺序 | 关键场景加一层重排,取 top 更准 |
六、常见坑
| 坑 | 原因 | 规避 |
|---|---|---|
| 一段塞整篇文档 | 向量被平均,语义糊掉 | 先切分再向量化 |
| 只靠向量初检 | 近似检索排错 | 加 rerank 或提高 top_k 再筛 |
| 中英文混用模型不适配 | 语义对齐差 | 选支持中文的 Embedding 模型 |
| 忘了 D12 的约束 | 模型答出文档外内容 | 提示词写「仅基于检索到的段落回答」 |
七、FAQ
Q:向量库和数据库啥区别? 普通数据库按「精确条件」查(等于、大于),向量库按「距离最近」查,专为语义相似设计。两者常配合:向量库找段落,数据库存业务数据。
Q:和 D7 知识库是什么关系? D7 是「怎么在 OpenClaw 里接知识库」的操作篇;本文是它底层的「为什么能搜到」原理篇。两篇配合看最清楚。
Q:个人项目用哪个向量库? 量小用轻量本地库足够;量大或要并发再上分布式。先别为「未来可能很大」提前上重武器。
小结
RAG 的命脉是Embedding(语义对齐)+ 向量库(按距离检索)。文字变向量、近义靠得近,向量库再把「最近的几段」捞出来喂给模型——这就是知识库能答出文档内容的全部秘密。准不准,七分看切分和 Embedding 模型,三分看要不要加重排。配合 D12 的提示词约束(「只基于检索段落答」),幻觉能压住一大半。具体模型、维度与库选型以你查阅当天官方说明为准。