Embedding 与向量库入门:搞懂 RAG 为什么能「搜得到」

先给结论:RAG 能「搜得到」,靠两样东西——Embedding 把文字变成一串数字(向量),让意思相近的文字在数字空间里离得近;向量库负责把这些向量存起来,并按「离得多近」做检索。Embedding 决定「语义能不能对齐」,向量库决定「搜得快不快、准不准」。D7 那篇知识库能答出文档内容,底层就是这套。

一、为什么 RAG 必须先懂 Embedding

传统搜索靠「关键词匹配」:你搜「退款」,它找含「退款」二字的句子,但「退钱」「撤销订单」就搜不到。大模型要的语义搜索不一样——「退款」和「退钱」意思接近,就该被当成一类。把文字变成向量后,这种「意思接近」就能用「数字距离近」来表达,这正是 Embedding 干的事。

二、Embedding 是什么

  • 输入一句话,模型输出一串固定长度的数字,比如 768 或 1536 个;
  • 这串数字就是这句话在「语义空间」里的坐标;
  • 意思越近,坐标越近(用余弦相似度衡量),意思无关,坐标就远。

所以「退款」和「退钱」的向量挨着,「退款」和「今天天气」的向量离得远。这就是语义检索的地基。

三、向量库干啥

职责说明
存向量把每段文档的向量和原文一起存
相似查询拿问题的向量,找出最近的几段原文
快用近似索引,百万级也能毫秒级返回

常见选择有轻量的本地库(适合个人),也有分布式的(适合企业)。库本身不聪明,它只负责「按距离找最近」;聪不聪明全看 Embedding 模型。

四、一个最小检索骨架(思路)

# 切分 → 向量化 → 入库 → 查询,四步
chunks = split_text(doc, size=500)     # 按 500 字切,别太长
vectors = model.encode(chunks)         # Embedding 模型把每段变向量
index.add(vectors, chunks)             # 写进向量库,存向量+原文

q_vec = model.encode("怎么退款")        # 问题也向量化
hits = index.search(q_vec, top_k=3)    # 取最相似的 3 段
answer = llm(hits)                     # 把命中文段喂给模型生成回答

这就是 D7 知识库的骨架:先离线把文档切了、向量化、入库;用户提问时把问题向量化,捞出最相关的几段,再让模型基于这几段作答。模型没背过你的文档,但它「临时翻到了对的几页」。

五、决定准不准的三个点

点影响建议
切分长度太长掺噪声,太短丢上下文按语义段切,300~800 字试起
Embedding 维度/模型决定语义对齐质量用成熟通用模型,别自训
重排(rerank)初检可能排错顺序关键场景加一层重排,取 top 更准

六、常见坑

坑原因规避
一段塞整篇文档向量被平均,语义糊掉先切分再向量化
只靠向量初检近似检索排错加 rerank 或提高 top_k 再筛
中英文混用模型不适配语义对齐差选支持中文的 Embedding 模型
忘了 D12 的约束模型答出文档外内容提示词写「仅基于检索到的段落回答」

七、FAQ

Q:向量库和数据库啥区别? 普通数据库按「精确条件」查(等于、大于),向量库按「距离最近」查,专为语义相似设计。两者常配合:向量库找段落,数据库存业务数据。

Q:和 D7 知识库是什么关系? D7 是「怎么在 OpenClaw 里接知识库」的操作篇;本文是它底层的「为什么能搜到」原理篇。两篇配合看最清楚。

Q:个人项目用哪个向量库? 量小用轻量本地库足够;量大或要并发再上分布式。先别为「未来可能很大」提前上重武器。

小结

RAG 的命脉是Embedding(语义对齐)+ 向量库(按距离检索)。文字变向量、近义靠得近,向量库再把「最近的几段」捞出来喂给模型——这就是知识库能答出文档内容的全部秘密。准不准,七分看切分和 Embedding 模型,三分看要不要加重排。配合 D12 的提示词约束(「只基于检索段落答」),幻觉能压住一大半。具体模型、维度与库选型以你查阅当天官方说明为准。

相关推荐

相关推荐

评论(0)
发表评论