公告AI接口网提供各类可接入的人工智能接口
AI接口网AI 接口选型与接入工程手册
首页/接入实战/用接口搭一个最小可用的 RAG:不装框架,200 行以内

用接口搭一个最小可用的 RAG:不装框架,200 行以内

2026-11-22约 9 分钟读完RAG向量检索

RAG(检索增强生成)的价值是把「模型的记忆」换成「你的资料」。它不神秘,本质是四步:切分、向量化、召回、拼进 prompt。

第一步:切分

这是最影响效果、也最容易被忽视的一步。三条实用规则:

  • 按语义边界切(段落、标题、表格行),不要按固定字数硬切。
  • 每段 300~800 字,重叠 80~150 字。太短丢上下文,太长稀释相关性。
  • 给每段加「来源标题 + 章节路径」作为前缀,召回后模型才知道这段话属于哪。
python
def chunk(text, size=600, overlap=120):
    paras = [p.strip() for p in re.split(r'\n\s*\n', text) if p.strip()]
    out, buf = [], ''
    for p in paras:
        if len(buf) + len(p) <= size:
            buf += ('\n' if buf else '') + p
        else:
            if buf: out.append(buf)
            buf = (buf[-overlap:] + '\n' + p) if overlap and buf else p
    if buf: out.append(buf)
    return out

第二步:向量化

python
def embed(texts, model="text-embedding-3-small"):
    r = session.post(BASE + "/embeddings",
                     json={"model": model, "input": texts}, timeout=60)
    r.raise_for_status()
    return [d["embedding"] for d in r.json()["data"]]

注意两点:批量上限(一次几十到上百条,超了会 400);同一批资料必须用同一个向量模型,换模型等于重建索引。向量通常归一化后存,用余弦相似度检索。

第三步:召回

纯向量召回在「精确匹配」上很弱:用户问「陕ICP备05033212号」,向量检索很可能找不到,因为语义上它和别的备案号没区别。混合检索(向量 + 关键词)几乎是必须的。

python
def search(q, topk=5):
    qv = embed([q])[0]
    scored = []
    for i, v in enumerate(VECS):
        sim = sum(a*b for a, b in zip(qv, v))       # 已归一化,点积即余弦
        kw = 0.15 if any(w in CHUNKS[i] for w in keywords(q)) else 0
        scored.append((sim + kw, i))
    scored.sort(reverse=True)
    return [CHUNKS[i] for _, i in scored[:topk]]

第四步:拼进 prompt

python
sys = "你是资料问答助手。只根据 <ctx> 内的内容回答;资料中没有的,直接说没有。"
user = f"""<ctx>
{ctx}
</ctx>

问题:{q}"""
防幻觉的唯一有效手段
「资料里没有就说没有」这句话必须写,而且要写得强硬。否则模型会用参数里的知识补全,编出一个看起来很合理的答案——这是 RAG 系统最常见的失败模式。

效果不好的排查顺序

症状先查再查
答案完全跑题召回结果对不对(打印出来看)切分是否把答案切碎了
答案缺关键数字关键词召回是否覆盖是否该加重排
答案自信地胡说prompt 是否禁止外部知识是否给了无关片段干扰
同一问题答案不稳定temperature 是否 > 0.3片段顺序是否随机

最后:RAG 的效果上限由资料质量决定,不是由模型决定。把 PDF 里那些断行、页眉、乱码清洗干净,收益比换更强的模型大得多。

说明
文中价格、配额、限额均为撰写时的公开口径,会随厂商调整变化;用于估算量级,不构成报价。具体以各厂商官方文档与合同为准。