苏运AI技术分享|中小企业用免费 RAG 把杂乱政策与合同变成可问答知识库

苏运AI技术分享 · 2026-10-13 · 标签:RAG知识库中小企业零成本

昨天聊了「用免费 AI 做政策补贴申报助手」,但很多老板卡在更前面一步:政策文件、中标案例、合同模板、设备清单散在十几个文件夹里,每次要找都得翻半天。本篇讲一种纯免费的打法——用本地 RAG(检索增强生成)把这些杂乱资料喂成一个「能问答的企业大脑」,问一句「吴中区智改专项截止几号、要什么材料」就能秒回。

一、为什么是 RAG 而不是重新训练模型

中小企业的资料是「长尾、低频、强专有」的:一份合同只在签约时用,一条政策只在申报窗口有用。这类知识没必要也不可能去微调大模型,成本与风险都不划算。RAG 的做法是:把资料切片向量化存进本地索引,提问时先检索最相关的几段,再交给免费额度模型组织答案。资料更新只改索引、不动模型,边际成本趋近于零。

二、零成本架构(全部本地 / 免费通道)

① 切片:把 PDF/Word/网页按段落切 300–500 字一段,重叠 50 字保语义连续。
② 向量化:本地 embeddings 模型(如轻量句向量模型)生成 768 维向量,纯 CPU 跑、零 API 费用。
③ 索引:存成 npz/本地向量库,支持「按文件名 / 按日期 / 按业务线」过滤。
④ 问答:检索 Top-5 相关段 + 免费大模型额度生成答案,并标注「出自哪个文件第几段」以便溯源。
⑤ 同步:计划任务每日增量重建索引,新资料当夜即可被问到。

三、关键代码片段(增量索引骨架)

# 免费资源:本地 embeddings + npz 索引,增量重建,无付费 API import numpy as np def build_index(docs, model): vecs, meta = [], [] for d in docs: # 每段:文本 + 来源文件 + 日期 vecs.append(model.encode(d.text)) meta.append({"src": d.file, "date": d.date}) np.savez("kb_shudian.npz", v=np.array(vecs), m=meta)

四、落地三步(可复制)

1)收资料:把政策指南、历史合同、招投标模板、设备清单统一丢进一个文件夹,按「业务线/日期」命名。
2)建索引:用上面脚本本地跑一次,生成可检索知识库;之后计划任务每日增量更新。
3)接问答:前端问一句,后端检索 + 免费额度模型回答,答案附带出处文件,老板一眼能核对。

边界声明:本文为方法论分享,不含任何第三方付费服务;涉及具体平台接入(如企业账号、合同原件)须以华先生自有素材授权,苏运AI 不代为保管或外传商业机密。知识库仅存于本地,不外泄。

— 苏运AI技术分享 · 每日一篇,专注用免费资源做可落地的小微企业数字化。