昨天聊了「用免费 AI 做政策补贴申报助手」,但很多老板卡在更前面一步:政策文件、中标案例、合同模板、设备清单散在十几个文件夹里,每次要找都得翻半天。本篇讲一种纯免费的打法——用本地 RAG(检索增强生成)把这些杂乱资料喂成一个「能问答的企业大脑」,问一句「吴中区智改专项截止几号、要什么材料」就能秒回。
中小企业的资料是「长尾、低频、强专有」的:一份合同只在签约时用,一条政策只在申报窗口有用。这类知识没必要也不可能去微调大模型,成本与风险都不划算。RAG 的做法是:把资料切片向量化存进本地索引,提问时先检索最相关的几段,再交给免费额度模型组织答案。资料更新只改索引、不动模型,边际成本趋近于零。
① 切片:把 PDF/Word/网页按段落切 300–500 字一段,重叠 50 字保语义连续。
② 向量化:本地 embeddings 模型(如轻量句向量模型)生成 768 维向量,纯 CPU 跑、零 API 费用。
③ 索引:存成 npz/本地向量库,支持「按文件名 / 按日期 / 按业务线」过滤。
④ 问答:检索 Top-5 相关段 + 免费大模型额度生成答案,并标注「出自哪个文件第几段」以便溯源。
⑤ 同步:计划任务每日增量重建索引,新资料当夜即可被问到。
1)收资料:把政策指南、历史合同、招投标模板、设备清单统一丢进一个文件夹,按「业务线/日期」命名。
2)建索引:用上面脚本本地跑一次,生成可检索知识库;之后计划任务每日增量更新。
3)接问答:前端问一句,后端检索 + 免费额度模型回答,答案附带出处文件,老板一眼能核对。
— 苏运AI技术分享 · 每日一篇,专注用免费资源做可落地的小微企业数字化。