🧩

RAG Chunk 预览器

可视化文本分块与 token 估算,调试知识库切分参数

免费 · 无需登录100% 浏览器本地计算文本不上传服务器
工具加载中…

算完了?看看这些工具

Dify

Dify是一个开源LLM应用开发平台,让您通过可视化工作流创建AI应用。

AnythingLLM

AnythingLLM是一款全栈应用,让您使用LLM与任何文档对话。

Flowise

Flowise是一个用于使用LangChain构建LLM流程的拖放式UI。

相关工具分类

关于RAG Chunk 预览器

搭 RAG 知识库最隐蔽的坑不是模型,是切分参数:块太大塞不进嵌入模型、太小丢上下文、重叠不当关键信息被切断。粘贴你的文档,选字符/句子/标题三种切分策略,拖动块大小与重叠滑块——每一块的内容、字符数与 token 估算即时呈现,过碎与超窗的块自动标黄标红,块分布图一眼看清整体形态。调好参数再去 Dify / AnythingLLM / LangChain 里照抄,省掉反复重建索引的试错。全部计算在浏览器本地完成,文本不上传。

常见问题

块大小和重叠怎么选?
经验起点:块 500–1000 字符、重叠 10–15%。FAQ 类短问答用小块+句子切分;长文档用标题切分保住章节语义。判断标准是「单块能否独立理解」——块里只剩半句话就是过碎,嵌入和检索质量都会掉。重叠用来兜住跨块边界的关键信息,但会增加存储与检索冗余,不是越大越好。
「超窗」警告是什么意思?
嵌入模型有输入上限:经典 bge 系列约 512 token,现代 text-embedding 类约 8192 token。超过上限的块会被截断(尾部内容直接不参与向量)或静默失败,检索时永远命中不到。本工具按 512 token 阈值标红超窗块——如果你的嵌入模型是现代长窗口型号,可放宽到 8192,但过长的块同样会稀释向量语义,能切小还是切小。
这里的 token 估算和实际平台一致吗?
按通用字符比率估算(页面已标注),用于判断量级和超窗风险足够;嵌入模型的分词器与 LLM 不同(如 bge 用 WordPiece 而非 BPE),精确计数需在目标平台查看。把本工具当作调参预览器:策略、大小、重叠的相对效果是可靠的,绝对数字以平台实测为准。