Commit Graph

3 Commits

Author SHA1 Message Date
zstar ae462bc9dc chore: 上传源码部署缺失的trie文件 2025-07-10 15:34:28 +08:00
zstar d847d1ddad refactor(tokenizer): 实现解析分词,和原版分词同步
- 新增 RagTokenizer 类,实现中英文混合文本的分词功能
- 优化文档解析过程中的分词操作,提高处理效率和准确性
- 移除知识图谱相关无用代码,简化文档结构
- 添加 tokenizer 依赖到 requirements.txt
2025-06-01 20:46:29 +08:00
zstar 1b2db41c7e 首次提交 2025-03-24 11:19:28 +08:00