RAGflow/management/server/services/knowledgebases
zstar d847d1ddad refactor(tokenizer): 实现解析分词,和原版分词同步
- 新增 RagTokenizer 类,实现中英文混合文本的分词功能
- 优化文档解析过程中的分词操作,提高处理效率和准确性
- 移除知识图谱相关无用代码,简化文档结构
- 添加 tokenizer 依赖到 requirements.txt
2025-06-01 20:46:29 +08:00
..
document_parser.py refactor(tokenizer): 实现解析分词,和原版分词同步 2025-06-01 20:46:29 +08:00
rag_tokenizer.py refactor(tokenizer): 实现解析分词,和原版分词同步 2025-06-01 20:46:29 +08:00
service.py refactor(tokenizer): 实现解析分词,和原版分词同步 2025-06-01 20:46:29 +08:00