GraphRAG本地版:基于Ollama和GradioUI
作者: CTOLib码库 来源: CTOLib码库
GraphRAG 本地版 是一款基于 Ollama 的本地模型,并提供交互式用户界面,是微软 GraphRAG 的改版。
主要特点:
•本地模型支持: 使用 Ollama 支持本地模型,包括语言模型和嵌入模型。•成本效益: 不依赖昂贵的 OpenAI 模型。•交互式界面: 用户友好的界面,用于管理数据、运行查询和可视化结果。•实时图形可视化: 使用 Plotly 在 3D 中可视化知识图谱。•文件管理: 直接从界面上传、查看、编辑和删除输入文件。•设置管理: 通过界面轻松更新和管理 GraphRAG 设置。•输出探索: 浏览和查看索引输出和工件。•日志记录: 实时日志记录,便于调试和监控。
安装和设置:
1.创建并激活新的 conda 环境:
conda create -n graphrag-ollama -y
conda activate graphrag-ollama
2.安装 Ollama: 访问 Ollama 网站获取安装说明。3.安装所需软件包:
pip install -r requirements.txt
4.启动交互式界面:
python main.py
或
streamlit run main.py
使用界面:
启动界面后,您可以通过界面执行所有必要的操作,包括初始化项目、管理设置、上传文件、运行索引和执行查询。界面提供了一种用户友好的方式与 GraphRAG 交互,无需运行命令行操作。
注意:
•界面现在处理所有以前通过命令行指令完成的操作,使流程更加简化和用户友好。•用户可以通过更改 settings.yaml 文件中的模型进行实验。LLM 模型需要 llama3、mistral、phi3 等语言模型,嵌入模型部分需要 mxbai-embed-large、nomic-embed-text 等嵌入模型,这些模型由 Ollama 提供。您可以在此处找到 Ollama 提供的完整模型列表。•界面现在包含一个 3D 图形可视化功能。要使用它:
•对您的数据运行索引。•转到“索引输出”选项卡。•选择最新的输出文件夹并导航到 GraphML 文件。•点击“可视化图形”按钮。
原始 GraphRAG 存储库: GraphRAG[1] Ollama: Ollama[2]
References
[1]
GraphRAG: https://github.com/microsoft/GraphRAG
[2]
Ollama: https://ollama.ai/
更多AI工具,参考Github-AiBard123,国内AiBard123