AI 文摘

GraphRAG本地版:基于Ollama和GradioUI





作者: CTOLib码库 来源: CTOLib码库

GraphRAG 本地版 是一款基于 Ollama 的本地模型,并提供交互式用户界面,是微软 GraphRAG 的改版。

主要特点:

本地模型支持: 使用 Ollama 支持本地模型,包括语言模型和嵌入模型。•成本效益: 不依赖昂贵的 OpenAI 模型。•交互式界面: 用户友好的界面,用于管理数据、运行查询和可视化结果。•实时图形可视化: 使用 Plotly 在 3D 中可视化知识图谱。•文件管理: 直接从界面上传、查看、编辑和删除输入文件。•设置管理: 通过界面轻松更新和管理 GraphRAG 设置。•输出探索: 浏览和查看索引输出和工件。•日志记录: 实时日志记录,便于调试和监控。

安装和设置:

1.创建并激活新的 conda 环境:

conda create -n graphrag-ollama -y
conda activate graphrag-ollama

2.安装 Ollama: 访问 Ollama 网站获取安装说明。3.安装所需软件包:

pip install -r requirements.txt

4.启动交互式界面:

python main.py

streamlit run main.py

使用界面:

启动界面后,您可以通过界面执行所有必要的操作,包括初始化项目、管理设置、上传文件、运行索引和执行查询。界面提供了一种用户友好的方式与 GraphRAG 交互,无需运行命令行操作。

注意:

•界面现在处理所有以前通过命令行指令完成的操作,使流程更加简化和用户友好。•用户可以通过更改 settings.yaml 文件中的模型进行实验。LLM 模型需要 llama3、mistral、phi3 等语言模型,嵌入模型部分需要 mxbai-embed-large、nomic-embed-text 等嵌入模型,这些模型由 Ollama 提供。您可以在此处找到 Ollama 提供的完整模型列表。•界面现在包含一个 3D 图形可视化功能。要使用它:

•对您的数据运行索引。•转到“索引输出”选项卡。•选择最新的输出文件夹并导航到 GraphML 文件。•点击“可视化图形”按钮。

原始 GraphRAG 存储库: GraphRAG[1] Ollama: Ollama[2]

References

[1] GraphRAG: https://github.com/microsoft/GraphRAG
[2] Ollama: https://ollama.ai/

更多AI工具,参考Github-AiBard123国内AiBard123

可关注我们的公众号:每天AI新工具