Basdonax AI RAG

El Basdonax AI RAG v1.0 es una herramienta diseñada para aquellos que quieren tener su propia secretaria virtual impulsada por inteligencia artificial, permitiendo la carga y consulta de documentos de una forma fácil y rápida. Este sistema usa modelos de inteligencia artificial de código abierto de Meta y Microsoft, específicamente el Llama3-7b y Phi3-4b, para proporcionar un servicio eficiente en la gestión de tus documentos.

Su instalación y uso están pensados para ser accesibles, incluso para aquellos que no son expertos en tecnología, pero requiere de algunos requisitos previos:

• Docker o Docker Desktop: Esencial para correr los contenedores donde vivirá el AI RAG.
• Tarjeta gráfica RTX (opcional): Mejora el rendimiento al utilizar el modelo Llama3-7b, pero no es imprescindible.

¿Cómo instalar?

1. Elección del Modelo de Datos (LLM): Si tienes una tarjeta gráfica adecuada, puedes optar por el modelo Llama3-7b. Si no, el Phi3-4b es una alternativa más ligera que puede correr en CPU sin problemas. Dependiendo de esta elección, se utilizará un archivo de configuración de Docker diferente.
2. Instalación de Docker: Necesitas instalar Docker para poder seguir adelante con la configuración.
3. Ejecución de Docker Compose: Con un simple comando, pones en marcha el sistema una vez que Docker esté funcionando en tu máquina.
4. Instalación del Modelo LLM Elegido: Debes descargar el modelo de IA que elegiste usando un comando específico dentro de Docker.
5. Personalización: Puedes ajustar la prompt de tu asistente virtual según tus preferencias.
6. Acceso: Una vez finalizada la configuración, accedes al RAG a través de un navegador web usando una dirección local.

Uso Posterior Si cierras el sistema y luego quieres volver a usarlo, no necesitas pasar por todo el proceso nuevamente. Simplemente ejecutas un archivo batch (.bat para Windows o .sh para Mac/Linux) que hayas preparado previamente para iniciar Docker Compose de nuevo, permitiéndote acceder al RAG fácilmente.

¿Cuándo usarías Basdonax AI RAG? Lo usarías en situaciones donde necesitas organizar, consultar o gestionar documentos de manera eficiente sin tener que sumergirte manualmente en pilas de archivos o datos. Es ideal para profesionales, investigadores o cualquier persona que maneje una gran cantidad de información y necesite acceso rápido a ella de forma inteligente y automatizada. También puede ser útil como asistente personal para tareas administrativas, haciendo más fácil la vida diaria de sus usuarios.