Chat LLM local: Interfaz CLI para modelos GGUF y Transformers con compatibilidad CUDA. Permite ejecutar Llama, Mistral, Gemma, Phi y Qwen localmente con detección automática de modelos, adaptación de mensajes del sistema, soporte RAG y más.
python cli open-source machine-learning cuda transformers llama gemma mistral rag chat-interface ai-chatbot ai-tools llama-cpp local-llm qwen gguf llm-chat offline-ai rag-anything
-
Updated
Nov 5, 2025 - Python