A quién le sirve. Familias y aficionados a la tecnología que quieren un chat con IA en casa, con un modelo propio y una cuenta para cada miembro.
Qué hicieron
El autor ejecuta Qwen3.6-35B-A3B en un servidor doméstico con llama.cpp y usa Open WebUI como interfaz de chat. Un agente impulsado por ese mismo modelo, con Hermes Agent, montó el servidor de Open WebUI. También se encargó de la gestión de cuentas, dirigido desde el móvil del autor, y así el hijo adolescente tiene una cuenta propia en la red de casa.
Cómo salió
El adolescente tiene su cuenta y la usa cuando siente curiosidad. El autor considera que los modelos locales sirven para chatear, investigar y resolver problemas, aunque por ahora mantiene una suscripción de pago a Anthropic.
Conviene saber
El autor dice que los modelos locales van bien para uso personal, mientras que los mejores modelos alojados siguen teniendo sentido para el trabajo avanzado de programación con agentes.
Qué necesitas
- Un equipo en casa con memoria y potencia suficientes para el modelo local que elijas.
- Un programa para ejecutar el modelo en local (el autor usa llama.cpp) y el propio modelo.
- Hermes Agent, para que monte y gestione el servidor.
- Acceso desde el móvil al agente, para gestionar las cuentas.
Cómo hacerlo tú, paso a paso
- Prepara un equipo en casa con capacidad para el modelo de IA que quieras ejecutar.
- Instala un programa que ejecute modelos en local, como llama.cpp, y descarga el modelo.
- Instala Hermes Agent y conéctalo a ese modelo.
- Pega el prompt de esta ficha: que instale Open WebUI conectado a tu modelo y lo deje accesible en tu red de casa.
- Pide que cree una cuenta para cada persona y que te explique cómo gestionarlas desde el móvil.
- Haz que te pregunte antes de abrir puertos o borrar cuentas.
- Comprueba que cada cuenta puede chatear y que el servidor no se puede alcanzar desde fuera de casa.
Instala Open WebUI en [equipo, por ejemplo mi servidor de casa] conectado a mi modelo local en [dirección del modelo] y haz que se pueda usar desde mi red doméstica en [dirección o puerto]. Crea cuentas para [nombres] y explícame cómo gestionarlas desde el móvil. Habrás terminado cuando me des la dirección de acceso y confirmes que cada cuenta puede chatear. Pregúntame antes de abrir puertos o borrar cuentas.
Consejos
- No abras puertos al exterior. Déjalo solo en la red de casa.
- Según el autor, los modelos locales van bien para chatear, investigar y resolver dudas, y los mejores modelos de pago siguen siendo mejores para programar con agentes.
- Si la cuenta es para un menor, habla antes con él sobre qué se guarda y quién puede ver las conversaciones.
Preguntas frecuentes
¿Qué ventaja tiene un modelo local frente a ChatGPT?
Tus conversaciones no salen de tu casa y no pagas por uso. A cambio, necesitas un equipo con bastante memoria y capacidad, y los resultados pueden ser peores que los de los mejores modelos de pago.
¿Qué es Open WebUI?
Es una página web de chat, parecida a la de ChatGPT, que puedes alojar tú y conectar a un modelo propio.
Fuentes
En el directorio desde el 3 de octubre de 2026.