Proyecto de código abierto
ClawAI
Una plataforma de orquestación de IA local-first que ejecuta modelos abiertos en tu propia máquina y enruta cada prompt al modelo más adecuado.
Resumen
Claw ofrece a un equipo un único espacio de trabajo para gestionar, enrutar, comparar y operar muchos modelos de IA a la vez. Prioriza la inferencia local privada mediante Ollama y llama.cpp, sin dejar de poder acceder a proveedores en la nube cuando una tarea lo requiere, de modo que los prompts sensibles puedan permanecer en hardware controlado por la organización.
Arquitectura
Un backend de microservicios en NestJS detrás de un espacio de trabajo en Next.js, con PostgreSQL para datos relacionales, MongoDB para documentos, Redis para caché y colas para trabajos en segundo plano. Una abstracción de proveedores coloca los modelos locales y en la nube tras una única interfaz, lo que hace posible el enrutamiento, el respaldo y la comparación sin tratar cada proveedor como caso especial.
Ingeniería
Los problemas más interesantes fueron el enrutamiento y la confianza: elegir un modelo por prompt, recurrir a un respaldo cuando un proveedor se degrada, y ejecutar flujos de comparación, consenso y evaluación sobre varias respuestas. A esto se suman paquetes de memoria y contexto, anclaje al espacio de trabajo, procesamiento de archivos, ejecución de herramientas sensible a permisos para herramientas empresariales conectadas, gestión de credenciales de proveedores y agregación del estado de salud.
- Rol
- Arquitectura y desarrollo de la plataforma de extremo a extremo — backend de microservicios, capa de orquestación y espacio de trabajo web.
- Categoría
- IA
- Stack
- Next.jsNestJSTypeScriptMicroservicesPostgreSQLMongoDBRedisOllamallama.cppDocker
- Lenguaje
- TypeScript
- Licencia
- Apache-2.0