Progetto open source
ClawAI
Una piattaforma di orchestrazione IA local-first che esegue modelli aperti sulla tua macchina e instrada ogni richiesta verso il modello più adatto.
Panoramica
Claw offre a un team un unico workspace per gestire, instradare, confrontare e utilizzare molti modelli IA contemporaneamente. Dà priorità all'inferenza locale privata tramite Ollama e llama.cpp, pur potendo raggiungere i provider cloud quando un'attività lo richiede, così i prompt sensibili possono restare su hardware controllato dall'organizzazione.
Architettura
Un backend a microservizi NestJS dietro un workspace Next.js, con PostgreSQL per i dati relazionali, MongoDB per i documenti, Redis per il caching e code per i job in background. Un'astrazione dei provider mette modelli locali e cloud dietro un'unica interfaccia, il che rende possibili routing, fallback e confronto senza gestione dedicata per ogni fornitore.
Ingegneria
I problemi più interessanti riguardavano routing e fiducia: scegliere un modello per ogni prompt, effettuare il fallback quando un provider degrada, ed eseguire flussi di confronto, consenso e giudizio su più risposte. A ciò si aggiungono pacchetti di memoria e contesto, ancoraggio al workspace, elaborazione dei file, esecuzione di strumenti consapevole dei permessi per gli strumenti aziendali connessi, gestione delle credenziali dei provider e aggregazione dello stato di salute.
- Ruolo
- Architettura e sviluppo della piattaforma end-to-end — backend a microservizi, livello di orchestrazione e workspace web.
- Categoria
- IA
- Stack
- Next.jsNestJSTypeScriptMicroservicesPostgreSQLMongoDBRedisOllamallama.cppDocker
- Linguaggio
- TypeScript
- Licenza
- Apache-2.0