Projeto de código aberto
ClawAI
Uma plataforma de orquestração de IA local-first que executa modelos abertos na sua própria máquina e direciona cada prompt para o modelo mais adequado.
Visão geral
O Claw oferece a uma equipe um único espaço para gerenciar, direcionar, comparar e operar muitos modelos de IA ao mesmo tempo. Prioriza a inferência local privada via Ollama e llama.cpp, mantendo a capacidade de acessar provedores em nuvem quando uma tarefa exige, para que prompts sensíveis possam permanecer em hardware controlado pela organização.
Arquitetura
Um backend em microsserviços NestJS por trás de um workspace Next.js, com PostgreSQL para dados relacionais, MongoDB para documentos, Redis para cache e filas para tarefas em segundo plano. Uma abstração de provedores coloca modelos locais e em nuvem atrás de uma única interface, o que torna possível o roteamento, o fallback e a comparação sem tratamento especial para cada fornecedor.
Engenharia
Os problemas mais interessantes envolveram roteamento e confiança: escolher um modelo por prompt, recorrer a um fallback quando um provedor se degrada, e executar fluxos de comparação, consenso e julgamento sobre várias respostas. A isso se somam pacotes de memória e contexto, ancoragem ao workspace, processamento de arquivos, execução de ferramentas sensível a permissões para ferramentas de negócio conectadas, gestão de credenciais de provedores e agregação do status de saúde.
- Função
- Arquitetura e desenvolvimento da plataforma de ponta a ponta — backend em microsserviços, camada de orquestração e workspace web.
- Categoria
- IA
- Stack
- Next.jsNestJSTypeScriptMicroservicesPostgreSQLMongoDBRedisOllamallama.cppDocker
- Linguagem
- TypeScript
- Licença
- Apache-2.0