Proyek open source
ClawAI
Platform orkestrasi AI local-first yang menjalankan model open source di perangkat Anda sendiri dan mengarahkan setiap prompt ke model yang paling sesuai.
Ikhtisar
Claw memberikan tim satu workspace untuk mengelola, mengarahkan, membandingkan, dan mengoperasikan banyak model AI sekaligus. Prioritasnya adalah inferensi lokal privat melalui Ollama dan llama.cpp, sambil tetap dapat menjangkau penyedia cloud saat dibutuhkan, sehingga prompt yang sensitif dapat tetap berada pada perangkat keras yang dikendalikan organisasi.
Arsitektur
Backend microservices NestJS di belakang workspace Next.js, dengan PostgreSQL untuk data relasional, MongoDB untuk dokumen, Redis untuk caching, dan queue untuk pekerjaan latar belakang. Abstraksi penyedia menempatkan model lokal dan cloud di balik satu antarmuka, yang memungkinkan routing, fallback, dan perbandingan tanpa penanganan khusus untuk setiap vendor.
Engineering
Masalah paling menarik terkait routing dan kepercayaan: memilih model untuk setiap prompt, melakukan fallback saat kualitas penyedia menurun, dan menjalankan alur perbandingan, konsensus, serta penilaian atas beberapa jawaban. Selain itu ada paket memori dan konteks, grounding workspace, pemrosesan file, eksekusi tool yang sadar izin akses untuk tool bisnis yang terhubung, manajemen kredensial penyedia, dan agregasi status kesehatan.
- Peran
- Merancang dan membangun platform secara end-to-end — backend microservices, lapisan orkestrasi, dan workspace web.
- Kategori
- AI
- Stack
- Next.jsNestJSTypeScriptMicroservicesPostgreSQLMongoDBRedisOllamallama.cppDocker
- Bahasa
- TypeScript
- Lisensi
- Apache-2.0