ओपन-सोर्स प्रोजेक्ट
ClawAI
एक लोकल-फ़र्स्ट AI ऑर्केस्ट्रेशन प्लेटफ़ॉर्म जो आपकी अपनी मशीन पर ओपन मॉडल चलाता है और हर प्रॉम्प्ट को सबसे उपयुक्त मॉडल तक रूट करता है।
अवलोकन
Claw एक टीम को एक साथ कई AI मॉडल प्रबंधित, रूट, तुलना और संचालित करने के लिए एक ही वर्कस्पेस देता है। यह Ollama और llama.cpp के ज़रिए निजी लोकल इनफ़रेंस को प्राथमिकता देता है, जबकि आवश्यकता पड़ने पर क्लाउड प्रोवाइडर तक भी पहुँच सकता है, ताकि संवेदनशील प्रॉम्प्ट संगठन-नियंत्रित हार्डवेयर पर रह सकें।
आर्किटेक्चर
Next.js वर्कस्पेस के पीछे एक NestJS माइक्रोसर्विसेज़ बैकएंड, रिलेशनल डेटा के लिए PostgreSQL, दस्तावेज़ों के लिए MongoDB, कैशिंग के लिए Redis और बैकग्राउंड काम के लिए क्यू। एक प्रोवाइडर एब्स्ट्रैक्शन लोकल और क्लाउड मॉडल को एक ही इंटरफ़ेस के पीछे रखता है, जो हर वेंडर के लिए विशेष हैंडलिंग के बिना रूटिंग, फ़ॉलबैक और तुलना को संभव बनाता है।
इंजीनियरिंग
सबसे दिलचस्प समस्याएँ रूटिंग और भरोसे से जुड़ी थीं: प्रत्येक प्रॉम्प्ट के लिए मॉडल चुनना, प्रोवाइडर की गुणवत्ता गिरने पर फ़ॉलबैक करना, और कई उत्तरों पर तुलना, सर्वसम्मति व निर्णय वर्कफ़्लो चलाना। इसके साथ मेमोरी व कॉन्टेक्स्ट पैक, वर्कस्पेस ग्राउंडिंग, फ़ाइल प्रोसेसिंग, कनेक्टेड बिज़नेस टूल्स के लिए अनुमति-जागरूक टूल एक्ज़ीक्यूशन, प्रोवाइडर क्रेडेंशियल प्रबंधन और हेल्थ एग्रीगेशन शामिल हैं।
- भूमिका
- प्लेटफ़ॉर्म को शुरू से अंत तक डिज़ाइन और विकसित किया — माइक्रोसर्विसेज़ बैकएंड, ऑर्केस्ट्रेशन लेयर और वेब वर्कस्पेस।
- श्रेणी
- AI
- स्टैक
- Next.jsNestJSTypeScriptMicroservicesPostgreSQLMongoDBRedisOllamallama.cppDocker
- भाषा
- TypeScript
- लाइसेंस
- Apache-2.0