โปรเจกต์โอเพนซอร์ส
ClawAI
แพลตฟอร์มจัดการ AI แบบ local-first ที่รันโมเดลโอเพนซอร์สบนเครื่องของคุณเอง และส่งทุกคำสั่งไปยังโมเดลที่เหมาะสมที่สุด
ภาพรวม
Claw มอบพื้นที่ทำงานเดียวให้ทีมสามารถจัดการ กำหนดเส้นทาง เปรียบเทียบ และใช้งานโมเดล AI หลายตัวพร้อมกัน โดยให้ความสำคัญกับการประมวลผลแบบ local ผ่าน Ollama และ llama.cpp ในขณะที่ยังเข้าถึงผู้ให้บริการคลาวด์ได้เมื่อจำเป็น เพื่อให้คำสั่งที่ละเอียดอ่อนสามารถอยู่บนฮาร์ดแวร์ที่องค์กรควบคุมได้
สถาปัตยกรรม
backend แบบไมโครเซอร์วิสด้วย NestJS อยู่หลังเวิร์กสเปซ Next.js พร้อม PostgreSQL สำหรับข้อมูลเชิงสัมพันธ์ MongoDB สำหรับเอกสาร Redis สำหรับแคช และคิวสำหรับงานเบื้องหลัง ชั้นนามธรรมของผู้ให้บริการวางโมเดล local และคลาวด์ไว้หลังอินเทอร์เฟซเดียว ทำให้การกำหนดเส้นทาง การสำรอง และการเปรียบเทียบเป็นไปได้โดยไม่ต้องจัดการแต่ละผู้ให้บริการแยกกัน
งานวิศวกรรม
ปัญหาที่น่าสนใจที่สุดคือเรื่องการกำหนดเส้นทางและความน่าเชื่อถือ: เลือกโมเดลให้เหมาะกับแต่ละคำสั่ง สลับไปใช้โมเดลสำรองเมื่อผู้ให้บริการมีประสิทธิภาพลดลง และรันขั้นตอนเปรียบเทียบ หาฉันทามติ และตัดสินผลลัพธ์จากหลายคำตอบ นอกจากนี้ยังมีแพ็กเมมโมรีและบริบท การยึดโยงกับเวิร์กสเปซ การประมวลผลไฟล์ การรันเครื่องมือที่คำนึงถึงสิทธิ์การเข้าถึงสำหรับเครื่องมือธุรกิจที่เชื่อมต่อ การจัดการข้อมูลรับรองของผู้ให้บริการ และการรวมสถานะความพร้อมใช้งาน
- บทบาท
- ออกแบบและสร้างแพลตฟอร์มตั้งแต่ต้นจนจบ — backend แบบไมโครเซอร์วิส ชั้นการจัดการโมเดล และเวิร์กสเปซบนเว็บ
- หมวดหมู่
- AI
- สแตก
- Next.jsNestJSTypeScriptMicroservicesPostgreSQLMongoDBRedisOllamallama.cppDocker
- ภาษาโปรแกรม
- TypeScript
- สัญญาอนุญาต
- Apache-2.0