Jarvis
Dağıtık Uç Cihaz ve LLM Küme Yönetimi, Termal Duyarlı Yük Dengeleme ve Telemetri Platformu
Jarvis; dağıtık uç cihaz ağlarını (edge nodes), yapay zeka (LLM) küme yük dengeleyicilerini ve cihazlar üzerinde çalışan alt uygulamaları merkezi olarak izlemek, yönetmek ve yönlendirmek için geliştirilmiş yüksek performanslı, dağıtık sistem orkestrasyon ve telemetri platformudur.
Öne Çıkan Özellikler
Akıllı AI/LLM Yük Dengeleyici (Smart LLM Router)
Ağdaki aktif AI sunucularının canlı RAM kullanım oranlarını analiz ederek gelen yapay zeka isteklerini yükü en az olan optimum LLM düğümüne otomatik yönlendirir.
Termal Duyarlı Düğüm Yönlendirme & Donanım Koruma
Ağdaki cihazların CPU/GPU sıcaklıklarını analiz ederek talepleri en soğuk çalışan düğüme yönlendirir. CPU 70°C eşiğini aştığında ağır iş yüklerini otomatik duraklatır.
Gerçek Zamanlı Telemetri & Canlı Durum İzleme
CPU modeli, izlek sayısı, CPU/GPU sıcaklıkları, RAM oranları, NVIDIA GPU kullanımı ve sistem uptime verilerini saniyelik bazda toplar.
Teknik Mimari
Kullanım Senaryoları
- Yapay Zeka Servisleri İçin Akıllı LLM Küme Yönetimi
- Termal Korumalı Yüksek Hesaplama Ağları
- Edge Tünel Yönetimi ve Merkezi Filo İzleme
Detaylı Proje İncelemesi
Jarvis; dağıtık uç cihaz ağlarını, yapay zeka (LLM) küme yük dengeleyicilerini ve cihazlar üzerinde çalışan alt uygulamaları merkezi olarak izlemek ve yönetmek için Som Savunma A.Ş. tarafından geliştirilmiş dağıtık sistem orkestrasyon platformudur.
Dinamik Kurulum ve Otomatik Güncelleme modülleriyle tüm cihaz filosunu tek tıkla bağlar.
Statik IP gerektirmeyen tünel adresi yönlendirmesi, 70°C termal güvenlik kilitleri ve appKey doğrulama mekanizmalarıyla altyapınızı uçtan uca akıllı ve sürdürülebilir kılar.