192.168.32.154 — LITELLM GATEWAY
LiteLLM Operations
300.9k+ eventi registrati
LIVE THROUGHPUT
-- req/min
Picco: -- req/min
RICHIESTE TOTALI
--
Success: -- | Fail: --
SUCCESS RATE
--%
Tasso errori: --%
LATENZA P95
-- s
Media: -- s
TOKEN TOTALI
--
Prompt: -- | Comp: --
CLUSTER MODELLI
22 deploy
154: Local | 155: vLLM | Cloud
ULTIMI CAMPIONI
Throughput e Latenza di Inferenza
Successi
Errori
Latenza (s)
CARICO INFERENZE
0 attivi
Distribuzione per Modello
Caricamento distribuzione modelli...
DATABASE LITELLM_LOGS
Ultime Richieste in Tempo Reale
| ORARIO | STATO | MODELLO RICHIESTO → FINALE | ROUTING RULE | CONTENT (30 CARATTERI) | DURATA | TOKENS | AZIONI |
|---|---|---|---|---|---|---|---|
| In attesa di transazioni... | |||||||