Qwen Local Inference & AMD Strix Halo Telemetry
Global Proxy :1234 → LMS :1235AMD Ryzen AI MAX+ 395 · AMD Radeon 8060S Graphics (32 GB VRAM UMA / 64 GB RAM Unificata 8000 MT/s)
CPU Load
AMD Ryzen AI MAX+ 395
RAM di Sistema (OS)
Pool Memoria Host Windows 11
GPU AMD Compute/3D
AMD Radeon 8060S Graphics
VRAM Dedicata (UMA)
32 GB Allocati a Radeon 8060S
Telemetria Real-Time (Ultimi 60 Secondi · Stream 1Hz)
Saturazione GPU Radeon 8060S (%), CPU Ryzen AI MAX+ 395 (%) e velocità istantanea Qwen (tok/s)
Volume Token nel Tempo
Prompt Tokens (Input) vs Completion Tokens (Output)
Saturazione Hardware & Throughput Storico
Media GPU %, VRAM (GB) e velocità (tok/s) per sessione
Report & ROI Aziendale · Architettura Multi-Modello
Fase 4 · Direzione & HardeningAuto-Sync Modelli Frontiera: Claude Opus 5.5 & OpenAI GPT-6.1 SolRendicontazione risparmio Cloud (€/$ vs ultimi modelli di frontiera Claude Opus 5.5 e OpenAI GPT-6.1 Sol), distribuzione per modello/pipeline ed esportazione dati CSV/JSON
1. Distribuzione Lavoro per Modello AI
Velocità media, latenza TTFT e token aggregati per singolo motore LM Studio
| Modello | Ruolo | Req | Token | Tok/s | TTFT | Risparmio |
|---|---|---|---|---|---|---|
| Nessun dato nel periodo selezionato. | ||||||
2. Confronto Costi Evitati · Ultimi Modelli di Frontiera
Clicca su un modello Claude o OpenAI per impostarlo come riferimento principale nella card ROI
“Il Cervello è Pieno?” — Indice di Saturazione Continua
Utilizzo Reale GPURipartizione del tempo macchina tra inferenze attive (Task Reali) e Tempo Vuoto (Idle) su base oraria, giornaliera e settimanale
Registro Interazioni SQLite (Ultime 25 Chiamate Intercettate)
Persistenza asincrona via aiosqlite · Endpoint intercettato: POST http://127.0.0.1:1234/v1/chat/completions
| ID | Timestamp | Modello | Task Type | Prompt | Output | TTFT | Durata | Tok/s | GPU AMD | VRAM | Costo Evitato | Stato |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Nessuna inferenza registrata finora. Premi “Test Stream Qwen” in alto o invia una richiesta a Qwen per popolare la telemetria. | ||||||||||||