Misurato sull'Infrastruttura UE Infercom
Questi numeri provengono dalla nostra API di produzione con i nostri server nell'UE. Non marketing del vendor - misurazioni reali che puoi riprodurre.
Ultima misurazione: July 2026
gpt-oss-120b
10K input / 1K output, singola richiesta
Fino a 772 tok/s su prompt più brevi
MiniMax M2.7 Ultraspeed
10K input / 1K output, singola richiesta
Fino a 444 tok/s con prompt più brevi
Gemma 4 31B
10K input / 1K output, singola richiesta
Comprensione multimodale nativa per immagini e testo
Metriche server-side (p50). Misurate usando il nostro strumento benchmark open-source. I tuoi risultati client-side varieranno in base alla posizione di rete e alle condizioni.
Approfondimenti nel nostro glossario
Infrastruttura di Inference Ospitata nell'UE
Tutti i benchmark misurati sull'infrastruttura di produzione Infercom in Germania. I tuoi dati non lasciano mai la giurisdizione europea.
Posizione
Monaco, Germania
Hardware
Architettura Dataflow SambaNova SN40L
Certificazione
Certificato ISO 27001
Proprietà
Hardware di Proprietà Infercom
Le tue richieste terminano su infrastruttura di nostra proprietà - non capacità cloud affittata da hyperscaler.
Residenza Dati
100% UE - Nessuna Esposizione CLOUD Act
I dati non lasciano mai la giurisdizione europea. Nessuna esposizione al CLOUD Act USA, nessun trasferimento verso paesi terzi.
Cosa Misuriamo
Tre metriche che contano per l'inference AI in produzione
Time to First Token (TTFT)
Quanto velocemente il modello inizia a rispondere dopo la tua richiesta. Critico per applicazioni interattive e interfacce chat.
Throughput in Output
Token generati al secondo dopo il primo token. Determina quanto velocemente viene consegnata una risposta completa all'utente.
Latenza End-to-End
Tempo totale dalla richiesta alla risposta completa. Include TTFT più tempo di generazione completo. Il numero che conta per carichi di lavoro batch.
Esegui il Tuo Benchmark
Il nostro benchmark è open source. Utilizzalo con la tua API key del tier gratuito o clona il repository per i test in locale. Codice identico, stessa metodologia, risultati trasparenti.
Performance Sintetiche
Conteggi token input/output fissi per confronti controllati tra modelli
Simulazione Carico di Lavoro Reale
Rate di richiesta variabili che simulano pattern di traffico di produzione
Dataset Personalizzato
Carica i tuoi prompt e misura le prestazioni sul tuo carico di lavoro effettivo
Chat Interattiva
Metriche per risposta in un'interfaccia chat live - vedi TTFT e throughput su ogni risposta
Verifica Indipendente
Infercom funziona sull'architettura dataflow di SambaNova - la stessa tecnologia verificata indipendentemente da analisti, ricercatori e giornalisti tech.
Artificial Analysis
Artificial Analysis - Benchmark SambaNova
Benchmark indipendenti e continuamente aggiornati di velocità, latenza e qualità tra tutti i principali provider di inference. Lo standard del settore.
Leggi di piùVentureBeat
SambaNova Supera la Barriera dei 1.000 Token/Sec
Come l'architettura dataflow di SambaNova ha raggiunto throughput da record mondiale - la stessa tecnologia che alimenta Infercom.
Leggi di piùTechRadar
DeepSeek R1 671B con 95% di Chip in Meno
Eseguire il più grande modello di ragionamento del mondo su soli 16 chip SambaNova rispetto a 320 GPU - con risultati più veloci.
Leggi di piùSambaNova
Record di Velocità su Llama 3.1 405B
Verificato indipendentemente da Artificial Analysis: 4x più veloce del provider più vicino sul modello Llama più grande.
Leggi di piùSambaNova
Intelligenza per Joule
Perché i token al secondo non sono la storia completa - l'efficienza energetica per unità di intelligenza è la metrica che conta su scala.
Leggi di piùStanford Hazy Research
Ricerca Intelligence Per Watt
Metodologia accademica per misurare l'efficienza AI che valida indipendentemente le affermazioni energetiche di SambaNova.
Leggi di piùPrestazioni Senza la Bolletta Energetica
Fino a 5x più efficiente energeticamente rispetto all'inference basata su GPU. La velocità non deve avere un costo per il pianeta.
10 kW
Per Rack
rispetto a 40–50 kW+ per infrastruttura GPU equivalente. Riduzione drastica del consumo energetico e dei requisiti di raffreddamento.
Raffreddato ad Aria
No Raffreddamento a Liquido
Il raffreddamento ad aria standard semplifica il deployment, elimina l'uso di acqua e riduce complessità operativa e costi.
Fino a 5x
Più Efficiente
Più intelligenza per joule di energia consumata. Validato dalla metodologia Stanford Hazy Research.
Ottimizza la Tua Integrazione
Ottieni le migliori prestazioni dalla tua integrazione Infercom con le nostre risorse per sviluppatori.
Guida alle Prestazioni
Connection pooling, streaming, tecniche di riduzione latenza
Strumento Benchmark
Esegui benchmark contro la nostra API con i tuoi carichi di lavoro
AI Starter Kit
Esempi open-source, benchmark e template di integrazione
Prezzi
Prezzi trasparenti per token con tier gratuito per iniziare