Question 1

Ist die Performance bei Dedizierter Kapazität dieselbe wie bei der geteilten API?

Accepted Answer

Ja - es ist dieselbe Hardware und dieselben Geschwindigkeiten. Was sich ändert: Die Kapazität ist allein für Sie reserviert - keine anderen Mitnutzer, keine geteilte Warteschlange, keine Konkurrenz. Sie erhalten konstanten Durchsatz, weil niemand sonst Ihr Rack nutzt.

Question 2

Wann lohnt sich Dedizierte Kapazität tatsächlich gegenüber Pay-per-Token?

Accepted Answer

Zwei Dinge sind entscheidend, und nur eines davon betrifft die Kosten. Wirtschaftlich lohnt es sich ab dauerhaft hoher Auslastung - sobald Ihr konstantes Volumen durchgehend über das hinausgeht, was die geteilten Tarife abdecken (der genaue Übergangspunkt hängt von Ihrem Modell und Traffic-Muster ab); darunter ist Pay-as-you-go über die Inference API meist die bessere Wahl. Der andere Grund hat mit der Last gar nichts zu tun: Wenn Sie Ihren eigenen Modell-Mix oder Ihre eigenen Fine-Tuned-Checkpoints (BYOC) auf Hardware betreiben wollen, die allein für Sie reserviert ist, erhalten Sie das mit Dedizierter Kapazität - bei jedem Volumen. Sie ist außerdem die Antwort auf garantierte Kapazität, SLAs oder wenn Sie die Rate-Limits der geteilten Tarife überschreiten. Ist Ihr Workload variabel oder explorativ und Sie brauchen diese Kontrolle nicht, raten wir Ihnen, beim verbrauchsbasierten Modell zu bleiben.

Question 3

Kann ich mein eigenes Fine-Tuned-Modell betreiben?

Accepted Answer

Ja, wenn es ein Fine-Tune einer bereits von uns unterstützten Architektur ist - es lädt und liefert sofort aus. Sie führen das Fine-Tuning auf GPUs durch und übergeben uns die Gewichte; wir liefern sie auf Ihrem Rack aus. Eine wirklich neue Architektur erfordert Engineering-Aufwand, was eine kommerzielle Frage ist. Sagen Sie uns, welches Modell Ihnen vorschwebt, und wir bestätigen, dass es lauffähig ist.

Question 4

Können Sie das Modell für uns fine-tunen?

Accepted Answer

Nein - Fine-Tuning und Training laufen auf GPUs, nicht auf dieser Architektur, die für Inferenz gebaut ist. Sie (oder Ihr ML-Partner) führen das Fine-Tuning auf GPUs durch, und wir hosten und liefern den resultierenden Checkpoint mit voller Geschwindigkeit aus. Wir sind dabei transparent, damit es keine unpassenden Erwartungen gibt.

Question 5

Wie schnell können Sie zwischen Modellen oder Checkpoints wechseln?

Accepted Answer

Millisekunden - typischerweise unter 600ms - gegenüber Sekunden bis Minuten auf GPUs. Weil der Speicher direkt auf dem Chip sitzt, kann ein Rack mehrere Fine-Tuned-Checkpoints vorhalten und pro Anfrage zwischen ihnen wechseln, sogar mit verschiedenen Modellen in verschiedenen Schritten eines agentischen Ablaufs.

Question 6

Welche Modelle kann ich betreiben und wie groß dürfen sie sein?

Accepted Answer

Jedes Modell aus dem Katalog sowie unterstützte individuelle Checkpoints. Auf einem Rack laufen Modelle bis zu ~700B Parametern gut - ein Modell der 670B-Klasse passt bequem, und MiniMax M2.7 Ultraspeed ist ein idealer Sweet Spot. Modelle über ~1T Parametern passen heute nicht auf ein einzelnes Rack - die Aggregation über mehrere Racks kommt mit einer künftigen Hardware-Generation.

Question 7

Wie viele Racks benötige ich?

Accepted Answer

Wir dimensionieren es anhand Ihres Workloads - Gesamtzahl der Nutzer, maximale Parallelität, Workload-Typ (interaktiv, agentisch, Batch) und Durchsatzziele - zurückgerechnet aus der gemessenen Parallelität. Uns ist ein passendes Right-Sizing lieber, als Ihnen Kapazität zu verkaufen, die Sie nicht auslasten.

Question 8

Kann ich testen, bevor ich mich festlege?

Accepted Answer

Ja, und wir empfehlen es. Belegen Sie den Wert zunächst auf der geteilten Inference API (sie ist technisch identisch), danach können wir eine zeitlich begrenzte Testlast vereinbaren, bevor Sie unterschreiben. Ein dediziertes Rack ist eine echte Verpflichtung - sie sollte auf bewiesenem Wert folgen, nicht ihm vorausgehen.

Question 9

Wie lange dauert das Deployment?

Accepted Answer

Ein dediziertes Rack ist typischerweise in etwa zwei Wochen einsatzbereit. (On-Premises-Hardware in Ihrem eigenen Rechenzentrum dauert länger - siehe die On-Premises-Seite.)

Question 10

Welchen Durchsatz erhalte ich tatsächlich - nicht die Benchmark-Zahl?

Accepted Answer

Der reale Durchsatz hängt von Ihrer Kontextlänge und dem Verhältnis von Ein- zu Ausgabe ab. Plakative Tokens-pro-Sekunde-Werte sind Spitzenwerte bei günstigen Workloads; Traffic mit langem Kontext und viel Ausgabe läuft niedriger. Wir nennen den Durchsatz bezogen auf Ihren tatsächlichen Workload, nicht auf einen einzelnen Best-Case-Benchmark - das ist der ehrliche Weg, ein Rack zu dimensionieren.

Question 11

Was kostet es?

Accepted Answer

Dedizierte Kapazität ist eine monatliche Pauschale pro reserviertem Rack, mit Rabatten für längere Laufzeiten. Weil die richtige Konfiguration von Ihren Modellen, Ihrem Durchsatz und der Vertragslaufzeit abhängt, wird der Preis pro Engagement festgelegt statt veröffentlicht - sprechen Sie mit uns, und wir legen schnell echte Zahlen auf den Tisch.

Question 12

Muss ich mich langfristig binden?

Accepted Answer

Nein - längere Laufzeiten bringen bessere Konditionen, aber wir wissen, dass sich die Modelllandschaft schnell bewegt und Sie nicht im Setup vom letzten Jahr festhängen wollen. Wir bieten auch kürzere Laufzeiten, und es gibt einen Upgrade-Pfad zu neueren Hardware-Generationen, sodass eine Verpflichtung heute Sie nicht ausbremst. Sagen Sie uns Ihre Risikobereitschaft, und wir strukturieren etwas Passendes.

Question 13

Kann ich es weiterverkaufen oder die Workloads meiner eigenen Kunden darauf betreiben?

Accepted Answer

Ja. Es ist Ihre reservierte Kapazität - wie das Mieten Ihres eigenen Servers - Sie können also darauf jedes beliebige Geschäftsmodell aufbauen, einschließlich der Bedienung Ihrer eigenen Kunden. System-Integratoren und Agenturen tun genau das. Sprechen Sie mit uns, und wir richten es passend zu Ihrer Markteinführung ein.

	Inference API	Dedizierte Kapazität
Infrastruktur	Geteilt (Multi-Tenant)	Reserviert (Single-Tenant)
Abrechnung	Pay-per-Token	Monatliche Pauschale
Rate-Limits	Tarifbasiert	Individuell oder keine
Konkurrenz	Geteilte Warteschlange unter Last	Keine - alles gehört Ihnen
Individuelle Modelle (BYOC)	Nur Katalog	Katalog + Ihre Checkpoints
Support	Tarifbasiert	Dediziertes Team
SLAs	Best-Effort	Individuell, garantiert

Garantierte Performance,
mit den Modellen Ihrer Wahl

Dieselbe souveräne Plattform - reserviert allein für Sie

Wann Sie Dedizierte Kapazität wählen sollten

Hohes, konstantes Volumen

Garantierte SLAs

Individuelle Modelle

Isolation

Eine Produktions-Inferenz-Engine, für Sie betrieben

Infrastruktur

Support & SLAs

Betreiben Sie die Modelle, die Sie brauchen

Verfügbar auf Ihrem Rack

Wechseln Sie Checkpoints in Millisekunden

Dedizierte Kapazität vs. Inference API

Fragen, ehrlich beantwortet

Benötigen Sie volles Eigentum?

Bereit, ein dediziertes Rack zu dimensionieren?

Garantierte Performance,mit den Modellen Ihrer Wahl