Question 1

Ist die On-Premises-Performance die gleiche wie in Ihrer Cloud?

Accepted Answer

Ja - es ist die gleiche Hardware, also erhalten Sie exakt die gleichen Geschwindigkeiten. Was On-Premises ändert, sind Standort und Eigentum, nicht die Performance: Die Racks stehen in Ihrem Rechenzentrum und Sie halten die Schlüssel.

Question 2

Zahlt sich der Besitz von Hardware tatsächlich aus gegenüber dem Verbrauch verwalteter Token?

Accepted Answer

On-Premises ist eine Kapitalinvestition mit einer Mindest-Stellfläche und einer Vorlaufzeit, gegenüber sofort verfügbaren verwalteten Token ohne Investitionsausgaben. Ob es sich auszahlt, ist wirklich von Fall zu Fall verschieden - bei anhaltend hoher Auslastung über einen Zeithorizont von mehreren Jahren kann sich der Besitz der Hardware wirtschaftlich lohnen, aber das hängt davon ab, wie stark Sie sie auslasten, daher würden wir es gemeinsam mit Ihnen modellieren, statt es zu versprechen. Oft ist der entscheidende Faktor überhaupt nicht der Preis: Quellcode oder Daten, die Ihr Gebäude nicht verlassen dürfen, ein Kunde oder eine Aufsichtsbehörde, die es vorschreibt, oder eine strategische Entscheidung, die Infrastruktur selbst zu besitzen. Die Performance ist in beiden Fällen identisch mit unserer Cloud. Wenn Ihr Fall keine harte Anforderung hat und die Wirtschaftlichkeit grenzwertig ist, sind die Inference API oder Dedicated Capacity in der Regel die bessere Wahl, und das sagen wir Ihnen auch.

Question 3

Können wir testen, bevor wir Hardware kaufen?

Accepted Answer

Ja, und wir empfehlen es. Beweisen Sie den Wert zuerst auf der geteilten Inference API - sie ist technisch identisch - dann optional auf einem dedizierten Rack in unserem Rechenzentrum, bevor Sie Kapital ausgeben. Ein kleiner Pilot gehört in die Cloud, nicht on-premises.

Question 4

Was ist die minimale sinnvolle Größe, und um welche Größenordnung an Investition handelt es sich?

Accepted Answer

On-Premises ist strategische Infrastruktur im Enterprise-Maßstab - keine kleine Installation. Das praktische Minimum ist ein Multi-Node-Deployment plus ein Core Services Rack für die Control Plane, mit Skalierung in festen Schritten, was eine erhebliche Kapitalinvestition darstellt. Dieses Minimum ist bewusst gewählt: Es liefert echte Ausfallsicherheit (fällt ein Node aus, verlieren Sie nur einen kleinen Bruchteil der Kapazität, und alles läuft weiter), Raum für sowohl Long- als auch Short-Context-Modelle sowie Burst-Reserven. Wenn Sie ein kleines Team sind oder den Anwendungsfall noch nachweisen, betreiben Sie es zuerst auf der geteilten oder dedizierten Cloud - On-Premises ergibt Sinn, sobald Sie KI im großen Maßstab betreiben und eine Anforderung den Besitz erfordert.

Question 5

Was benötigen wir in unserem Rechenzentrum - Platz, Strom, Kühlung?

Accepted Answer

Standard-Rechenzentrumsbedingungen. Die Systeme sind luftgekühlt (keine exotische Flüssigkühlung) bei Leistungswerten von Racks mit hoher Dichte, in einer Standard-Rack-Stellfläche - sodass sie sich in ein bereits vorhandenes Rechenzentrum einfügen, statt eine speziell gebaute Anlage zu erfordern. Was Sie bereitstellen, sind Platz, Strom, Kühlung und Netzwerk; die Plattform selbst - einschließlich ihrer Kubernetes-Control-Plane und der unterstützenden Dienste - wird auf dem Core Services Rack, den wir liefern, ausgeliefert und ausgeführt, sodass Sie Kubernetes nicht selbst aufsetzen oder betreiben müssen. Wir führen eine Standortbegehung durch, um Ihre genaue Bereitschaft bei Strom, Kühlung, Netzwerk und Speicher zu bestätigen, bevor etwas geliefert wird.

Question 6

Wie funktioniert ein Air-Gapped-Deployment - und wie aktualisieren oder diagnostizieren Sie es?

Accepted Answer

SambaStack läuft vollständig offline. In einem Air-Gap werden Software- und Modell-Updates manuell geliefert und installiert (Sie stellen einen Artifact-Staging-Server und eine lokale Registry bereit), und die Diagnose erfolgt per Dateiübertragung und Webkonferenz - wir haben keinen direkten Netzwerkzugriff auf Ihren Cluster. Es funktioniert gut und wir haben echte Erfahrung damit, aber machen Sie sich klar, dass ein Air-Gap etwas Reaktionsschnelligkeit beim Support gegen vollständige Isolation eintauscht: Jedes Update ist ein bewusster, manueller Schritt statt eines automatischen Abrufs.

Question 7

Wie lange dauert das Deployment?

Accepted Answer

Planen Sie mit etwa 90 Tagen vom Vertrag bis zur Produktion, einschließlich Hardware-Lieferung, Installation, Konfiguration und Modell-Bring-up. Die Zeitpläne variieren je nach Bestellvolumen und Verfügbarkeit der Hardware, der Bereitschaft des Rechenzentrums auf Ihrer Seite und ob neue Modellarchitekturen bereitgestellt werden müssen - wir legen uns erst nach einer Standortbegehung auf ein verbindliches Datum fest.

Question 8

Welche Modelle können wir betreiben - und können wir eigene mitbringen?

Accepted Answer

Jedes Modell in unserem Katalog läuft on-premises, und ein dediziertes Deployment kann auch Modelle jenseits des öffentlichen Katalogs betreiben, die wir für Sie bereitstellen. Bring Your Own Checkpoint funktioniert ebenfalls: Fine-Tunes unterstützter Architekturen werden sofort geladen. Das Fine-Tuning selbst läuft auf GPUs - Sie trainieren und laden dann die Gewichte auf Ihre Racks. Die Unterstützung für völlig neue Architekturen ist eine kommerzielle Frage.

Question 9

Wie funktionieren Modell-Updates, sobald es in unserem Gebäude steht?

Accepted Answer

Jedes SambaStack-Release bündelt neue Modelle, die wir bereitgestellt haben. Sie wählen, welche Sie einsetzen, testen sie und wenden die Zuteilung selbst an - zum Beispiel indem Sie Nodes zwischen zwei Modellen verschieben. Die Neukonfiguration eines Nodes (etwa von Long-Context auf Short-Context) dauert etwa 30 Minuten. In einem Air-Gap werden diese Updates manuell geliefert und installiert.

Question 10

Wie geht die Plattform mit Konkurrenzsituationen um, wenn viele Nutzer gleichzeitig darauf zugreifen?

Accepted Answer

Der Inferenz-Router ermöglicht es Ihnen, Quality-of-Service-Regeln anzuwenden - bestimmte Nutzer oder Traffic zu priorisieren und einzelne Nutzer zu drosseln, sodass kein einzelner den Cluster aushungern kann. Anfragen werden in eine Warteschlange gestellt, statt fehlzuschlagen, und im Maßstab des Deployments gibt es erhebliche Reserven, sodass es wirklich schwer ist, dass ein Nutzer ein Problem verursacht. Sie halten diese Steuerungen, da Sie die Plattform betreiben.

Question 11

Können wir in unserem eigenen Rechenzentrum bereitstellen, oder hosten Sie es?

Accepted Answer

Beides. Wir können die Hardware in Ihr Rechenzentrum verkaufen, sie für Sie in einer Colocation unterbringen oder Colocation-as-a-Service anbieten - je nachdem, was zu Ihren Kontroll- und Betriebsanforderungen passt.

Question 12

Können Sie vertraglich garantieren, dass niemand außerhalb unserer Organisation unsere Daten einsehen kann?

Accepted Answer

On-Premises und Air-Gapped ist die stärkstmögliche Position: Sie halten alle Schlüssel, wir haben keinen Laufzeitzugriff, und nichts verlässt Ihr Netzwerk. Genau deshalb wird es angeboten - es ist die wasserdichte Antwort für die strengsten Geheimhaltungs- und regulatorischen Anforderungen. (Der Vollständigkeit halber: Der KV-Cache liegt ausschließlich im Speicher und wird niemals auf die Festplatte geschrieben, ist aber wie bei jedem Anbieter im Speicher nicht verschlüsselt - eine branchenweite Einschränkung, nicht spezifisch für uns.)

Question 13

Wie eigenständig sind wir, sobald es installiert ist?

Accepted Answer

Im Tagesgeschäft betreiben Sie es: Ihnen gehört die Hardware, Sie halten die Schlüssel und betreiben die Plattform in Ihrem eigenen Netzwerk. Wo wir eingebunden bleiben, ist die Modell-Pipeline - das Bereitstellen neuer Modelle, das Paketieren von Release-Bundles und das Ausliefern von Fixes - so, wie Sie sich bei jedem Plattformanbieter auf Updates verlassen würden. Die Plattform entwickelt sich außerdem stetig in Richtung mehr Self-Service, sodass mit der Zeit mehr von dieser Pipeline in Ihre Hände übergeht. In beiden Fällen erhalten Sie volle Betriebskontrolle und Datenisolation, mit einer laufenden Software-Beziehung für Modelle und Support.

On-Premises-KI-Inferenz.
Volle Kontrolle, Cloud-Geschwindigkeit.

Wenn Ihre Daten nicht das Haus verlassen dürfen, ist dies die Antwort

Wann Sie On-Premises wählen sollten

Daten, die nicht das Haus verlassen dürfen

Eine Vorgabe, die es zu erfüllen gilt

Volle Kontrolle

Anbieterunabhängigkeit

Eine Premium-Token-Engine, die Ihnen gehört

Hardware

Software & Support

Vom Vertrag bis zur Produktion

Beratung & Standortbegehung

Hardware-Lieferung

Konfiguration

Produktion

Der vollständige Katalog, in Ihrem Gebäude

Die gleiche Dataflow-Architektur

Fragen, ehrlich beantwortet

Nicht sicher, welche die richtige ist?

Inference API

Dedicated Capacity

Bereit, On-Premises zu erkunden?

On-Premises-KI-Inferenz.Volle Kontrolle, Cloud-Geschwindigkeit.