Inferenz
Drei Dinge bestimmen gemeinsam jeden Preis: direkte Partnerschaften mit den Labs, eigene GPU-Inferenz für Open-Source-Modelle und ein Router, der jede Anfrage an den schnellsten und kosteneffizientesten verfügbaren Weg weiterleitet.
Säule 03 · Automatische Weiterleitung
Unser Router steht vor jedem Modell. Er kennt die aktuell verfügbaren Wege, bewertet sie für Ihre konkrete Anfrage nach Geschwindigkeit und Preis und schaltet bei Leistungseinbußen automatisch um.
Säule 02 · Unsere eigene GPU-Inferenz
Für Open-Source-Modelle führen wir die Inferenz selbst aus: mit optimierter Attention und optimierten Kernels, bereits geladenen GPUs und einer Abstimmung je Modell. Dieselben offenen Gewichte liefern Ergebnisse in Sekunden statt Minuten und benötigen weniger GPU-Zeit pro Ausgabe.
Von uns gemessen, von der Anfrage bis zum fertigen Ergebnis, Oktober 2026. Schnellere Varianten wie H3 Fast sind unsere optimierte Bereitstellung der Open Weights und keine Veröffentlichung des Labors. Direkt nebeneinander ansehen
Die Modelle bleiben auf bereits hochgefahrenen GPUs geladen. Aufträge müssen daher weder Gewichte laden noch die GPUs aufwärmen und können direkt mit der Generierung beginnen.
Relativer Zeitverlauf – zur Veranschaulichung, nicht maßstabsgetreu.
Batching, Parallelität, Speicher und Zeitplanung werden je Workload festgelegt – dasselbe Modell und dieselbe Ausgabe mit weniger GPU-Sekunden.
Der Scheduler reiht Aufträge nach Modell, Auflösung und Länge ohne Leerlauf auf GPUs aneinander. So erledigt dieselbe Hardware mehr Arbeit mit weniger ungenutzter Zeit.
Schraffierte Bereiche zeigen GPU-Leerlauf. Zur Veranschaulichung.
Das Team hinter unserer GPU-Inferenz
Unser Inferenzteam kommt von Stanford, MIT, UCLA, Tsinghua und NVIDIA. Es arbeitet an GPU-Systemen, Inferenzoptimierung und Modellbereitstellung – den Grundlagen unserer eigenen GPU-Inferenz für Open-Source-Modelle.
Die Logos zeigen, wo Mitglieder unseres Teams studiert oder gearbeitet haben. Sie bedeuten keine Empfehlung oder Partnerschaft dieser Universitäten oder Unternehmen. Alle Marken sind Eigentum ihrer jeweiligen Inhaber.
Säule 01 · Offizielle Partnerschaften
Wir arbeiten direkt mit ByteDance, MiniMax und Alibaba zusammen und erhalten dadurch die günstigsten Partnerkonditionen – genau für die von ihnen veröffentlichten Modelle.
bis zu −26%
unter dem offiziellen Listenpreis, aktuelle Preise aus unserem Katalog
bis zu −29%
unter dem offiziellen Listenpreis, aktuelle Preise aus unserem Katalog
bis zu −69%
unter dem offiziellen Listenpreis, aktuelle Preise aus unserem Katalog
Preise vergleichen
Wählen Sie ein Modell und Ihr Generierungsvolumen. Jeder Preis stammt aus unserem aktuellen Katalog und steht neben dem offiziellen Listenpreis.
Ziehen Sie den Regler oder wählen Sie ein Modell aus, um eigene Mengen auszuprobieren.
Wan 3.0 bei 720p: Für 1.000 Videominuten pro Monat beträgt der Preis $6.000 (den offiziellen Listenpreis); bei CheaperGen beträgt er $4.542. Sie sparen $1.458 pro Monat.
Im Vergleich
| Aspekt | Direkt bei jedem Lab | CheaperGen |
|---|---|---|
| Modelle | Ein Lab für Konto und API | 45 Modelle von 13 Labs über eine API |
| Preis | Offizieller Listenpreis | Bis zu 93% unter dem Listenpreis |
| Weiterleitung und Failover | Selbst entwickeln und betreiben | Automatisch bei jeder Anfrage |
| Serving | Die Standard-API des Labs | Partnerkanäle und eigene optimierte GPU-Pools |
| Abrechnung | Ein Vertrag und eine Rechnung pro Lab | Ein vorausbezahltes Guthaben, Bezahlung nach Nutzung |
Erstellen Sie in einer Minute einen API-Schlüssel oder sprechen Sie mit uns über Mengenpreise und dedizierte Kapazität.
