Die Kubernetes-native Lösung stoppt Verschwendung teurer GPU-Ressourcen und macht KI-Zugriff im Unternehmen zentral steuerbar.

Kubermatic AI unterstützt Unternehmen dabei, ihre bestehende GPU- und Cluster-Infrastruktur effizienter zu nutzen. Sie richtet sich an Unternehmen, die eine interne KI-Plattform aufbauen, eine Neocloud betreiben oder ihre GPU-Ressourcen wirtschaftlicher einsetzen möchten.

Unternehmen investieren derzeit immense Beträge in GPUs als eine der derzeit teuersten Infrastrukturkomponenten. Ein Großteil der teuren Kapazität bleibt jedoch ungenutzt. So liegt Branchenanalysen zufolge die GPU-Auslastung in vielen Unternehmen bei nur rund fünf Prozent. Statt vorhandene Ressourcen besser zu nutzen, investieren Unternehmen in weitere Hardware. Kubermatic AI adressiert dieses Problem.

„Wir beobachten, wie Unternehmen ihre GPUs in das teuerste Brachland der Tech-Branche verwandeln. Genau das wollen wir mit Kubermatic AI ändern“, erklärt Sebastian Scheele, Mitgründer und CEO von Kubermatic.

Eine gemeinsame Plattform

Bislang lösen viele Unternehmen den KI-Zugang, indem jedes Team oder jede Fachabteilung eine eigene Modell-Bereitstellung betreibt. Das funktioniert zwar, ist aber teuer: Jede neue Instanz bindet GPU-Speicher und Rechenleistung, selbst wenn sich gerade keine Anfragen in Bearbeitung befinden. Gleichzeitig warten andere Teams auf freie Kapazitäten, die anderswo blockiert sind.

Kubermatic AI setzt hier auf einen anderen Ansatz. Statt ein Modell mehrfach zu duplizieren, stellen Unternehmen es einmal zentral bereit. Dank der integrierten Mandantenfähigkeit können mehrere Teams gemeinsam das Modell nutzen. Jedes Team erhält hierbei isolierten API-Zugriff, Kontingente (Quotas), separate Budgets, eigene Governance-Richtlinien sowie eine sichere Mandantentrennung. Die zugrundeliegende Modellinstanz bleibt dabei für alle dieselbe. Dadurch ändert sich die Kostenstruktur von Enterprise-KI grundlegend: Statt Infrastruktur zu duplizieren, können Unternehmen diese sicher teilen.

Praktischer Nutzen für Unternehmen

Mit Kubermatic AI können Unternehmen LLMs as a Service bereitstellen. Entwicklerteams greifen dabei über sichere APIs auf zentral verwaltete Modelle zu. Mit einem Deployment lassen sich mehrere Teams bedienen, wodurch doppelte Modellbereitstellungen entfallen. Insbesondere lässt sich die GPU-Auslastung verbessern. Teure, bereits vorhandene Hardware verarbeitet Anfragen, statt ungenutzt zu bleiben. Unternehmen können die KI zentral steuern, da Richtlinien, Kontingente und Sicherheit über eine einzige Plattform laufen, und die KI überall betreiben – On-Premises, in der Cloud, hybrid oder in souveränen Umgebungen. Entwicklerteams müssen dabei keine neue Oberfläche erlernen. Über integrierte MCP-Unterstützung lässt sich Kubermatic AI direkt in bestehende agentenbasierte Workflows einbinden.

www.kubermatic.com/products/kubermatic-ai/

(Fotos: Kubermatic)