# NVIDIA Open-Source-Plattform Run:ai unter Apache 2.0 zur Demokratisierung der Kubernetes-GPU-Planung

Source: TechNewsList (https://technewslist.com)
Canonical URL: https://technewslist.com/de/article/nvidia-open-sources-run-ai-gpu-orchestration-platform-apache-2026-10-16-morni-de
Section: Software (https://technewslist.com/de/software)
Author: TechNewsList
Language: de
Published: 2026-10-16T06:51:27.565+00:00
Updated: 2026-10-16T06:51:27.753038+00:00

> NVIDIA veröffentlicht die komplette Run:ai-Orchestrierungsplattform unter der Open-Source-Apache-2.0-Lizenz und schaltet natives fraktioniertes GPU-Slicing und Multi-Tenant-Planung für Kubernetes frei.

## TL;DR
- NVIDIA kündigte die vollständige Open-Source-Veröffentlichung der Run:ai-Plattform unter der freizügigen Apache 2.0-Lizenz an.
- Die Version umfasst den KAI-Scheduler, den GPU-Fraktionierungsoperator, den Ressourcenmanager und die Workload-Map.
- Unternehmensentwickler erhalten natives dynamisches fraktioniertes GPU-Slicing von Kubernetes ohne proprietäre Lizenzgebühren.
- Die Initiative standardisiert die mandantenfähige KI-Workload-Warteschlange über private Clouds und Multi-Cloud-Cluster hinweg.

## Key points
- Die Run:ai-Kerninfrastruktur wird als Teil des NVIDIA-DSX-Stacks in von der Community verwaltete Open-Source-Repositories überführt.
- Die dynamische fraktionierte GPU-Zuweisung ermöglicht mehrere gleichzeitige, leichte KI-Inferenzen und die Feinabstimmung von Arbeitslasten auf einem einzigen Chip.
- Der KAI-Scheduler führt erweiterte Gruppenplanung, automatisierte Fair-Share-Warteschlangen und Workload-Preemption ein.
- Unternehmen eliminieren die Abhängigkeit von einem Anbieter und verbessern gleichzeitig die Auslastung der Grafikchips von typischen durchschnittlich 30 % auf über 80 %.
- Große Cloud-native Software-Distributionen integrieren die Betreiber schnell in vorgelagerte Kubernetes-Pakete.

## Was passiert ist

In einem wichtigen strategischen Dreh- und Angelpunkt für die Cloud-native Infrastruktur für künstliche Intelligenz kündigte NVIDIA die vollständige Open-Source-Veröffentlichung der Run:ai-Plattform unter der freizügigen Apache 2.0-Softwarelizenz an. Die Veröffentlichung umfasst die vollständige Betriebsarchitektur der Kubernetes-basierten Workload-Orchestrierungssuite, die NVIDIA im Jahr 2024 erworben hat, um die Auslastung von Unternehmensgrafikprozessoreinheiten zu optimieren.

Die Open-Source-Version wird als modulare, unabhängig einsetzbare Komponenten innerhalb der NVIDIA DSX AI Factory-Plattform verteilt und stellt der globalen Entwicklergemeinschaft vier grundlegende Systeme frei zur Verfügung: den KAI Scheduler, den GPU Fractioning Operator, KAI Resource Management und die Workload Map.

![In der Programmiersprache C in einem Editor geschriebener Quellcode.](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1792128431696-afhwdc-nvidia-open-sources-run-ai-gpu-orchestration-platform-apache-2026-10-16-morning-inside-1-0cb0fe2f0b.webp)
*Low-Level-Systemplanungsoperatoren optimieren die Speicherverwaltung auf Kernel-Ebene über geclusterte Grafikchips hinweg.*

Durch die Beseitigung proprietärer Lizenzbarrieren ermöglicht NVIDIA jeder Organisation – von Start-ups im Startstadium bis hin zu souveränen nationalen Forschungslabors – die Bereitstellung dynamischer fraktionierter GPU-Partitionierung und mandantenfähiger Jobwarteschlangen auf Unternehmensniveau über Standard-Kubernetes-Cluster hinweg.

## Warum es wichtig ist

In der Unternehmenstechnologielandschaft gehören Grafikbeschleuniger-Cluster zu den teuersten Vermögenswerten in den Unternehmensbilanzen. Doch trotz massiver Kapitalinvestitionen übersteigen die realen GPU-Auslastungsraten in typischen Enterprise-Engineering-Umgebungen selten 25 bis 35 Prozent.

Diese Ineffizienz tritt auf, weil standardmäßige Kubernetes-Planer GPUs als unteilbare, monolithische Recheneinheiten behandeln. Wenn ein Entwickler einen leichtgewichtigen Inferenzcontainer oder eine interaktive Jupyter-Debugging-Sitzung startet, die nur zwei Gigabyte Videospeicher benötigt, bindet Kubernetes eine ganze 80-Gigabyte-GPU an diesen Container, wodurch andere Ingenieure ausgeschlossen werden und teures Silizium im Leerlauf bleibt.

Das Open-Sourcing des GPU Fractioning Operator und des KAI Scheduler von Run:ai löst diesen grundlegenden Engpass. Durch die Aktivierung des dynamischen fraktionierten Speicher-Slicings auf der Treiber- und Container-Laufzeitebene können mehrere Workloads sicher einen einzigen physischen Beschleuniger mit strikter Hardware-erzwungener Speicherisolierung gemeinsam nutzen, was zu Cluster-Auslastungsraten von über 80 Prozent führt.

## Technische Details

Das Herzstück der Open-Source-Architektur ist der KAI Scheduler, ein fortschrittliches Kubernetes-Scheduler-Plugin, das speziell für verteilte Machine-Learning-Workloads entwickelt wurde. Im Gegensatz zu generischen Container-Schedulern, die Pods einzeln planen, implementiert der KAI-Scheduler die Gruppenplanung. Beim verteilten Modelltraining mit mehreren Knoten werden entweder alle erforderlichen Pods auf mehreren Knoten gleichzeitig geplant und gestartet oder es werden keine gestartet. Dadurch werden Deadlocks verhindert, bei denen verteilte Jobs teilweise Clusterressourcen verbrauchen und auf unbestimmte Zeit auf verbleibende Worker-Knoten warten.

Der Planer umfasst außerdem automatisierte Fair-Share-Warteschlangen, garantierte Quoten und intelligente Job-Preemption. Automatisierte Continuous-Integration-Pipelines mit hoher Priorität können Forschungsexperimente mit niedriger Priorität vorübergehend verhindern, Trainingszustände sicher überprüfen und Knoten wieder in die Warteschlange stellen, sobald dringende Aufgaben abgeschlossen sind.

![Quellcode-Repository-Dateien für Open-Source-Softwareprojekte.](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1792128436340-3a84mv-nvidia-open-sources-run-ai-gpu-orchestration-platform-apache-2026-10-16-morning-inside-2-3c7b292248.webp)
*Mit der Apache 2.0-Lizenzversion können Community-Ingenieure GPU-Cluster-Controller prüfen, ändern und erweitern.*

Ergänzt wird der Scheduler durch den GPU Fractioning Operator, der direkt mit den NVIDIA CUDA-Treibern kommuniziert, um fraktionierte vGPU-Slices dynamisch zuzuweisen, ohne dass harte physische Partitionen oder Serverneustarts erforderlich sind. Arbeitslasten erhalten dedizierte virtuelle Rechenkontexte mit erzwungenen Hardware-Speicherbeschränkungen, wodurch verhindert wird, dass außer Kontrolle geratene Speicherzuweisungen benachbarte Prozesse zum Absturz bringen.

## Auswirkungen auf Markt und Branche

Die Entscheidung von NVIDIA, Run:ai als Open-Source-Lösung zu verwenden, verändert die Wettbewerbsdynamik des MLOps- und Cloud-Orchestrierungsmarktes. Konkurrierende proprietäre GPU-Verwaltungsplattformen stehen unter unmittelbarem Preisdruck, da Plattform-Engineering-Teams nun über eine unternehmenstaugliche, von der Community unterstützte Open-Source-Alternative verfügen, die vom dominierenden Halbleiteranbieter selbst verwaltet wird.

Für Cloud-Anbieter und Anbieter von Unternehmensinfrastrukturen wie Red Hat, VMware und SUSE bietet die Version einen sofortigen Upstream-Standard. Große Kubernetes-Distributionen können native fraktionierte GPU-Orchestrierung in ihren Standard-Containerplattformen bündeln und so das Kunden-Onboarding für KI-Workloads vereinfachen.

Darüber hinaus ermöglicht die freizügige Apache 2.0-Lizenz souveränen KI-Initiativen in Europa und Asien die Bereitstellung sicherer, überprüfbarer Cluster-Scheduler, ohne auf proprietäre amerikanische Software-Telemetrie oder kommerzielle SaaS-Abonnements angewiesen zu sein.

## Worauf man als Nächstes achten sollte

Die Open-Source-Repositorys Run:ai sind sofort auf GitHub verfügbar, wobei Container-Images und Helm-Charts zur automatisierten Bereitstellung in Open-Source-Container-Registern veröffentlicht werden.

In den kommenden Monaten werden Entwickler-Communities die Geschwindigkeit überwachen, mit der Cloud Native Computing Foundation (CNCF) und die Upstream-Kubernetes-Community die Integration von Run:ai-Scheduler-Erweiterungen direkt in zentrale Kubernetes-Release-Zyklen bewerten.

Führungskräfte von DevOps und Architekten von Plattformen für maschinelles Lernen sollten Pilotbereitstellungen auf bestehenden internen GPU-Entwicklungsclustern durchführen, um Auslastungsverbesserungen zu messen und standardisierte Multi-Tenant-Ressourcenquoten in ihren Entwicklungsorganisationen festzulegen.

## Quellen

- [NVIDIA Blog für technische Entwickler](https://developer.nvidia.com/blog/open-sourcing-run-ai-kubernetes-gpu-orchestration/): Offizielle technische Veröffentlichung mit detaillierten Informationen zur Architektur, Apache 2.0-Repository-Links und KAI-Scheduler-Spezifikationen.
- [Der neue Stack Cloud Native](https://thenewstack.io/nvidia-open-sources-run-ai-platform-for-kubernetes-gpu-scheduling/): Analyse von Kubernetes-Schedulererweiterungen, Multi-Tenant-Cluster-Ökonomie und Einführung von Unternehmensökosystemen.
- [TechRepublic Unternehmens-IT](https://www.techrepublic.com/article/nvidia-open-source-run-ai-kubernetes/): Unabhängige Berichterstattung über die Auswirkungen von Open-Source-Lizenzen, die Effizienz des fraktionierten GPU-Slicings und Bereitstellungspfade.

Mentions: NVIDIA, Run:ai, Cloud Native Computing Foundation

## Sources
- [NVIDIA Blog für technische Entwickler](https://developer.nvidia.com/blog/open-sourcing-run-ai-kubernetes-gpu-orchestration/)
- [Der neue Stack Cloud Native](https://thenewstack.io/nvidia-open-sources-run-ai-platform-for-kubernetes-gpu-scheduling/)
- [TechRepublic Unternehmens-IT](https://www.techrepublic.com/article/nvidia-open-source-run-ai-kubernetes/)