# NVIDIA Open Sources Run:ai Platform und KAI Scheduler für AI Workload Orchestration

Source: TechNewsList (https://technewslist.com)
Canonical URL: https://technewslist.com/de/article/nvidia-open-sources-runai-platform-kai-scheduler-2026-10-14-morning-de
Section: Software (https://technewslist.com/de/software)
Author: TechNewsList
Language: de
Published: 2026-10-14T06:55:16.035+00:00
Updated: 2026-10-14T06:55:16.711504+00:00

> NVIDIA hat die komplette Run:ai-Orchestrierungsplattform und den KAI Scheduler unter Apache 2.0 veröffentlicht und liefert GPU-Fraktionierung auf Hardwareebene für Kubernetes-Cluster.

## TL;DR
- NVIDIA hat die Run:ai-Cluster-Orchestrierungsplattform unter der freizügigen Apache 2.0-Softwarelizenz vollständig als Open-Source-Lösung bereitgestellt.
- Die Kernversion enthält den KAI Scheduler, eine Kubernetes-native GPU-fähige Planungs-Engine, die als CNCF-Sandbox-Projekt akzeptiert wird.
- GPU-Fraktionierung und Speicherlimits auf Hardwareebene sind jetzt für Open-Source-Betreiber ohne kommerzielle Softwarelizenzierung zugänglich.

## Key points
- NVIDIA kündigte am 13. Oktober den Open-Source-Umstieg von Run:ai als Kernkomponente seiner DSX AI Factory-Plattform an.
- Der KAI-Scheduler bietet fraktioniertes GPU-Slicing, Gang-Scheduling und Multi-Tenant-Prioritätspräemption direkt in Kubernetes.
- Ein eigenständiger GPU-Fraktionierungsoperator erzwingt strenge Speichergrenzen direkt auf der CUDA 13.4-Laufzeitebene.
- Hyperscale-KI-Cloud-Anbieter wie Nebius und Crusoe haben den Open-Source-Stack in Managed-Cluster-Angebote integriert.
- Kommerzieller Support ist weiterhin über NVIDIA AI Enterprise verfügbar, während die Community-Governance den CNCF-Standards entspricht.

## Was passiert ist

In einem großen Wandel für Infrastruktursoftware für künstliche Intelligenz hat NVIDIA die komplette Run:ai-Orchestrierungsplattform offiziell unter der Apache 2.0-Lizenz als Open Source bereitgestellt. Der am 13. Oktober angekündigte Schritt verwandelt die von NVIDIA erworbene proprietäre Cluster-Management-Suite in eine offene, von der Community verwaltete Grundlage für heterogene KI-Rechencluster.

Wie in der offiziellen Ankündigung im [NVIDIA Developer Blog](https://developer.nvidia.com/blog/nvidia-runai-is-now-open-source-as-part-of-nvidia-dsx-ai-factory-platform/) dargelegt, umfasst die Codebasisversion den zentralen Kubernetes-nativen KAI Scheduler, den GPU Fractioning Operator und dynamische Cluster-Telemetriemodule. Darüber hinaus hat die Cloud Native Computing Foundation (CNCF) gleichzeitig den KAI Scheduler in ihre Sandbox-Projektliste aufgenommen und damit einen neutralen Governance-Pfad für Cloud-Bereitstellungen mehrerer Anbieter etabliert.

![NVIDIA Run:ai-Architekturschema](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1791956561346-oqcgnr-nvidia-open-sources-runai-platform-kai-scheduler-2026-10-14-morning-inside-1-52c35cd923.webp)

## Warum es wichtig ist

Die effiziente GPU-Nutzung hat sich als einer der größten betrieblichen Engpässe für die generative KI-Entwicklung herausgestellt. Standardmäßige Planungsalgorithmen von Kubernetes behandeln Beschleuniger als grobe, monolithische Ganzzahlen. Ein leichtgewichtiger Inferenzarbeiter, der eine GPU anfordert, sperrt häufig einen ganzen teuren H100- oder B200-Beschleuniger, sodass der Speicher mit hoher Bandbreite (HBM) und die Tensorkerne weitgehend ungenutzt bleiben.

Run:ai hat sich in der Branche einen Namen gemacht, indem es spezielle fraktionierte Virtualisierung auf Kernel-Ebene und fortschrittliche Warteschlangenmechanismen entwickelt hat, die es mehreren Trainings- oder Inferenzjobs ermöglichen, Silizium ohne Leistungseinbußen gemeinsam zu nutzen. Durch die Veröffentlichung dieser Software unter einer freizügigen Apache 2.0-Lizenz beseitigt NVIDIA die proprietäre Lizenzbarriere, die zuvor kleine Labore, akademische Einrichtungen und unabhängige Cloud-Anbieter daran gehindert hat, GPU-Virtualisierung in Produktionsqualität zu implementieren.

Wie von [Venture Atlas](https://www.ventureatlas.org/news/2026-10-13-nvidia-runai-open-source) berichtet, stärkt das Open-Sourcing von Run:ai auch NVIDIAs CUDA-Ökosystem gegenüber aufkommenden offenen Beschleunigerarchitekturen. Durch die Standardisierung der Kubernetes-Clusterplanung direkt um CUDA-native Fraktionierungsprimitive herum stellt NVIDIA sicher, dass die KI-Plattformen des Unternehmens auch bei selbstverwalteten und hybriden Cloud-Bereitstellungen für die Hardware-Architektur optimiert bleiben.

## Technische Details

Der architektonische Kern des Open-Source-Stacks ist der KAI Scheduler. Als alternativer oder ergänzender Scheduler innerhalb der standardmäßigen Kubernetes-Kontrollebenen führt KAI Gang-Scheduling, topologiebewusstes Bin-Packing und Überbuchung mit strikter Prioritätspräemption ein. Wenn ein verteilter Trainingsauftrag mit mehreren Knoten übermittelt wird, garantiert KAI, dass alle Worker-Pods und die zugehörigen NVLink-Netzwerkstrukturen gleichzeitig zugewiesen werden, bevor die Ausführung beginnt, wodurch teilweise Ressourcen-Deadlocks verhindert werden.

Ergänzt wird der Scheduler durch den modularisierten GPU-Fraktionierungsoperator. Im Gegensatz zum einfachen Time-Slicing auf Software-Ebene, bei dem es zu Speicherüberlauf-Abstürzen kommen kann, wenn gleichzeitige Prozesse den physischen VRAM überschreiten, bindet der Open-Source-Operator die CUDA 13.4-Treiberschicht ein, um strenge Hardware-Speichergrenzen durchzusetzen. Wenn eine Inferenzaufgabe versucht, Speicher über den zugewiesenen Bruchteil hinaus zuzuweisen, schränkt die Laufzeit die Zuweisung ordnungsgemäß ein, anstatt eine Kernel-Panik wegen unzureichendem Speicher für benachbarte Arbeitslasten auszulösen.

Laut einer im [Nebius Blog](https://nebius.com/blog/posts/nvidia-run-ai-open-source-nebius-applications) veröffentlichten Architekturübersicht können Managed-Cloud-Anbieter diese Komponenten nun direkt in Standard-Upstream-Kubernetes-Distributionen integrieren, ohne proprietäre Sidecar-Agenten zu pflegen. Nebius und Crusoe haben bereits native Bereitstellungen des Open-Source-Run:ai-Stacks in ihren verteilten KI-Clustern validiert und dabei eine bis zu dreifache Steigerung der effektiven GPU-Auslastung für Feinabstimmungs- und Inferenzpipelines gemeldet.

![NVIDIA AI Factory Scaling-Grafik](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1791956562874-28mji6-nvidia-open-sources-runai-platform-kai-scheduler-2026-10-14-morning-inside-2-dba1257bd2.webp)

## Auswirkungen auf Markt und Branche

Das Open-Sourcing von Run:ai findet sowohl bei kommerziellen Kubernetes-Management-Anbietern als auch bei spezialisierten KI-Infrastruktur-Startups großen Anklang. Softwareanbieter, die proprietäre Planungserweiterungen auf Basis von Vanilla Kubernetes entwickelt haben, sehen sich nun der Konkurrenz durch eine vom Anbieter unterstützte Open-Source-Plattform ausgesetzt, die direkt von den technischen Ressourcen von NVIDIA unterstützt wird.

Für Unternehmenskunden wird NVIDIA im Rahmen der NVIDIA AI Enterprise-Abonnementstufe kommerziellen Support und Unternehmenszertifizierung aufrechterhalten und garantierte Service-Level-Agreements (SLAs), Unternehmensidentitätsintegrationen und spezielle Sicherheitsüberprüfungen anbieten. Die Kernkomponenten der Planungs-Engine und der Container-Orchestrierung werden jedoch gemäß den CNCF-Richtlinien transparent in den öffentlichen GitHub-Repositorys entwickelt.

Dieses offene Entwicklungsmodell ermöglicht es auch Drittanbietern von Hardware und Netzwerken, Upstream-Pull-Requests vorzuschlagen. Community-Mitwirkende können den KAI Scheduler erweitern, um Planungsentscheidungen rund um ultraschnelle InfiniBand-Topologien, Ethernet RoCE v2-Fabrics und leistungsstarke parallele Dateisysteme wie Lustre und GPFS zu optimieren.

## Worauf man als Nächstes achten sollte

In den kommenden Wochen werden Plattformentwicklungsteams die Schwierigkeit bewerten, bestehende Kubernetes-Cluster, auf denen generische benutzerdefinierte Ressourcendefinitionen (CRDs) ausgeführt werden, auf den neuen Open-Source-KAI-Scheduler zu migrieren. Der anfängliche Veröffentlichungsrhythmus und die CNCF-Sandbox-Meilensteine ​​werden zeigen, wie schnell externe Mitwirkende Funktionen beisteuern, die über die unmittelbaren Referenz-Hardwarekonfigurationen von NVIDIA hinausgehen.

Cloud-Infrastrukturteams sollten auch die bevorstehenden CNCF KubeCon-Sitzungen überwachen, bei denen die Betreuer die Veröffentlichung umfassender Benchmarking-Daten planen, die den Durchsatz des KAI-Schedulers mit dem Standard-Kubernetes-Scheduler und der Vulkan-Scheduling-Engine über mehrere Tausend GPU-Cluster hinweg vergleichen.

Schließlich wird das Unternehmenssoftware-Ökosystem beobachten, ob konkurrierende Beschleunigerhersteller – wie AMD und Intel – versuchen, die offenen Schnittstellen des KAI Schedulers an ihre jeweiligen ROCm- und oneAPI-Computing-Stacks anzupassen.

## Quellen

- [NVIDIA-Entwicklerblog](https://developer.nvidia.com/blog/nvidia-runai-is-now-open-source-as-part-of-nvidia-dsx-ai-factory-platform/)– Technische Ankündigung mit Einzelheiten zum Open-Sourcing der Run:ai-Plattform, KAI Scheduler und der Apache 2.0-Lizenzierung.
- [Nebius-Blog](https://nebius.com/blog/posts/nvidia-run-ai-open-source-nebius-applications)– Technische Aufschlüsselung zur Untersuchung cloudnativer Bereitstellungen des KAI Schedulers in verwalteten GPU-Clustern.
- [Venture-Atlas](https://www.ventureatlas.org/news/2026-10-13-nvidia-runai-open-source)– Branchenanalyse zu CNCF-Sandbox-Einführung, Unternehmensunterstützungsmodellen und Marktauswirkungen auf KI-Orchestrierung.

Mentions: NVIDIA, Cloud Native Computing Foundation, Nebius, Crusoe

## Sources
- [NVIDIA-Entwicklerblog](https://developer.nvidia.com/blog/nvidia-runai-is-now-open-source-as-part-of-nvidia-dsx-ai-factory-platform/)
- [Nebius-Blog](https://nebius.com/blog/posts/nvidia-run-ai-open-source-nebius-applications)
- [Venture-Atlas](https://www.ventureatlas.org/news/2026-10-13-nvidia-runai-open-source)