Die BWI GmbH, der wichtigste IT- und Digitalisierungspartner der deutschen Bundeswehr, baut die Infrastruktur auf, die erforderlich ist, um KI in die Verteidigungsoperationen und die Forschung zu integrieren.
Angesichts der steigenden Nachfrage nach KI muss BWI eine GPU-Infrastruktur bereitstellen, die zentrale Rechenzentren, Edge-Standorte und netzunabhängige Umgebungen vor Ort abdeckt. Die Herausforderung bestand darin, diese Infrastruktur schnell und sicher zur Verfügung zu stellen.
Bisher war der Zugriff auf GPU-Ressourcen mit einzelnen Anträgen, Genehmigungen, der Beschaffung, der Lieferung der Hardware und der manuellen Einrichtung verbunden. Teams mussten unter Umständen monatelang warten, bis sie über die benötigte Infrastruktur verfügten. Gleichzeitig musste BWI dafür sorgen, dass mehrere Teams teure GPU-Hardware gemeinsam nutzen konnten, ohne dass sie Zugriff auf die Workloads oder Daten der anderen Teams erhielten. Die Infrastruktur musste zudem souverän bleiben und in Umgebungen betrieben werden können, die nicht permanent mit einem zentralen Rechenzentrum verbunden waren.
Um diesem Problem zu begegnen, entwickelte BWI gemeinsam mit SVA und Kubermatic „xPlatforms (BwXLab)“ – eine Self-Service-Plattform für die Ausführung von GPU-gestützten KI-Workloads in der gesamten Infrastruktur von BWI. SVA brachte sein Verständnis der Umgebung und der Anforderungen von BWI ein, während Kubermatic das erforderliche Kubernetes- und Cloud-Native-Know-how beisteuerte, um die Plattform auf Basis von Kubermatic AI zu entwerfen und zu entwickeln. Die daraus resultierende Plattform vereint vier Schlüsselkomponenten:
- Kubermatic Kubernetes Platform (KKP) für die Verwaltung von mandantenfähigen, clusterübergreifenden Kubernetes-Umgebungen, standardmäßig mit integriertem NVIDIA GPU Operator.
- Kubermatic-Virtualisierung, basierend auf KubeVirt, für den GPU-Zugriff: Physische GPUs können für gemeinsam genutzte Workloads zeitlich auf mehrere Teams aufgeteilt oder für Workloads, die eine vollständige GPU benötigen, direkt weitergeleitet werden.
- KubeLB für den Lastausgleich innerhalb der Cluster-Flotte, einschließlich Standorten, die auch ohne aktive Verbindung zum zentralen Rechenzentrum weiterbetrieben werden müssen.
- Kubermatic Developer Platform (KDP), die Self-Service-Katalogebene, die auf der Plattform bereitgestellt wird. Teams wählen die benötigten Ressourcen und Knotentypen aus dem Katalog aus und lassen sich eine der Cluster-Vorlagen von KKP bereitstellen, anstatt einen Cluster manuell anzufordern. BWI ist dabei, von seinem früheren, CRD-basierten Bereitstellungsansatz auf KDP umzustellen.
Zusammen bilden diese vier Komponenten die gemeinsame GPU-Infrastrukturplattform von BWI: Mehrere Teams können dieselbe Hardware nutzen, wobei ihre Workloads und Daten voneinander isoliert bleiben, und GPUs können für verschiedene Workloads gemeinsam genutzt werden, anstatt für jedes Projekt dedizierte Hardware zu benötigen. Verschiedene KI-Workloads – von LLM-Inferenz und Computer Vision bis hin zur Bildgenerierung und GPU-gestütztem Training – können parallel auf derselben Infrastruktur ausgeführt werden, ohne dass für jedes Projekt separate Hardware und Beschaffungsprozesse erforderlich sind.
Vor allem hat sich der Prozess von Monaten auf Minuten verkürzt. Anstatt auf einen neuen Beschaffungszyklus zu warten und die Infrastruktur manuell aufzubauen, können Teams nun selbst anfordern, was sie benötigen, und ihre Umgebung im Self-Service bereitstellen lassen.
Die Plattform ist zudem auf die Gegebenheiten im Verteidigungsbereich ausgelegt. Dieselbe Architektur kann sowohl in den zentralen Rechenzentren von BWI als auch an abgelegenen Standorten im Außeneinsatz betrieben werden, sodass KI-Funktionen dort eingesetzt werden können, wo sie benötigt werden, ohne dass eine ständige Verbindung zu einer zentralen Umgebung erforderlich ist.
Und da die Plattform auf der BWI-eigenen Infrastruktur läuft und auf der Open-Source-Technologie Kubernetes sowie auf Virtualisierungstechnologie basiert, behält BWI die Kontrolle über seine Infrastruktur und Daten, anstatt von einem proprietären Cloud- oder Virtualisierungsstack abhängig zu sein.
Was früher einen Beschaffungszyklus bedeutete – die Genehmigung des Budgets, den Kauf von Hardware und das Warten auf die Lieferung –, dauert dank Self-Service nun nur noch wenige Minuten. Die gleiche Architektur, auf der die zentralen Rechenzentren von BWI basieren, wird auch an einem abgelegenen Standort im Außendienst eingesetzt, sodass BWI über eine einheitliche Methode zum Betrieb der KI-Infrastruktur verfügt, unabhängig davon, ob diese im Rechenzentrum oder im Außendienst zum Einsatz kommt.
xPlatforms ist eine der ersten souveränen Self-Service-Plattformen für GPU-Infrastruktur, die speziell für eine europäische Verteidigungsorganisation entwickelt wurde, und bietet BWI die Möglichkeit, mit dem Bedarf an KI-Infrastruktur Schritt zu halten, ohne die Kontrolle über die eigene Infrastruktur oder die eigenen Daten aufzugeben.
