Aufbau einer selbstverwalteten, autonomen KI-Infrastruktur für die Verteidigung
Die BWI GmbH ist der wichtigste IT- und Digitalisierungspartner der deutschen Bundeswehr und verantwortlich für die Infrastruktur, die ihrer „Software Defined Defence“-Strategie zugrunde liegt. Das bedeutet, eine Infrastruktur aufzubauen, die moderne Anwendungen in zentralen Rechenzentren, an Edge-Standorten und sogar in netzunabhängigen Feldumgebungen unterstützen kann.
Im Rahmen dieser Aufgabe ermöglicht das BWI den Einheiten der Bundeswehr und seinen Forschungspartnern den Zugang zu modernen KI-Fähigkeiten, darunter Sprachmodelle, Computer Vision und georäumliche Analyse.
Über seine experimentelle Plattform „xPlatforms“ (BwXLab) stellt BWI eine GPU-gestützte Infrastruktur für diese KI-Anwendungen bereit. Die Herausforderung bestand darin, diese Infrastruktur leicht zugänglich und verwaltbar zu gestalten und sie gleichzeitig sicher, souverän und flexibel genug zu halten, damit sie in verschiedenen Umgebungen eingesetzt werden kann.
Die Herausforderung
GPU-Infrastruktur nach Bedarf bereitstellen
BWI verfügte über die erforderliche GPU-Infrastruktur, um die zunehmenden Anwendungsfälle im Bereich der künstlichen Intelligenz zu unterstützen. Die Herausforderung bestand darin, diese Infrastruktur den Nutzern schnell, sicher und überall dort zur Verfügung zu stellen, wo sie benötigt wurde.
Herkömmliche Bereitstellungsprozesse basierten auf einzelnen Anfragen, Tickets und manuellen Einrichtungsvorgängen. Für Teams, die sich mit Datenanalyse, Modelltraining und KI-Inferenz befassen, war es dadurch jedoch schwierig, die benötigten Ressourcen ohne lange Wartezeiten zu erhalten.
Gleichzeitig sind GPUs teuer und können nicht einfach genehmigt, gekauft und eingesetzt werden, sobald der Bedarf steigt. Verschiedene Einheiten der Bundeswehr und Forschungspartner mussten sich die verfügbare Hardware teilen, wobei ihre Arbeitslasten und Daten sicher voneinander getrennt bleiben mussten.
Schließlich musste BWI die Kontrolle über seine Infrastruktur behalten. Die Plattform musste so betrieben werden, dass sie nicht auf ausländische Cloud-Anbieter angewiesen war und Umgebungen außerhalb des Rechenzentrums, einschließlich netzunabhängiger Standorte vor Ort, unterstützen konnte.
Lösung
Kubermatic AI
Kubermatic und SVA arbeiteten eng zusammen, um die richtige Lösung für BWI zu finden. SVA brachte seine langjährige Beziehung zu BWI und sein tiefgreifendes Verständnis der Anforderungen des Unternehmens ein, während Kubermatic das Fachwissen in den Bereichen Kubernetes und Cloud-native Technologien beisteuerte. Gemeinsam schufen sie die Grundlage für die xPlatforms-Umgebung von BWI aufBasis von „
“ Kubermatic AI.
Anstatt für jedes Team separate Umgebungen einzurichten, kann BWI nun verschiedene KI-Workloads auf einem gemeinsamen GPU-Pool ausführen. Die Teams bleiben sicher voneinander isoliert, während BWI den bereits vorhandenen Hardware-Bestand besser nutzt. Die Plattform unterstützt bereits die Inferenz von Sprachmodellen, Data Science, Computer Vision, Bildgenerierung und GPU-gestützte Notebooks, die alle parallel auf derselben Infrastruktur laufen.
Einer der größten Vorteile für BWI war die Geschwindigkeit. Was früher Beschaffungsmaßnahmen, die Einrichtung von Hardware und langwierige Infrastrukturprozesse erforderte, lässt sich nun über den Self-Service innerhalb weniger Minuten erledigen. Und da die Plattform auf der eigenen Infrastruktur von BWI läuft, ist sie nicht von externen Cloud-Anbietern abhängig. Sie unterstützt zudem auch Umgebungen ohne Internetverbindung, einschließlich GPU-Hardware, die bereits vor Ort im Einsatz ist.
SVA pflegt eine langjährige Partnerschaft mit BWI und verfügt über ein tiefgreifendes Verständnis für dessen Umfeld und Anforderungen. SVA unterstützt BWI auch weiterhin bei der Umsetzung neuer Anforderungen und Anwendungsfälle, während Kubermatic das zugrunde liegende Fachwissen zu Kubernetes und cloud-nativen Plattformen beisteuert. Gemeinsam ermöglichen SVA und Kubermatic BWI einen schnelleren Zugang zu KI, eine bessere Nutzung seiner GPU-Ressourcen sowie die erforderliche Kontrolle, um KI sicher sowohl in vernetzten als auch in nicht vernetzten Umgebungen einzusetzen.
