Sehen Sie den Vortrag von Mario Fahlandt auf dem Cloud Native AI Day EU 2024
K8sGPT ist ein schnell aufsteigender Stern in der CNCF-Landschaft. Die meisten von uns verwenden es derzeit mit bezahlten Ressourcen - aus diesem Grund können einige von uns seine Fähigkeiten nicht nutzen.
Folgen Sie mir in den Kaninchenbau, erstellen Sie Ihre eigene Feinabstimmung eines LLM mit Kubeflow und nehmen Sie LocalAI auf eine Spritztour in unserem Cluster mit, um genau dieses Modell als Grundlage zu verwenden.
Jetzt haben wir eine lokale Schnittstelle, die wir für k8sgpt verwenden können. So können wir unsere Kubernetes-Cluster scannen und Probleme in einfachem Englisch diagnostizieren und beheben. K8sgpt hilft dabei, die relevantesten Informationen herauszufiltern und sie mit KI anzureichern.
Als Zusatznutzen bereichern wir das LLM in der Feinabstimmung mit unserem eigenen Projekt oder Open Source Dokumentation. So fungiert LocalAI als unser eigenes ChatGPT, um in unserer Umgebung um Hilfe zu bitten.
Das Erstaunlichste ist, dass wir alles innerhalb von Kubernetes machen können, in unserer eigenen Infrastruktur, in unserem eigenen Rechenzentrum oder in einer privaten Cloud.
Sprecher: Mario Fahlandt, Customer Delivery Architect bei Kubermatic
