Lokale KI · DevOps

KI-Assistenz für Ihr DevOps-Team, auf eigenen Modellen

Logs zusammenfassen, Incidents einordnen, in Runbooks und interner Dokumentation nachschlagen, Konfigurationen erklären lassen: KI kann einem Plattform-Team viel Routine abnehmen. Oft dürfen genau diese Daten aber nicht zu einem externen Anbieter. Ich baue mit Ihnen eine KI-Assistenz auf, die auf lokal betriebenen Modellen läuft, in Ihrer Infrastruktur, unter Ihrer Kontrolle.

30 Minuten unverbindlich sprechen Alle Leistungen

Thomas Zachmann · thomas@zachmann.work · thomaszachmann.de/lokale-ki-devops

Für wen

Typische Ausgangslagen

Externe KI ist nicht erlaubt

„Unsere Logs und Konfigurationen dürfen das Haus nicht verlassen.“

Die Teams sehen den Nutzen von KI, aber Datenschutz, Kundenvorgaben oder Geheimhaltung schließen externe Dienste aus.

Wissen steckt in Runbooks und Tickets

„Die Antwort steht irgendwo im Wiki, aber nachts findet sie niemand.“

Interne Dokumentation, Runbooks und frühere Incidents sind vorhanden, aber schwer zu durchsuchen.

Erst klein anfangen

„Bevor wir GPUs für alle kaufen, wollen wir sehen, ob es hilft.“

Ein Pilot für ein Team mit einem konkreten Anwendungsfall liefert belastbare Erfahrung, bevor über eine große Plattform entschieden wird.

Umfang

Typische Anwendungsfälle

Logs und Incidents
Zusammenfassen und Einordnen von Logs, Alarmen und Incident-Verläufen
Runbooks und Doku
Fragen an interne Dokumentation, Runbooks und Wiki, mit Quellenangabe
Konfigurationen verstehen
Kubernetes-Manifeste, Terraform und Pipelines erklären und prüfen lassen
Code-Unterstützung
Assistenz beim Schreiben von Skripten und Konfigurationen mit lokal laufenden Modellen
Betrieb
Modelle auf eigener Hardware oder im bestehenden Kubernetes-Cluster, mit Gateway, Zugriffskontrolle und Protokollierung

Die Daten bleiben im Haus. Modelle, Gateway und Daten laufen in Ihrer Infrastruktur. Wächst der Bedarf über ein Team hinaus, ist der nächste Schritt eine Enterprise-AI-Plattform.

Ergebnis

Was Sie bekommen

Lauffähiger Pilot
Ein Anwendungsfall, produktiv nutzbar für Ihr Team
Betriebskonzept
Modellwahl, Hardware, Gateway, Zugriffe und Kosten
Bewertung
Was der Pilot gebracht hat und was für eine Ausweitung nötig wäre
Übergabe
Dokumentation und Einweisung Ihres Teams

Ablauf

1. Workshop
Anwendungsfall, Daten, Rahmenbedingungen
1 Tag
2. Konzept
Modell, Hardware, Architektur
1–2 Tage
3. Aufbau
Modell-Serving, Gateway, Anbindung
3–5 Tage
4. Erprobung
Nutzung im Team, Auswertung
2–4 Wochen

Ich arbeite remote, auf Wunsch auch vor Ort.

Angebot

Varianten und Angebot

Nach einem kurzen Erstgespräch erhalten Sie ein schriftliches Angebot mit Festpreis für den vereinbarten Umfang.

Pilot

  • ein Team, ein Anwendungsfall
  • auf vorhandener oder kleiner neuer Hardware
  • Bewertung und Empfehlung

Team-Setup

  • mehrere Anwendungsfälle
  • Gateway mit Zugriffskontrolle und Protokollierung
  • Übergabe an Ihr Team

Ein noch junges Themenfeld: Ich biete es als gemeinsames Pilotprojekt an, auf Basis meiner Arbeit an Enterprise-AI-Plattformen und eigener Labs.

Belege

Warum ich

Buch
„Enterprise AI Platform“: Lab-Guide zu GPU-Infrastruktur, Model Serving mit vLLM und KServe, LiteLLM-Gateways, Governance und FinOps.
Plattformen
On-Premises-Kubernetes in regulierten Umfeldern: RKE2 mit automatisiertem Lifecycle, OpenShift auf virtualisierter Infrastruktur, Kyverno-Policies, GitOps mit Argo CD und Flux, Observability mit Prometheus, Grafana, Loki und Tempo.
Zertifikate
CKS, CKA, CKAD
Umfelder
Seit 2020 in regulierten Umfeldern, unter anderem öffentlicher Sektor und Banken.

Nächster Schritt

30 Minuten, unverbindlich

Schreiben Sie mir, welchen Anwendungsfall Sie im Kopf haben und ob bereits GPU-Hardware vorhanden ist.

Gespräch vereinbaren

Thomas Zachmann · Freiberuflicher Platform Engineer · Hamburg
thomas@zachmann.work · thomaszachmann.de