MLOps
Trainierte Modelle auch nach der ersten Bereitstellung reproduzieren können.
Eine Modelldatei erklärt noch nicht, welche Daten sie erzeugt haben, warum sie freigegeben wurde und wann sie geändert werden sollte. Wir bauen den Lebenszyklus darum so auf, dass dein Team Ergebnisse reproduzieren, Ersatzmodelle prüfen und fehlerhafte Releases zurücknehmen kann.
KURZ ERKLÄRT
MLOps organisiert den Lebenszyklus trainierter Machine-Learning-Modelle: Daten- und Artefaktversionen, wiederholbares Training, Freigabeprüfungen, Bereitstellung, Überwachung und kontrolliertes Nachtrainieren. Änderungen werden nachvollziehbar und betrieblich zugeordnet.
Geeignet für
- Teams mit manuell bereitgestellten oder nicht reproduzierbaren Modellen
- Produkte mit Bedarf an einem kontrollierten Weg von neuen Trainingsdaten zur Modellfreigabe
Andere Ausgangslage
- Die Entwicklung eines ersten Modells vor geklärter Machbarkeit
- Prompt- und Retrieval-Evaluation einer bestehenden LLM-Anwendung
Einen Modellpfad wiederholbar machen
Wir beginnen mit einem repräsentativen Modell und erfassen Quelldaten, Transformationen, Trainingsumgebung, Artefakte und Zielumgebung. Versteckte Notebook-Schritte und manuelle Dateikopien werden zu sichtbaren Abhängigkeiten. Ist die Nützlichkeit eines Modells noch offen, beginnt der Auftrag mit Machine Learning, bevor in Lifecycle-Infrastruktur investiert wird.
Genügend Informationen für eine Reproduktion festhalten
Der Ablauf erfasst Datensatzreferenzen, Feature-Definitionen, Codeversionen, Parameter und Evaluationsergebnisse. Ein produktives Artefakt lässt sich dadurch mit den Nachweisen seiner Freigabe verbinden. Speicher- und Zugriffskonzepte berücksichtigen sensible oder lizenzierte Trainingsdaten. Vorhandene Engineering-Werkzeuge werden weiterverwendet, soweit sie die Anforderungen erfüllen.
Neue Kandidaten anhand von Nachweisen freigeben
Ein neues Modell wird vor der Freigabe gegen die akzeptierte Baseline und relevante Teilgruppen geprüft. Je nach Anwendung erfolgt die Bereitstellung über gestaffelten Verkehr, parallele Schattenvorhersagen oder einen begrenzten Stapel. Wir definieren Rollback-Voraussetzungen, kompatible Feature-Versionen und Freigaberechte. Allgemeine Repository- und Pipeline-Sicherheit bleibt bei DevSecOps.
Veränderte Eingaben und schlechtere Entscheidungen unterscheiden
Datendrift zeigt veränderte Eingaben, aber nicht automatisch einen geringeren Geschäftsnutzen. Wir definieren brauchbare Signale, die Verfügbarkeit tatsächlicher Ergebnisse und die Reaktion auf jeden Alarm. Nachtraining kann zeit- oder ereignisgesteuert erfolgen; eine Veröffentlichung folgt weiterhin der vereinbarten Evaluation. Meldungen ohne interpretierbare Bedeutung oder zuständige Person erhalten keinen Platz im Betriebskonzept.
Beispiel einer Abnahme: Ein schwächeres Ersatzmodell wird blockiert
Ein Kandidat verbessert den Gesamtwert, verschlechtert sich aber für eine wichtige Kundengruppe. Eine beispielhafte Freigabeprüfung stoppt die Veröffentlichung und erhält das bisherige Artefakt. Das Team kann den Vergleich reproduzieren und die verwendeten Datensätze prüfen. Eine separate Rollback-Probe bestätigt die Rückkehr zu einer vorherigen kompatiblen Modell- und Feature-Version.
Eine ausführbare Betriebsroutine hinterlassen
Zur Übergabe gehören Pipelines, Regeln für Artefakte und Datensätze, Dashboards, Freigabekriterien und Anleitungen für Störungen. Infrastruktur, Überwachungszeiten und Reaktionsverantwortung werden ausdrücklich vereinbart. Dieser Auftrag schafft Werkzeuge für den Modell-Lifecycle. Ein laufender Managed-Cloud-Operations-Vertrag erhält einen eigenen Leistungsumfang und eigene Bedingungen.
Fragen vor dem Start
Nicht zwingend. Für wenige Modelle können ein reproduzierbarer Job, ein Artefaktspeicher und ein klarer Freigabenachweis genügen. Orchestrierung oder Registry kommen hinzu, wenn der Ablauf sie benötigt.
Das ist möglich, wenn Datenzugriff und Evaluation es erlauben. Das Training eines Kandidaten und dessen Freigabe für den Produktivbetrieb bleiben getrennte Schritte.
Ja, nach Prüfung von Codezugriff, Datennutzungsrechten und Artefakten. Fehlende Trainingshistorie wird dokumentiert; sie lässt sich nicht einfach aus der ausgelieferten Datei ableiten.
Bei Bereitstellung und Überwachung gibt es Überschneidungen. Prompt-Versionen, Retrieval-Qualität und Bewertungen generierter Antworten gehören zur KI-Evaluierung & LLMOps. Hier stehen trainierte Modelle und Datensätze im Mittelpunkt.
Modell-Lifecycle prüfen
Beschreibe die eingesetzten Modelle, deren Training und Bereitstellung sowie die Schritte, die sich schwer wiederholen lassen. Wir vereinbaren Zugriff auf einen repräsentativen Ablauf.