Cross Validation

Das Wichtigste auf einen Blick

• Cross Validation hilft, die Generalisierungsfähigkeit eines Modells zu bewerten.
• Die Daten werden in mehrere Teilmengen (Folds) aufgeteilt, um Training und Testen zu ermöglichen.
• Klassische Varianten sind k-fache Cross Validation, Leave-One-Out und stratified Cross Validation.
• Cross Validation reduziert das Risiko von Overfitting und Underfitting.
• Die Methode ist besonders wichtig bei begrenzten Datenmengen.
• Ergebnisse aus Cross Validation unterstützen die Modellwahl und Hyperparameter-Optimierung.

Überblick: Cross Validation

Cross Validation (deutsch: Kreuzvalidierung) ist ein Verfahren zur objektiven Bewertung von Vorhersagemodellen. Dabei wird die verfügbare Datenmenge in mehrere Teilmengen aufgeteilt, um das Modell mehrfach zu trainieren und zu testen. Dies ermöglicht eine zuverlässige Abschätzung der Modellqualität und verhindert Überanpassung (Overfitting). Cross Validation ist ein zentraler Bestandteil in Statistik, maschinellem Lernen und Data Science.

Was ist Cross Validation?

Cross Validation ist ein Verfahren zur Validierung von Vorhersagemodellen, bei dem die vorhandenen Daten in mehrere Teilmengen (Folds) aufgeteilt werden. Das Modell wird mehrfach trainiert und getestet, wobei jeweils unterschiedliche Daten als Trainings- und Testdaten dienen. Dies ermöglicht eine robuste Einschätzung der Modellleistung auf unbekannten Daten.

Warum ist Cross Validation wichtig?

Cross Validation verhindert, dass ein Modell nur auf die Trainingsdaten gut passt (Overfitting) und auf neuen Daten schlecht performt. Durch die wiederholte Aufteilung der Daten und das Testen auf unterschiedlichen Teilmengen wird die Generalisierungsfähigkeit des Modells realistisch eingeschätzt.

Häufige Varianten der Cross Validation

Die bekanntesten Varianten sind:
- k-fache Cross Validation: Die Daten werden in k gleich große Folds geteilt, jeder Fold dient einmal als Testdaten.
- Leave-One-Out Cross Validation (LOOCV): Jeder Datenpunkt wird einzeln als Testdaten verwendet.
- Stratified Cross Validation: Die Aufteilung erfolgt so, dass die Klassenverteilung in jedem Fold erhalten bleibt.

Vergleich der Cross Validation Varianten

Anwendungsbereiche von Cross Validation

Cross Validation wird in vielen Bereichen eingesetzt, darunter:
- Maschinelles Lernen zur Modellauswahl und Hyperparameteroptimierung
- Statistik zur Validierung von Regressions- und Klassifikationsmodellen
- Data Science zur Bewertung von Prognosemodellen
- Medizinische Forschung zur Einschätzung diagnostischer Tests

Grundlegender Ablauf einer k-fachen Cross Validation

Die k-fache Cross Validation folgt diesen Schritten:

• Daten in k gleich große Folds aufteilen.
• Für jeden Fold: Modell mit den restlichen k-1 Folds trainieren.
• Modell mit dem aktuellen Fold testen und Leistung messen.
• Leistungen über alle Folds mitteln.
• Mittlere Leistung als Schätzung der Modellqualität verwenden.

Vor- und Nachteile von Cross Validation

Wichtig zu wissen

Zusatzinformationen

Synonyme und alternative Bezeichnungen