Trainingsdaten

Kurz erklärt

Trainingsdaten sind Daten, mit denen KI-Modelle lernen, Muster zu erkennen.

Bei Sprachmodellen können das zum Beispiel Texte aus unterschiedlichen Quellen sein. Bei anderen KI-Systemen können Bilder, Audiodaten, Tabellen oder andere Datentypen hinzukommen.

Welche Daten verwendet wurden, kann Einfluss auf Qualität, Verzerrungen, Grenzen und Risiken eines KI-Systems haben.

Warum ist das für soziale Organisationen wichtig?

Für soziale Organisationen ist der Begriff wichtig, weil KI-Ergebnisse von den Daten geprägt sein können, mit denen ein Modell entwickelt oder angepasst wurde.

Bei der eigenen Nutzung stellt sich außerdem die Frage, ob eingegebene Daten vom Anbieter für Training oder Verbesserung verwendet werden.

Gerade bei personenbezogenen, sensiblen oder sozialrechtlich geschützten Informationen sollten Vertragslage, Toolkonfiguration und Einsatzregeln geprüft werden.

Typisches Missverständnis

Ein häufiges Missverständnis ist, dass alle Eingaben automatisch Trainingsdaten werden.

Ob Eingaben für Training oder Modellverbesserung genutzt werden, hängt vom Anbieter, Vertrag, Produktmodus und den Einstellungen ab.

Organisationen sollten dies nicht vermuten, sondern im Rahmen der Toolprüfung konkret klären.

Beispiel aus der Praxis

Eine soziale Organisation prüft ein KI-Tool für Textentwürfe.

Im Freigabeprozess wird geklärt, ob eingegebene Daten vom Anbieter gespeichert, ausgewertet oder für Modellverbesserung genutzt werden können.

Auf dieser Grundlage werden zulässige Eingaben und Grenzen für die Nutzung festgelegt.

Was sollten Leitungen beachten?

• Fragen zur Nutzung von Eingaben für Training in die Toolfreigabe aufnehmen.
• Datenqualität und mögliche Verzerrungen bei KI-Ergebnissen mitdenken.
• Personenbezogene und sensible Daten besonders sorgfältig behandeln.
• Verträge, Einstellungen und Anbieterinformationen prüfen lassen.
• Mitarbeitende nicht mit unklaren Dateneingaben alleinlassen.

Verwandte Begriffe