KI-Schulung in der Jugendhilfe: Leitplanken zuerst - Werkzeuge danach

KI-Schulung in der Jugendhilfe braucht mehr als Tool-Training. Wer Mitarbeitende wirklich befähigen möchte, sollte vor dem Workshop klären, welche Daten besonders sensibel sind, welche Anwendungsfälle in Betracht kommen und wer KI-Ergebnisse fachlich verantwortet.

Warum KI-Schulungen allein nicht reichen

Künstliche Intelligenz ist kein Zukunftsthema mehr. Fachkräfte in der Jugendhilfe und der Sozialen Arbeit experimentieren längst mit Text-Assistenten, lassen sich Strukturvorschläge erstellen oder fragen sich, ob KI bei Konzepten und Berichtsentwürfen helfen kann. Der Wunsch nach Entlastung ist nachvollziehbar: Die Arbeitsbelastung ist hoch, Dokumentationsanforderungen wachsen und Zeit für Fachliches ist knapp.

Doch eine reine Tool-Schulung greift zu kurz. Die europäische KI-Verordnung sieht in Art. 4 vor, dass Anbieter und Betreiber von KI-Systemen nach besten Kräften sicherstellen müssen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz nach AI Act verfügt.^[1] Die Bundesnetzagentur weist zugleich darauf hin, dass der AI Act keine standardisierten Trainings vorgibt. Organisationen entscheiden daher kontextbezogen, wie sie KI-Kompetenz passend zu Rolle, Wissensstand und Risiko aufbauen.^[2]

Eine KI-Schulung ist deshalb sinnvoll, aber nur als Teil einer fundierten Vorbereitung. Wer nur Prompts erklärt, ohne Datenschutzgrenzen, fachliche Prüfung und Verantwortlichkeiten zu klären, erzeugt eher Unsicherheit als Orientierung.

Kurz erklärt: Was bedeutet KI-Schulung in der Jugendhilfe

Eine KI-Schulung in der Jugendhilfe vermittelt nicht nur den Umgang mit KI-Tools. Sie sollte Mitarbeitende und Leitungskräfte auch für Datenschutz, sensible Daten, Ergebnisprüfung, fachliche Verantwortung und interne Leitplanken sensibilisieren.

Für soziale Organisationen geht es damit um zwei Ebenen: Mitarbeitende brauchen praktische Bedienkompetenz. Die Organisation braucht aber zusätzlich geklärte Regeln, damit KI nicht zufällig, informell oder in sensiblen Fallkontexten genutzt wird.

Was der AI Act zur KI-Kompetenz bedeutet

Viele KI-Workshops beginnen mit der Frage, wie Prompts formuliert werden oder welche Funktionen ein System bietet. Das ist wichtig. Mitarbeitende brauchen ein Gefühl dafür, was KI leisten kann. Für Organisationen der Jugendhilfe reicht diese Perspektive jedoch nicht aus.

Seit dem 2. Februar 2025 gelten erste Pflichten der KI-Verordnung. Dazu zählen das Verbot bestimmter Praktiken, etwa Social Scoring, und die Verpflichtung zur KI-Kompetenz.^[1] Gleichzeitig setzt die Datenschutz-Grundverordnung enge Grenzen, etwa bei besonderen Kategorien personenbezogener Daten und bei automatisierten Entscheidungen mit rechtlicher Wirkung oder vergleichbar erheblicher Beeinträchtigung.^[3]

Eine Schulung sollte diese Grundlagen einordnen. Sie ersetzt keine Rechtsberatung, bietet aber Orientierung für den Arbeitsalltag: Welche Nutzung ist hilfreich Welche Nutzung ist riskant Und wann sollte Datenschutz oder Leitung eingebunden werden

Warum Datenschutz zentral ist

In der Jugendhilfe geht es selten um neutrale Informationen. Hilfeverläufe, familiäre Konflikte, Schutzfaktoren, Gesundheitsbezüge, Entwicklungsverläufe oder soziale Lebenslagen können besonders sensibel sein. Schon die Eingabe vertraulicher Notizen in ein externes KI-System kann problematisch sein.

Die Datenschutzkonferenz erinnert daran, dass besondere Kategorien personenbezogener Daten, etwa Gesundheitsdaten oder religiöse Überzeugungen, besonders geschützt sind und ihre Verarbeitung grundsätzlich verboten ist, sofern keine Ausnahme greift.^[4] Eine KI-Schulung sollte daher klären, welche Daten ohne Einzelfallprüfung nicht verwendet werden sollten und warum Anonymisierung im Fallkontext oft schwieriger ist, als es auf den ersten Blick wirkt.

Hinzu kommt die Ergebnisprüfung. KI-Modelle liefern plausible, aber manchmal falsche Antworten. Ergebnisse mit Personenbezug sollten deshalb besonders kritisch geprüft werden; diskriminierende oder fehlerhafte Ergebnisse können zu unzulässigen Verarbeitungen und fachlich problematischen Entscheidungen führen.^[4]

Welche Daten Mitarbeitende nicht eingeben sollten

In der Jugendhilfe entsteht das Risiko nicht erst im Tool selbst, sondern bereits bei der Eingabe und späteren Verwendung von Daten. Selbst wenn keine Namen genannt werden, können Hinweise aus Kontext, Diagnosen, Wohnort, familiärer Situation oder Fallbeschreibung Rückschlüsse auf Personen zulassen.

Besonders zu beachten sind:

• Personenbezug und Anonymisierung: Auch scheinbar harmlose Texte können personenbeziehbar sein. Mitarbeitende sollten standardmäßig prüfen, ob personenbezogene Daten, Diagnosen oder fallbezogene Details enthalten sind. Wenn eine belastbare Anonymisierung nicht möglich ist, spricht vieles dafür, solche Informationen nicht in ein generatives KI-System einzugeben.
• Besondere Kategorien personenbezogener Daten: Gesundheitsdaten, religiöse oder politische Überzeugungen, Gewerkschaftszugehörigkeit oder ethnische Herkunft unterliegen nach Art. 9 DSGVO erhöhten Anforderungen.^[3] Für KI-Tools bedeutet das: Solche Daten erfordern vor einer Nutzung eine tragfähige Rechtsgrundlage, eine konkrete Prüfung und passende Schutzmaßnahmen. Ohne diese Klärung sollten sie ausgeschlossen werden.
• Automatisierte Entscheidungen: Bei Entscheidungen mit Rechtswirkung oder ähnlich erheblicher Wirkung ist besondere Vorsicht geboten. Art. 22 DSGVO setzt hierfür enge Grenzen und verlangt eine echte menschliche Bewertung und Entscheidungsmacht.^[3] KI kann unterstützen, ersetzt aber keine Fachlichkeit.

Was Leitungskräfte vor einem KI-Workshop klären sollten

Bevor ein Workshop stattfindet, sollten Leitung, Datenschutz, Qualitätsmanagement, IT oder digitale Strukturen und Fachpraxis eine gemeinsame Arbeitsgrundlage schaffen. Die folgenden Fragen verwandeln ein allgemeines Schulungsprojekt in einen verantwortbaren Einstieg:

• Wo wird KI bereits informell genutzt Häufig testen Mitarbeitende KI-Tools ohne formale Freigabe. Ein realistischer Überblick schafft die Grundlage für Regeln.?
• Welche Anwendungsfälle sind vergleichsweise unproblematisch Allgemeine Formulierungshilfen, Ideensammlungen oder Strukturierungen ohne Personenbezug sind oft weniger kritisch als sensible, fallbezogene Inhalte.?
• Welche Daten sollten ohne vorherige Prüfung nicht eingegeben werden Besondere Kategorien und personenbezogene Daten brauchen klare Grenzen, damit Mitarbeitende im Alltag nicht jedes Mal allein entscheiden müssen.?
• Wer prüft die Ergebnisse Für KI-Ausgaben sollte festgelegt werden, wie sie fachlich geprüft werden und dass sie nicht ungefiltert übernommen werden. Gerade in der Sozialen Arbeit bleibt die Einschätzung bei den Menschen.?
• Welche Rollen sind beteiligt Datenschutz ordnet Risiken ein, Qualitätsmanagement entwickelt Prozesse, IT schafft technische Rahmenbedingungen und Fachpraxis weiß, wo KI tatsächlich helfen kann.?

Diese Klärung zeigt: Eine KI-Schulung ist kein isoliertes Fortbildungsthema. Sie ist Teil einer organisatorischen Entscheidung darüber, wie KI in der Jugendhilfe verantwortbar genutzt werden kann.

Wie ein guter KI-Workshop aufgebaut ist

Ein praxisnaher KI-Workshop für soziale Organisationen verbindet Bedienkompetenz mit Datenschutz, fachlicher Einordnung und organisatorischer Verantwortung. Die Bundesnetzagentur beschreibt den Aufbau von KI-Kompetenz als kontextabhängige Aufgabe; entscheidend sind unter anderem Rolle, Wissenstand und Risiken der jeweiligen Nutzung.^[2]

Ein guter Workshop umfasst deshalb mehrere Bausteine:

• Praktische Übungen: Mitarbeitende erleben anhand unverfänglicher Beispiele, wie Prompts formuliert werden, wie Ergebnisse aussehen und wo Grenzen liegen. Geeignet sind Aufgaben ohne Personenbezug, etwa die Strukturierung eines allgemeinen Konzeptentwurfs.
• Datenschutz und Risikobewusstsein: Der Workshop erklärt, welche Daten nicht eingegeben werden dürfen, welche Risiken mit generativen KI-Systemen verbunden sind und wann eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO zu prüfen ist.^[3]
• Fachliche Einordnung: KI-Tools können Texte generieren, aber sie ersetzen keine professionelle Einschätzung. Mitarbeitende brauchen Orientierung, wie Ergebnisse kritisch geprüft werden und wann Rücksprache mit Leitung oder Datenschutz sinnvoll ist.
• Organisatorische Verantwortung: Der Workshop sollte nicht suggerieren, dass Mitarbeitende allein über die Nutzung entscheiden. Verantwortlichkeiten, Grenzen und Dokumentation sollten vorher festgelegt werden.

Vom Workshop zu klaren KI-Leitplanken

Eine einmalige Schulung ist nur der Anfang. Um KI verantwortungsvoll zu nutzen, braucht es einen strukturierten Prozess, der zur eigenen Organisation passt.

• Bestandsaufnahme: Dokumentieren Sie, wo KI bereits genutzt wird, welche Fragen entstehen und welche Risiken bestehen.
• Leitplanken formulieren: Legen Sie fest, welche Anwendungsfälle in Betracht kommen, welche Daten ohne vorherige Prüfung ausgeschlossen bleiben sollten und wie Ergebnisse geprüft werden.
• Verantwortlichkeiten klären: Bestimmen Sie, wer innerhalb der Organisation wofür zuständig ist: technische Umsetzung, Datenschutz, Qualitätsmanagement, Leitung und fachliche Einordnung.
• Schulen und sensibilisieren: Bieten Sie praxisnahe Workshops an, die Bedienkompetenz mit Risikobewusstsein verbinden. Dokumentieren Sie Maßnahmen zur Kompetenzentwicklung.
• Monitoring und Anpassung: Üüberprüfen Sie regelmäßig die Nutzung von KI, passen Sie Leitplanken an und verfolgen Sie rechtliche Entwicklungen. Der AI Act gilt stufenweise; weitere Regelungen werden nach und nach vollständig relevant.

Für die organisatorische Perspektive vertieft der Fachimpuls KI-Brückenfunktion als Organisationshilfe, wie eine mögliche Brückenfunktion Leitung, Fachpraxis, Datenschutz, Qualitätsmanagement und Technik verbinden kann. Die Datenschutzperspektive ergänzt der Beitrag KI und Datenschutz in der Sozialen Arbeit: Leitplanken statt Toolverbote mit Blick auf Falldaten, Berichtswesen und klare Nutzungsgrenzen. Warum vor einer Einführung auch Aufwand, Nutzen, Risiko und Ressourcen betrachtet werden sollten, ordnet KI in sozialen Organisationen: Warum Kosten-Nutzen kein Tabuthema sein darf ein.

Kurzcheck: Ist Ihre Organisation bereit

Bevor Sie eine KI-Schulung beauftragen, sollten mindestens fünf Fragen geklärt sein:

• Wo wird KI bereits genutzt?
• Welche Daten sollten ohne vorherige Prüfung nicht eingegeben werden?
• Welche Anwendungsfälle kommen in Betracht, welche sollten ausgeschlossen oder vertieft geprüft werden?
• Wer prüft KI-Ergebnisse fachlich?
• Wer trägt organisatorisch Verantwortung?

Fazit: Leitplanken geben Orientierung

Eine KI-Schulung in der Jugendhilfe kann ein wertvoller Baustein sein, wenn sie mehr bietet als Bedienhinweise. Die KI-Verordnung verpflichtet Organisationen zur Förderung von KI-Kompetenz,^[1] und die Datenschutzkonferenz mahnt zur Vorsicht im Umgang mit personenbezogenen und sensiblen Daten.^[4]

Gerade in der Jugendhilfe geht es um Vertrauen. Mitarbeitende brauchen klare Leitplanken, um KI verantwortungsvoll zu nutzen. Leitungskräfte sollten deshalb zuerst Nutzung sichtbar machen, Datenschutzgrenzen klären, Rollen definieren und Mitarbeitende gezielt befähigen.

Orientierung statt Tool-Hype. Sicherheit statt Wildwuchs.

Häufige Fragen

Was sollte eine KI-Schulung in der Jugendhilfe enthalten?

Eine KI-Schulung sollte nicht nur Tool-Bedienung vermitteln. Wichtig sind auch Datenschutz, zu prüfende Anwendungsfälle, Prüfung von Ergebnissen, Rollen und Verantwortlichkeiten.

Dürfen Mitarbeitende personenbezogene Daten in KI-Tools eingeben?

Personenbezogene, sensible oder fallbezogene Daten sollten vor einer Eingabe in KI-Systeme konkret geprüft werden. Relevant sind insbesondere Rechtsgrundlage, Zweck, Schutzmaßnahmen und die Frage, ob Kontextinformationen Rückschlüsse auf Personen zulassen können.

Warum reicht eine reine Prompt-Schulung nicht aus?

Prompting hilft bei der Bedienung. Für soziale Organisationen reicht das aber nicht. Mitarbeitende brauchen Orientierung dazu, wann KI-Nutzung kritisch ist, wie Ergebnisse geprüft werden sollten und wer Verantwortung trägt.

Wer sollte vor einer KI-Schulung beteiligt werden?

Sinnvoll sind Leitung, Datenschutz, Qualitätsmanagement, IT beziehungsweise digitale Strukturen und Fachpraxis. So entsteht eine gemeinsame Grundlage, bevor Mitarbeitende geschult werden.

Was ist der erste Schritt vor einem KI-Workshop?

Der erste Schritt ist eine Standortbestimmung: Wo wird KI bereits genutzt, welche Risiken bestehen, welche Daten sind betroffen und welche Leitplanken fehlen

Quellen und weiterführende Hinweise

1. Europäische Union / EUR-Lex: Verordnung (EU) 2024/1689, insbesondere Art. 4 KI-Kompetenz.
   Verordnung (EU) 2024/1689 öffnen
   Relevanz: Zentrale Rechtsgrundlage für KI-Kompetenz bei Anbietern und Betreibern von KI-Systemen.

2. Bundesnetzagentur: Hinweispapier KI-Kompetenzen nach Artikel 4 KI-Verordnung, Juni 2025.
   Hinweispapier der Bundesnetzagentur öffnen
   Relevanz: Erläutert Anforderungen des AI Act an KI-Kompetenz und betont, dass Organisationen selbst geeignete Maßnahmen auswählen können.

3. Datenschutz-Grundverordnung: Art. 9, Art. 22 und Art. 35 DSGVO.
   DSGVO bei EUR-Lex öffnen
   Relevanz: Rechtsgrundlage für den Umgang mit personenbezogenen Daten, besonderen Kategorien personenbezogener Daten, automatisierten Entscheidungen und Datenschutz-Folgenabschätzungen.

4. Datenschutzkonferenz (DSK): Orientierungshilfe Künstliche Intelligenz und Datenschutz, 06.05.2024.
   PDF der DSK-Orientierungshilfe öffnen
   Relevanz: Gibt Orientierung zur Auswahl, Implementierung und Nutzung von KI-Anwendungen aus Datenschutzsicht.

Hinweis zu Rechts-, Datenschutz- und Compliance-Fragen

Dieser Fachimpuls stellt keine Rechtsberatung, keine verbindliche Datenschutzberatung und keine Einzelfallbewertung dar. Er dient ausschließlich der fachlichen Orientierung und Information. Je nach Organisation, Datenlage, eingesetztem Tool, Vertragsgestaltung und konkretem Anwendungsfall kann eine individuelle rechtliche, datenschutzrechtliche oder organisatorische Prüfung erforderlich sein. Bei rechtlichen, datenschutzrechtlichen, aufsichtsrechtlichen oder Compliance-relevanten Fragestellungen sollten Datenschutzbeauftragte, Rechtsberatung oder andere zuständige Stellen einbezogen werden.

Transparenzhinweis

Dieser Beitrag wurde fachlich von Simon Kern erstellt und redaktionell verantwortet. KI wurde unterstützend zur Strukturierung, sprachlichen Verdichtung und technischen Aufbereitung eingesetzt. Die inhaltliche Prüfung und Verantwortung liegen bei Simon Kern.