KI und Datenschutz: Welche Daten gehören nicht ungeprüft in KI-Tools

Soziale Organisationen arbeiten mit besonders schutzbedürftigen Informationen. Wer KI nutzen will, braucht deshalb vor dem ersten Prompt eine klare Antwort auf die Frage: Welche Daten gehören nicht in ungeprüfte oder nicht freigegebene Tools, welche brauchen eine ausdrückliche Prüfung und welche sind eher unkritisch

Kurzantwort

In nicht geprüfte oder nicht freigegebene KI-Tools sollten grundsätzlich keine personenbezogenen Falldaten, Sozialdaten, Gesundheitsdaten, Daten von Kindern und Jugendlichen, vertrauliche Beratungsinhalte, internen Konfliktdaten, Personalinformationen, Zugangsdaten oder sonstige sensible Organisationsinformationen eingegeben werden.

Der entscheidende Punkt ist nicht erst das Tool, sondern der Prompt. Bevor Mitarbeitende Informationen in ein KI-System eingeben, sollte geklärt sein, welche Datenarten betroffen sind, ob das Tool freigegeben ist, ob eine geeignete Rechtsgrundlage und ein datenschutzgerecht ausgestalteter Verarbeitungsrahmen bestehen und wer die fachliche Verantwortung trägt.

Für die Praxis hilft eine einfache Einordnung: Allgemeine Konzeptideen ohne Personenbezug können oft risikoärmer sein. Anonymisierte Fallbeispiele sind prüfpflichtig, weil Re-Identifikation möglich sein kann. Echte Falldaten, Sozialdaten und vertrauliche Beratungsinhalte sollten ohne ausdrückliche Prüfung nicht genutzt werden.

Warum Datenschutz vor dem Prompt beginnt

Bei KI-Nutzung entsteht Datenschutz nicht erst, wenn ein Ergebnis zurückkommt. Datenschutz beginnt in dem Moment, in dem entschieden wird, welche Informationen in ein KI-System eingegeben werden. Gerade generative KI-Tools wirken im Alltag niedrigschwellig: Text einfügen, Frage stellen, Antwort erhalten. Für soziale Organisationen kann genau diese Einfachheit riskant werden.

Ein Prompt kann Namen, Fallverläufe, Diagnosen, Familiensituationen, Konflikte, Leistungsdaten, Hilfeplaninformationen oder vertrauliche Beratungsinhalte enthalten. Selbst wenn Namen entfernt werden, können Kombinationen aus Ort, Alter, Einrichtung, Lebenslage und Ereignissen eine Person indirekt erkennbar machen.

Deshalb brauchen Organisationen eine praktische Datenklassifikation. Mitarbeitende sollten nicht jedes Mal allein entscheiden müssen, ob ein Inhalt in ein KI-Tool eingegeben werden kann. Sie brauchen Regeln, Beispiele, freigegebene Tools und eine klare Anlaufstelle für Zweifelsfälle. Fehlt dieser Rahmen, steigt auch das Risiko von Schatten-KI.

Personenbezogene Daten, Sozialdaten und Falldaten unterscheiden

Personenbezogene Daten sind Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Dazu gehören direkte Angaben wie Name, Adresse oder Telefonnummer, aber auch indirekte Merkmale, wenn sie zusammen eine Identifizierung ermöglichen.

Sozialdaten sind im Sozialrecht besonders geregelt. Nach § 67 Absatz 2 SGB X sind Sozialdaten personenbezogene Daten im Sinne der DSGVO, die von einer in § 35 SGB I genannten Stelle im Hinblick auf Aufgaben nach dem Sozialgesetzbuch verarbeitet werden. In der Praxis sozialer Organisationen ist der Begriff ein starkes Warnsignal: Daten aus Hilfe-, Leistungs-, Beratungs- und Schutzkontexten brauchen besondere Sorgfalt.

Falldaten sind kein einheitlicher Datenschutzbegriff, aber im Arbeitsalltag sozialer Organisationen besonders wichtig. Gemeint sind Informationen aus konkreten Hilfe-, Beratungs-, Betreuungs-, Schutz- oder Begleitprozessen. Sie können personenbezogene Daten, Sozialdaten, Gesundheitsdaten, intime Lebensumstände, Risiko- und Schutzinformationen oder fachliche Einschätzungen enthalten.

Für KI-Leitplanken ist deshalb weniger entscheidend, ob ein Team intern exakt dieselbe juristische Kategorie verwendet. Entscheidend ist, dass riskante Datenarten vor der Nutzung erkannt und nicht unbedacht an externe KI-Systeme übermittelt werden.

Rollen und Verantwortung in der Organisation

Datenschutz bei KI ist keine Einzelaufgabe der Fachkraft am Schreibtisch. Die Organisation muss einen Rahmen schaffen, in dem Mitarbeitende sicher handeln können. Dazu gehören Toolfreigaben, Datenklassifikation, Schulung, dokumentierte Entscheidungen und eine klare Regel für Zweifelsfälle.

Geschäftsführung, Vorstand oder Trägerleitung verantworten den organisatorischen Rahmen. Datenschutzbeauftragte oder Datenschutzkoordination prüfen datenschutzrechtliche Fragen. IT bewertet technische und vertragliche Aspekte. Qualitätsmanagement sorgt dafür, dass Regeln, Freigaben, Schulungen und Änderungen nachvollziehbar bleiben. Die Fachpraxis bewertet, welche Nutzung fachlich sinnvoll, riskant oder ausgeschlossen ist.

Eine KI-Brückenfunktion kann diese Perspektiven verbinden. Sie nimmt Toolwünsche auf, sortiert Datenarten, koordiniert Prüfungen und übersetzt Entscheidungen in alltagstaugliche Regeln für Teams. Eine KI-Brückenfunktion ersetzt dabei weder Datenschutz noch Leitung, sondern koordiniert die unterschiedlichen Perspektiven. Die Gesamtverantwortung bleibt trotzdem bei der Organisation und ihrer Leitung. Ein verbindlicher Rahmen kann in einer KI-Policy beschrieben werden.

Praxisbeispiele

Beratung und Jugendhilfe

Eine Fachkraft möchte eine Fallnotiz mit KI sprachlich glätten. In der Notiz stehen Namen, Alter der Kinder, Schulprobleme, Hinweise auf psychische Belastungen und ein Konflikt mit einem Elternteil. Diese Inhalte gehören nicht in ein nicht freigegebenes KI-Tool. Eine risikoärmere Alternative kann sein: Die Fachkraft nutzt eine intern freigegebene Schreibunterstützung ohne externe Übermittlung oder erstellt ein stark abstrahiertes Beispiel ohne identifizierende Merkmale und lässt nur die Struktur verbessern.

Verwaltung, Teamkommunikation und Protokolle

Ein Team möchte ein KI-Protokolltool für Dienstbesprechungen testen. In den Besprechungen werden Personalfragen, Fallverläufe, Kooperationsprobleme und interne Entscheidungen besprochen. Vor einem Einsatz braucht es eine Prüfung: Welche Daten werden aufgezeichnet Wo werden Audio und Transkripte verarbeitet Gibt es eine Auftragsverarbeitung Wer hat Zugriff Wie wird gelöscht Werden Teilnehmende informiert Ohne diese Klärung sollte das Tool nicht genutzt werden.

Datenart, Risiko, KI-Nutzung und Alternative

Datenart oder Inhalt	Risiko	KI-Nutzung	Risikoärmere Alternative
Allgemeine Konzeptidee ohne Personenbezug	eher niedrig	meist eher möglich, wenn keine vertraulichen Interna enthalten sind	Allgemein formulieren, keine Namen, Orte, internen Konflikte oder Einzelfälle eingeben.
Interne Teamnotiz ohne sensible Daten	mittel	abhängig vom Inhalt und vom freigegebenen Tool	Vorher prüfen, ob Organisationsinterna oder indirekte Personenbezüge enthalten sind.
Falldokumentation mit Klientendaten	hoch	ohne ausdrückliche Prüfung nicht nutzen	Fallintern bearbeiten, freigegebene Fachsoftware nutzen oder stark abstrahierte Beispiele erstellen.
Gesundheitsdaten, Diagnosen, Behinderung, Sucht, Krise	sehr hoch	grundsätzlich nicht in ungeprüfte oder nicht freigegebene KI-Tools eingeben	Nur in geprüften, freigegebenen Verfahren und nach Datenschutzprüfung verarbeiten.
Sozialdaten aus Leistungs-, Hilfe- oder Beratungskontexten	sehr hoch	ohne klare Rechts- und Datenschutzprüfung nicht nutzen	Datenminimierung, interne Systeme und abgestimmte Freigabeprozesse nutzen.
Anonymisierte Beispielnotiz	abhängig von Qualität der Anonymisierung	prüfpflichtig	Nicht nur Namen entfernen; seltene Merkmale, Orte, Zeitpunkte und Kombinationen überücksichtigen.
Vertrauliche Beratungsinhalte	hoch bis sehr hoch	ohne Freigabe nicht nutzen	Beratungsinhalte intern bearbeiten oder mit neutralen Musterfällen arbeiten.
Zugangsdaten, Passwörter, API-Schlüssel	kritisch	nicht in KI-Tools eingeben	Nicht in KI-Tools eingeben; geregelte Passwort- und Berechtigungsprozesse nutzen.

Checkliste: Datenarten-Check vor KI-Nutzung

Enthalten die Daten Namen, Adressen, Telefonnummern, E-Mail-Adressen oder Aktenzeichen
Sind Klientinnen, Klienten, Familien, Kinder, Jugendliche, Mitarbeitende oder Kooperationspartner direkt oder indirekt identifizierbar?
Geht es um Sozialdaten, Gesundheitsdaten, Diagnosen, Hilfeverlauf, Leistungsdaten oder vertrauliche Beratungsinhalte
Enthält der Text seltene Kombinationen aus Ort, Alter, Ereignis, Einrichtung oder Familiensituation
Ist das KI-Tool für diesen Zweck intern freigegeben?
Ist geklärt, ob je nach Risiko eine Auftragsverarbeitung, eine Datenschutz-Folgenabschätzung oder eine weitere Prüfung erforderlich ist?
Ist der Zweck der KI-Nutzung klar beschrieben und fachlich vertretbar?
Wurde Datenschutz eingebunden, wenn personenbezogene oder sensible Daten betroffen sein könnten
Gibt es eine risikoärmere Alternative ohne externe KI-Eingabe?
Ist klar, wer das KI-Ergebnis fachlich prüft, bevor es weiterverwendet wird?

Häufige Fragen

Dürfen Falldaten in KI-Tools eingegeben werden?

In ungeprüfte oder nicht freigegebene KI-Tools sollten Falldaten nicht eingegeben werden. Sie können personenbezogene Daten, Sozialdaten, Gesundheitsdaten oder vertrauliche Beratungsinhalte enthalten und brauchen vor jeder KI-Nutzung eine klare rechtliche, datenschutzbezogene und fachliche Prüfung.

Was sind Sozialdaten?

Sozialdaten sind personenbezogene Daten, die von bestimmten in § 35 SGB I genannten Stellen im Hinblick auf Aufgaben nach dem Sozialgesetzbuch verarbeitet werden. Für die Praxis sozialer Organisationen zeigt der Begriff: Daten aus Hilfe-, Leistungs-, Beratungs- und Schutzkontexten sind besonders sensibel.

Sind anonymisierte Daten immer unproblematisch?

Nein. Anonymisierung ist nur dann tragfähig, wenn eine Person auch indirekt nicht oder nicht mehr mit vertretbarem Aufwand identifizierbar ist. Gerade in Fallkontexten können Kombinationen aus Alter, Ort, Familiensituation, Hilfeverlauf oder seltenen Ereignissen eine Re-Identifikation ermöglichen.

Reicht es aus, Namen aus einem Fall zu entfernen?

Nein. Das Entfernen von Namen allein reicht häufig nicht aus. Auch Kombinationen aus Alter, Wohnort, Familienkonstellation, Hilfeverlauf oder seltenen Ereignissen können eine Identifizierung ermöglichen. Eine belastbare Anonymisierung erfordert mehr als die Entfernung direkter Personenmerkmale.

Welche Daten sind bei KI besonders riskant?

Besonders riskant sind personenbezogene Daten, Sozialdaten, Gesundheitsdaten, Daten von Kindern und Jugendlichen, vertrauliche Beratungsinhalte, Diagnosen, Hilfepläne, Schutzkonzepte, interne Konflikte, Personalinformationen und Zugangsdaten.

Wer sollte Datenschutzfragen vor KI-Nutzung klären?

Datenschutzfragen sollten nicht von einzelnen Mitarbeitenden allein geklärt werden. Sinnvoll ist ein abgestimmter Prozess mit Leitung, Datenschutz, IT, Qualitätsmanagement und Fachpraxis. Die Organisation muss entscheiden, welche Tools für welche Zwecke freigegeben sind.

Darf ich ChatGPT für Fallnotizen nutzen?

Fallnotizen mit echten Personen-, Sozial- oder Gesundheitsdaten gehören nicht in ein allgemein genutztes externes KI-Tool, solange keine ausdrückliche Freigabe und Datenschutzprüfung vorliegt. Möglich können abstrahierte Übungsbeispiele sein, wenn sie nach internen Regeln erstellt wurden.

Was ist der Unterschied zwischen anonymisiert und pseudonymisiert?

Pseudonymisierte Daten können mit Zusatzwissen wieder einer Person zugeordnet werden und bleiben in der Regel personenbezogen. Anonymisierte Daten lassen eine Identifizierung nicht oder nicht mehr mit vertretbarem Aufwand zu. In der Praxis ist echte Anonymisierung deutlich anspruchsvoller als das Entfernen eines Namens.

Wer entscheidet, ob ein KI-Tool genutzt werden darf?

Die Entscheidung sollte über einen internen Freigabeprozess laufen. Leitung oder Träger verantworten den Rahmen; Datenschutz, IT, Qualitätsmanagement und Fachbereiche liefern die fachlichen und organisatorischen Prüfungen.

Weitere Fachimpulse und Begriffe im Zusammenhang

Den größeren Datenschutzrahmen vertieft KI und Datenschutz in der Sozialen Arbeit: Leitplanken statt Toolverbote. Für Dokumentationsfragen passt KI in der Dokumentation sozialer Arbeit. Wie Toolentscheidungen organisatorisch laufen können, zeigt KI-Freigabeprozesse: Vom Tool-Wunsch zur verantwortlichen Nutzung. Wenn Chatbots, KI-generierte Inhalte oder KI-Bilder nach außen sichtbar werden, ergänzt Transparenzpflichten für Chatbots und KI-generierte Inhalte die Informations- und Kennzeichnungsperspektive. Warum fehlende Regeln informelle Nutzung begünstigen, vertieft Schatten-KI vermeiden. Für offene Treffs, Quartiersarbeit und niedrigschwellige Angebote ergänzt KI in niedrigschwelligen Angeboten und Quartiersarbeit die Frage, wann persönliche Anliegen grundsätzlich nicht in nicht freigegebene KI-Systeme gehören. Für SPFH und ambulante Jugendhilfe vertieft KI in der ambulanten Familienhilfe die Grenzen bei Falldaten, Hilfeplanung und Kinderschutz.

Wichtige Begriffe und Organisationsbausteine dazu sind Toolfreigabe, KI-Policy, Schatten-KI, KI-Governance, KI-Policy, KI-Leitbild oder KI-Leitlinien und KI-Brückenfunktion.

Quellen

Nächster Schritt

Datenarten und KI-Nutzung sortieren

Ein hilfreicher erster Schritt ist eine Übersicht der aktuellen KI-Nutzung: Welche Tools werden genutzt, welche Datenarten kommen vor, welche Zwecke sind sinnvoll und wo braucht es klare Stoppschilder Daraus können Datenklassifikation, Toolfreigabe und Schulung entstehen.

Transparenzhinweis

Dieser Fachimpuls wird von Simon Kern verantwortet. Er entsteht auf Grundlage fachlicher Erfahrung in KI, Datenschutzsensibilität, digitaler Organisationsentwicklung und sozialer Praxis. KI-Systeme können bei Recherche, Strukturierung oder Formulierung unterstützend eingesetzt worden sein. Die fachliche Bewertung, Auswahl, Einordnung und Verantwortung liegen beim Autor. Die Inhalte wurden vor der Veröffentlichung fachlich und redaktionell geprüft.

Hinweis zu Rechts-, Datenschutz- und Compliance-Fragen

Dieser Fachimpuls stellt keine Rechtsberatung, keine verbindliche Datenschutzberatung und keine Einzelfallbewertung dar. Er dient ausschließlich der fachlichen Orientierung und Information. Je nach Organisation, Datenlage, eingesetztem Tool, Vertragsgestaltung und konkretem Anwendungsfall kann eine individuelle rechtliche, datenschutzrechtliche oder organisatorische Prüfung erforderlich sein. Bei rechtlichen, datenschutzrechtlichen, aufsichtsrechtlichen oder Compliance-relevanten Fragestellungen sollten Datenschutzbeauftragte, Rechtsberatung oder andere zuständige Stellen einbezogen werden.