Verbotene KI-Praktiken

Kurz erklärt

Bestimmte KI-Praktiken dürfen nicht eingesetzt werden, auch wenn sie technisch möglich wären.

Verbotene KI-Praktiken sind KI-Nutzungen, die nach der KI-Verordnung wegen besonderer Risiken für Menschen, Grundrechte oder gesellschaftliche Werte untersagt sind.

Warum ist das für soziale Organisationen wichtig?

Soziale Organisationen sollten verbotene KI-Praktiken nicht nur als juristische Extremfälle sehen. Sie helfen, rote Linien zu erkennen, etwa bei manipulativer Beeinflussung, Ausnutzung besonderer Schutzbedürftigkeit oder problematischer Bewertung von Menschen.

Typisches Missverständnis

Verbotene KI-Praktiken sind nicht erst relevant, wenn eine Organisation hochkomplexe KI entwickelt. Schon die Auswahl oder Nutzung eines Tools kann problematisch sein, wenn Zweck und Wirkung in verbotene Bereiche führen.

Beispiel aus der Praxis

Eine Einrichtung dürfte kein KI-System einsetzen, das vulnerable Personen gezielt so beeinflusst, dass ihnen erheblicher Schaden entstehen kann. Auch vermeintlich hilfreiche Automatisierung braucht deshalb klare Grenzen.

Was sollten Leitungen beachten?

• Rote Linien in KI-Leitlinien ausdrücklich benennen.
• Tools nicht nur nach Nutzen, sondern auch nach unzulässigen Wirkungen prüfen.
• Besonders schutzbedürftige Zielgruppen berücksichtigen.
• Unsichere Anwendungsfälle vor dem Einsatz stoppen und prüfen.

Einordnung für KI-Leitplanken

Verbotene KI-Praktiken bilden die rote Zone einer KI-Ampel. Sie helfen kleinen und mittleren Einrichtungen, früh Nein zu sagen, bevor ein Tool im Alltag landet.

Rechtliche Grundlage

Für die fachliche Einordnung wurden insbesondere folgende amtliche Grundlagen berücksichtigt:

• KI-Verordnung Art. 5

Verwandte Begriffe