Wie kommunale datenkompetenz bürger vor algorithmischer diskriminierung schützt

Wenn Kommunen Daten sammeln, verarbeiten und in Algorithmen gießen, dann geht es nicht nur um Effizienz oder Kostenersparnis. Es geht um Menschen — um Nachbarinnen, Familien, Seniorinnen, Arbeitssuchende. In den letzten Jahren habe ich immer wieder erlebt, wie technische Lösungen mit dem Versprechen von „Objektivität“ eingeführt werden, ohne dass die Risiken für algorithmische Diskriminierung ausreichend bedacht wurden. Kommunale Datenkompetenz ist kein Luxus, sondern ein Schutzmechanismus, der Bürgerinnen vor unfairen Entscheidungen bewahrt.

Was meine ich mit kommunaler Datenkompetenz?

Mit „kommunaler Datenkompetenz“ meine ich die Fähigkeit einer Stadtverwaltung oder Gemeinde, Daten sachkundig, verantwortungsvoll und kritisch zu nutzen. Das umfasst mehrere Ebenen:

Ohne diese Fähigkeiten droht, dass automatisierte Systeme bestehende Ungleichheiten verfestigen — etwa, wenn Frühwarnsysteme für Sozialleistungen neighborhoods mit hohem Migrationsanteil fälschlich als „risikoreich“ klassifizieren.

Warum schützt Datenkompetenz vor algorithmischer Diskriminierung?

Die Vorstellung, dass Algorithmen „neutral“ seien, ist eine gefährliche Illusion. Algorithmen lernen aus Daten, und Daten spiegeln gesellschaftliche Ungleichheiten wider. Kommunale Datenkompetenz hilft in drei zentralen Punkten:

Als Beispiel denke ich an Gesichtserkennungstechnologien, die in einigen Städten getestet wurden: Ohne informierte Debatte und klare Richtlinien hätten sie systematisch Menschen mit dunklerer Hautfarbe häufiger falsch identifiziert. Kommunale Datenkompetenz hätte solche Tests früh stoppen oder modifizieren können.

Konkrete Maßnahmen, die jede Kommune ergreifen kann

Ich bin überzeugt: Viele Schritte sind pragmatisch und sofort umsetzbar. Hier einige Maßnahmen, die ich als besonders wirksam sehe:

All diese Schritte sind keine Insellösungen. Sie müssen miteinander verknüpft sein — Ausbildung ohne Transparenz bleibt wirkungslos, und ein Register ohne Sanktionen ist nur Kosmetik.

Wer trägt die Verantwortung — und wie kann Bürgerschaft mitwirken?

Verantwortung liegt auf mehreren Schultern. Politik und Verwaltung müssen Regeln setzen und durchsetzen. IT-Abteilungen müssen sichere, dokumentierte Systeme liefern. Datenschutzbehörden müssen kontrollieren. Und die Zivilgesellschaft muss fragen, nachhaken und mitgestalten.

Als Bürgerin oder Bürger kann man mehr tun, als oft gedacht wird:

Ich habe erlebt, wie lokale Bündnisse aus NGOs, Wissenschaft und engagierten Einwohnerinnen ein Projekt stoppen konnten, das intransparent geplant war. Sichtbarkeit und Druck wirken — aber das setzt Wissen voraus. Deshalb ist die Stärkung der Datenkompetenz der Bürgerschaft genauso wichtig wie die der Verwaltung.

Praxisbeispiel: Sozialhilfebescheid durch ein Entscheidungsunterstützungssystem

Stellen Sie sich vor, eine Kommune führt ein System ein, das Fälle priorisiert — wer zuerst einen Sozialhilfebescheid erhält, wer ein intensiveres Beratungsangebot kriegt. Ohne Datenkompetenz können folgende Probleme auftreten:

Mit datenkompetenter Verwaltung könnten diese Risiken gemindert werden: Die Datengrundlage würde geprüft, Bias-Analysen durchgeführt, ein Widerspruchsverfahren etabliert und die Kriterien für Priorisierung öffentlich gemacht.

Wie sieht der rechtliche Rahmen aus?

Das Bundesdatenschutzgesetz und die DSGVO setzen bereits Standards für personenbezogene Daten. Doch viele Regelungen sind auf nationale oder europäische Ebene noch in Auslegung und Umsetzung. Kommunen sollten daher:

In einigen Städten entstehen bereits kommunale Leitlinien für KI-Einsatz — ein Trend, den ich für richtig und wichtig halte. Er zeigt: Rechtliche Vorgaben sind notwendig, aber nicht hinreichend. Praktische Datenkompetenz schafft die Lücke zwischen Gesetz und Alltag.

Ein kurzer Check für Ratsmitglieder — vor jeder Entscheidung

Wenn Kommunen diese Fragen ernst nehmen und Datenkompetenz systematisch aufbauen, können sie algorithmische Diskriminierung vermindern — und zugleich das Vertrauen der Bürgerinnen in digitale Verwaltung stärken. Für mich ist das kein technischer Luxus, sondern demokratische Grundlage: Wer entscheidet, wie Daten genutzt werden, entscheidet mit über die Chancen und Rechte der Menschen vor Ort.