Read in Other Languages
Loading…
KI und Gesellschaft
Überwachung oder
Begleitung?
Eine entscheidende Designfrage zwischen Technologie und Menschenwürde.
Risikoanalyse
Eine neue Wirklichkeit
KI-Systeme können Menschen heute als „potenzielle Risiken" markieren und direkt an den Staat melden. Auf den ersten Blick wirkt das wie „Sicherheit".
Die eigentliche Frage: Verändert diese Technologie die Gesellschaft auf Weisen, die wir nie vorhergesehen haben?
Gesellschaftliche Struktur
Die natürliche Ordnung der Intervention
Staat und AutoritätLetzte Instanz — erst wenn alle anderen Ebenen ausgeschöpft sind
BegleitungssystemeFachleute, Berater, soziale Dienste
Schule und LehrkraftPädagogische Unterstützung und frühe Intervention
FamilieGrundlegender Halt und wichtigste Vertrauensquelle
Das IndividuumDas gesellschaftliche Gleichgewicht bleibt, wenn diese Ebenen der Reihe nach wirken
Die Gefahr
Der Kurzschluss-Effekt
Normaler Verlauf
- Der Mensch erlebt ein Problem
- Die Familie greift ein
- Die Schule leistet Unterstützung
- Ein Berater schaltet sich ein
- Der Staat als letzter Ausweg
→
KI-Kurzschluss
- Die sozialen Ebenen verengen sich
- Probleme werden zu früh zu „offiziellen Fällen"
- Aussortierung, keine Begleitung
- Die Familie bleibt außen vor
Gestaltungsphilosophie
Filterung: Der Zweck verändert alles
Aussonderungsorientiert
Risikoprofil
Wer ist gefährlich?
Wer ist verdächtig?
Wer muss gemeldet werden?
Entwicklungsorientiert
Potenzialprofil
Wer braucht Unterstützung?
Wie können wir helfen?
Welche Begleitung ist nötig?
„Der Zweck verändert alles."
Das wirkliche Leben
Fall: Ein 16-Jähriger
Schule
Heftige Auseinandersetzungen
Zuhause
Rückzug
Online
Suche nach extremen Inhalten
Dieselben Signale. Unterschiedliche Ergebnisse — geformt vom Design.
Dieselbe Person — eine andere Zukunft
Nur der Zweck des Systems ändert sich.
Design A
Überwachungsorientiert
DiagnoseHohes Risiko
AktionMelden
ErgebnisStigmatisierung
WirkungIsolation, Angst
Design B
Begleitungsorientiert
DiagnoseRisikosignal
AktionUnterstützung einleiten
ErgebnisFamilienbeteiligung
WirkungMentoring, Entwicklung
Die Lösung
5 menschenzentrierte Prinzipien
1
Schrittweise Eskalation
Die Interventionskette beginnt bei der Familie; der Staat ist der letzte Schritt.
2
Menschliche Aufsicht
Vollautomatische Meldungen sind untersagt; jede Entscheidung muss von einem Menschen geprüft werden.
3
Transparenz
Jeder hat das Recht zu erfahren, warum er markiert wurde.
4
Schutz vor Fehlalarmen
Ein Schutzschild gegen „false positive"-Fehler — besonders für junge Menschen.
5
Unterstützungsorientiertes Ergebnis
Das System muss Hilfsmechanismen auslösen, keine Strafen.
Zusammenfassung
Ein Paradigmenwechsel
Von
Überwachung und Meldung
Kurzschluss — gesellschaftliche Ebenen außer Kraft
→
Zu
Begleitung und Unterstützung
Natürliche Ordnung — Ebenen wirken der Reihe nach
Series
Loading…