Read in Other Languages
Loading…
IA et société
Surveillance ou
accompagnement ?
Un choix de conception décisif entre la technologie et la dignité humaine.
Analyse du risque
Une nouvelle réalité
Les systèmes d'IA peuvent désormais signaler des individus comme « risques potentiels » et les transmettre directement à l'État. À première vue, cela peut ressembler à de la « sécurité ».
La vraie question : cette technologie est-elle en train de transformer la société de manières que nous n'avions pas prévues ?
Structure sociale
L'ordre naturel de l'intervention
État et autoritéDernier recours — seulement lorsque les autres niveaux sont épuisés
Systèmes d'accompagnementExperts, conseillers, services sociaux
École et enseignantSoutien pédagogique et intervention précoce
FamilleSoutien fondamental et première source de confiance
L'individuL'équilibre social tient lorsque ces couches s'activent dans l'ordre
Le danger
L'effet de court-circuit
Flux normal
- L'individu rencontre un problème
- La famille intervient
- L'école apporte son soutien
- Un conseiller prend le relais
- L'État en dernier recours
→
Court-circuit de l'IA
- Les couches sociales se rétrécissent
- Les problèmes deviennent des « dossiers officiels » trop tôt
- Élimination, et non accompagnement
- La famille est écartée
Philosophie de conception
Filtrage : l'intention change tout
Axé sur l'élimination
Profil de risque
Qui est dangereux ?
De qui faut-il se méfier ?
Qui faut-il signaler ?
Axé sur le développement
Profil de potentiel
Qui a besoin de soutien ?
Comment l'aider ?
Quel accompagnement lui faut-il ?
« L'intention change tout. »
Dans la vie réelle
Cas : un adolescent de 16 ans
École
Disputes violentes
Maison
Repli sur soi
En ligne
Recherche de contenus extrêmes
Les mêmes signaux. Des issues différentes — façonnées par la conception.
Même personne — avenir différent
Seule l'intention du système change.
Conception A
Axée surveillance
DiagnosticRisque élevé
ActionSignaler
RésultatStigmatisation
ImpactIsolement, peur
Conception B
Axée accompagnement
DiagnosticSignal de risque
ActionDéclencher un soutien
RésultatImplication familiale
ImpactMentorat, croissance
La solution
5 principes centrés sur l'humain
1
Escalade graduelle
La chaîne d'intervention commence par la famille ; l'État est la dernière étape.
2
Supervision humaine
Le signalement entièrement automatisé est interdit ; chaque décision doit être vérifiée par un humain.
3
Transparence
Toute personne a le droit de savoir pourquoi elle a été signalée.
4
Protection contre les faux positifs
Un bouclier contre les erreurs de « faux positif » — surtout pour les jeunes.
5
Issue orientée soutien
Le système doit déclencher des mécanismes d'aide, non de punition.
Récapitulatif
Un changement de paradigme
De
Surveillance et signalement
Court-circuit — couches sociales désactivées
→
Vers
Accompagnement et soutien
Ordre naturel — les couches s'activent dans l'ordre
Series
Loading…