Read in Other Languages
Loading…
IA y sociedad
¿Vigilancia o
acompañamiento?
Una decisión de diseño crítica entre la tecnología y la dignidad humana.
Análisis del riesgo
Una nueva realidad
Los sistemas de IA ya pueden señalar a las personas como «riesgo potencial» e informar directamente al Estado. A primera vista, puede parecer «seguridad».
La pregunta de fondo: ¿está esta tecnología cambiando la sociedad de maneras que no previmos?
Estructura social
El orden natural de la intervención
Estado y autoridadÚltimo recurso — solo cuando las demás capas se han agotado
Sistemas de acompañamientoExpertos, consejeros, servicios sociales
Escuela y docenteApoyo educativo e intervención temprana
FamiliaSostén esencial y principal fuente de confianza
El individuoEl equilibrio social se conserva cuando estas capas se activan en orden
El peligro
El efecto cortocircuito
Flujo normal
- La persona enfrenta un problema
- La familia interviene
- La escuela brinda apoyo
- Un consejero actúa
- El Estado, como último recurso
→
Cortocircuito de la IA
- Las capas sociales se estrechan
- Los problemas se vuelven «casos oficiales» demasiado pronto
- Descarte, no acompañamiento
- La familia queda fuera
Filosofía del diseño
Filtrado: el propósito lo cambia todo
Enfoque de descarte
Perfil de riesgo
¿Quién es peligroso?
¿De quién hay que sospechar?
¿A quién se debe reportar?
Enfoque de desarrollo
Perfil de potencial
¿Quién necesita apoyo?
¿Cómo podemos ayudar?
¿Qué acompañamiento hace falta?
«El propósito lo cambia todo.»
La vida real
Caso: un joven de 16 años
Escuela
Discusiones intensas
Hogar
Aislamiento
En línea
Búsqueda de contenido extremo
Las mismas señales. Resultados distintos — moldeados por el diseño.
Misma persona — futuro distinto
Solo cambia el propósito del sistema.
Diseño A
Orientado a la vigilancia
DiagnósticoRiesgo alto
AcciónReportar
ResultadoEstigma
ImpactoAislamiento, miedo
Diseño B
Orientado al acompañamiento
DiagnósticoSeñal de riesgo
AcciónActivar apoyo
ResultadoImplicación familiar
ImpactoMentoría, crecimiento
La solución
5 principios centrados en la persona
1
Escalada gradual
La cadena de intervención empieza en la familia; el Estado es el último paso.
2
Supervisión humana
El reporte totalmente automatizado está prohibido; cada decisión debe verificarla una persona.
3
Transparencia
Toda persona tiene derecho a saber por qué fue señalada.
4
Protección ante falsos positivos
Un escudo contra los errores de «falso positivo» — sobre todo para los jóvenes.
5
Resultado orientado al apoyo
El sistema debe activar mecanismos de ayuda, no de castigo.
Resumen
Un cambio de paradigma
De
Vigilancia y reporte
Cortocircuito — capas sociales anuladas
→
A
Acompañamiento y apoyo
Orden natural — las capas se activan en orden
Series
Loading…