Read in Other Languages
Loading…
ИИ и общество
Слежка или
наставничество?
Ключевой выбор между технологией и человеческим достоинством.
Анализ рисков
Новая реальность
Системы ИИ уже способны помечать людей как «потенциальный риск» и передавать эти сведения напрямую государству. На первый взгляд это похоже на «безопасность».
Настоящий вопрос: не меняет ли эта технология общество так, как мы не ожидали?
Общественная структура
Естественный порядок вмешательства
Государство и властьКрайняя мера — только когда исчерпаны остальные уровни
Системы сопровожденияСпециалисты, консультанты, социальные службы
Школа и учительПедагогическая поддержка и раннее вмешательство
СемьяГлавная опора и первый источник доверия
ЧеловекОбщественное равновесие сохраняется, когда эти слои включаются по очереди
Опасность
Эффект короткого замыкания
Нормальный ход
- Человек сталкивается с проблемой
- Вмешивается семья
- Помогает школа
- Подключается консультант
- Государство — в последнюю очередь
→
Короткое замыкание ИИ
- Социальные слои сужаются
- Проблемы слишком рано становятся «официальными делами»
- Отсев, а не сопровождение
- Семья остаётся в стороне
Философия дизайна
Фильтрация: цель меняет всё
Ориентация на отсев
Профиль риска
Кто опасен?
Кого подозревать?
На кого доносить?
Ориентация на развитие
Профиль потенциала
Кому нужна поддержка?
Как мы можем помочь?
Какое сопровождение требуется?
«Цель меняет всё.»
Реальная жизнь
Случай: подросток 16 лет
Школа
Бурные ссоры
Дом
Замкнутость
В сети
Поиск экстремального контента
Сигналы одни и те же. Исходы разные — их определяет дизайн.
Тот же человек — иное будущее
Меняется только цель системы.
Дизайн A
Ориентация на слежку
ДиагнозВысокий риск
ДействиеДонести
ИтогКлеймо
ПоследствияИзоляция, страх
Дизайн B
Ориентация на наставничество
ДиагнозСигнал риска
ДействиеЗапустить поддержку
ИтогУчастие семьи
ПоследствияНаставничество, рост
Решение
5 принципов, обращённых к человеку
1
Ступенчатая эскалация
Цепь вмешательства начинается с семьи; государство — последний шаг.
2
Человеческий контроль
Полностью автоматическая передача данных запрещена; каждое решение должен подтвердить человек.
3
Прозрачность
У каждого есть право знать, почему его пометили.
4
Защита от ложных срабатываний
Щит против ошибок «ложного срабатывания» — особенно для подростков.
5
Исход, нацеленный на помощь
Система должна запускать механизмы помощи, а не наказания.
Итог
Смена парадигмы
Откуда
Слежка и донесение
Короткое замыкание — социальные слои отключены
→
Куда
Сопровождение и поддержка
Естественный порядок — слои включаются по очереди
Series
Loading…