Read in Other Languages
Loading…
Yapay Zekâ ve Toplum
Gözetim mi,
rehberlik mi?
Teknoloji ile insan onuru arasında belirleyici bir tasarım tercihi.
Risk analizi
Yeni bir gerçeklik
Yapay zekâ sistemleri artık bireyleri "potansiyel risk" olarak işaretleyip doğrudan devlete bildirebiliyor. İlk bakışta bu "güvenlik" gibi görünebilir.
Asıl soru şu: Bu teknoloji toplumu hiç beklemediğimiz biçimlerde dönüştürüyor mu?
Toplumsal yapı
Müdahalenin doğal sırası
Devlet ve otoriteSon başvuru — yalnızca diğer katmanlar tükendiğinde devreye girer
Rehberlik sistemleriUzmanlar, danışmanlar, sosyal hizmetler
Okul ve öğretmenEğitsel destek ve erken müdahale
AileTemel dayanak ve güvenin birincil kaynağı
BireyToplumsal denge, bu katmanlar sırayla devreye girdiğinde korunur
Tehlike
Kısa devre etkisi
Normal akış
- Birey bir sorunla karşılaşır
- Aile devreye girer
- Okul destek sunar
- Bir danışman müdahil olur
- Devlet en son başvurulur
→
YZ kısa devresi
- Toplumsal katmanlar daralır
- Sorunlar erkenden "resmi vaka" hâline gelir
- Yönlendirme değil, eleme
- Aile devre dışı kalır
Tasarım felsefesi
Filtreleme: amaç her şeyi değiştirir
Eleme odaklı
Risk profili
Kim tehlikeli?
Kimden şüphelenilmeli?
Kim ihbar edilmeli?
Gelişim odaklı
Potansiyel profili
Kimin desteğe ihtiyacı var?
Nasıl yardım edebiliriz?
Hangi rehberlik gerekli?
"Amaç her şeyi değiştirir."
Gerçek hayat
Vaka: 16 yaşında bir genç
Okul
Sert tartışmalar
Ev
İçe kapanma
Çevrimiçi
Aşırı içerik araması
Aynı sinyaller. Farklı sonuçlar — tasarımın belirlediği.
Aynı kişi — farklı gelecek
Yalnızca sistemin amacı değişir.
Tasarım A
Gözetim odaklı
TeşhisYüksek risk
Eylemİhbar
SonuçDamgalama
EtkiYalnızlık, korku
Tasarım B
Rehberlik odaklı
TeşhisRisk sinyali
EylemDestek başlat
SonuçAilenin katılımı
EtkiMentörlük, gelişim
Çözüm
5 insan merkezli ilke
1
Kademeli tırmanma
Müdahale zinciri aileden başlar; devlet en son halkadır.
2
İnsan denetimi
Tamamen otomatik ihbar yasaktır; her karar bir insan tarafından doğrulanmalıdır.
3
Şeffaflık
İnsanların neden işaretlendiklerini bilme hakkı vardır.
4
Yanlış pozitiflere karşı koruma
"Yanlış pozitif" hatalarına karşı bir kalkan — özellikle gençler için.
5
Destek odaklı çıktı
Sistem cezalandırma değil, yardım mekanizmalarını tetiklemelidir.
Özet
Bir paradigma değişimi
Eskiden
Gözetim ve ihbar
Kısa devre — toplumsal katmanlar devre dışı
→
Bundan sonra
Rehberlik ve destek
Doğal sıra — katmanlar sırayla devreye girer
Series
Loading…