Robot
Bir alışveriş merkezinde broşür dağıtmak için konuşlandırılan robot, panik atak geçiren yaşlı bir kadını takip etmeye başladı. Yazılımcılar dahil kimse nedenini anlayamadı. Robot serbest bırakıldı. Sorumluluk? Cevapsız.
Karar zinciri böyle görünür olurdu →Araç
Trafikte alev alan bir araç kapılarını ve camlarını kilitledi. İçindekiler mahsur kaldı. Çevredekiler camları kırarak onları kurtardı. Sistem mi hata yaptı? Tasarım mı? Kimse hesap vermedi.
O anın kaydı böyle korunurdu →Drone
İnsansız hava araçları sivillerin üzerine düştü. Birleşmiş Milletler soruşturma başlattı. Kimin verdiği karar, hangi sistemin aldığı komut — hâlâ netleşmedi. Şahit yoktu. Kayıt yoktu.
Şahitlik zinciri böyle kurulurdu →AI / Ev Teknolojisi
Evinizdeki robot süpürge odanızın haritasını çıkarıyor. O harita nereye gidiyor? Telefonunuz ne zaman dinleniyor? Otonom araç kaza yapınca siz mi sürüyordunuz, sistem mi? Bu soruların cevabı olmalı.
QARAQUTU bu zinciri görünür kılar →Bu olaylar istisna değil. Önümüzdeki on yılda milyarlarca insan kararlarını makinelere devredecek. O makineler hata yaptığında — şahit kim olacak?