Коли комп'ютеру надають право самостійно ухвалювати рішення та карати людей, будь-яка математична похибка перетворюється на справжню соціальну трагедію. Машини не здатні на емпатію, не розуміють контексту і вимагають беззаперечної покори.
Один із найгучніших цифрових скандалів сучасності розгорівся в Австралії, коли уряд запровадив автоматизовану програму для пошуку боржників перед бюджетом (відому як Robodebt). Замість оптимізації процесів, недосконалий алгоритм почав масово приписувати людям абсолютно неіснуючі борги. Сотні тисяч законослухняних австралійців несподівано отримали офіційні листи з жорсткими вимогами повернути державі величезні суми, яких вони ніколи не позичали. Найгіршим у цій ситуації було те, що державна машина діяла за принципом презумпції винуватості: програма апріорі вважала громадянина винним. Люди опинилися у безвихідному становищі. Щоб довести помилку бездушного алгоритму, вони мусили місяцями оббивати пороги судів та збирати стоси довідок. Цей безпрецедентний тиск мав жахливі наслідки: частина людей сплачувала вигадані борги, аби уникнути судів, а деякі, не витримавши фінансового терору, зводили рахунки з життям.
«Якщо людина щось зробила, потрібно довести, що вона винна. А так презумпція невинності, вона нівелюється», - акцентує на головній проблемі таких систем психологиня Оксана Зайцева.
Лише через роки масштабних судових розглядів уряд був змушений визнати систему незаконною та виплатити мільйонні компенсації. Але чи це єдиний випадок? Як у Європі подібний збій призвів до конфіскації дітей та відставки цілого уряду? Більше про це – у новому випуску проєкту «Загублений світ».
Loading...
Не пропусти! Щонеділі нові випуски інформаційно-пізнавального проєкту «Загублений світ», що занурюватимуть кожного у захопливі історії, неймовірні відкриття та таємниці, які формують наш світ. Дивись прем’єру о 12:00 на телеканалі 2+2!