Якщо алгоритм працює без належного людського нагляду, його висновки починають сприйматися як абсолютна істина, що не підлягає сумніву, навіть якщо вони руйнують людські долі.
Справжня соціальна катастрофа через довіру до машин сталася у Нідерландах. Державна податкова служба впровадила алгоритм, який мав виявляти шахраїв серед тих, хто отримує соціальні виплати на дітей. Через критичні помилки у налаштуваннях програма безпідставно звинуватила понад два десятки тисяч добропорядних родин у махінаціях. На основі цих автоматичних висновків податківці почали жорстко і безкомпромісно стягувати з людей величезні суми, вимагаючи повернути всі отримані раніше виплати. Наслідки цього цифрового терору були нищівними: масові сімейні банкрутства, розлучення через фінансовий тиск та примусовий продаж житла. В окремих випадках ситуація доходила до крайнощів – через штучно створену соціальними службами бідність у батьків забирали дітей. Коли масштаб трагедії та абсурдність роботи алгоритму стали публічними, країну охопила криза, яка завершилася безпрецедентним кроком – уряд у повному складі подав у відставка.
«Помилка, яку я зараз бачу, - люди інколи ставляться до штучного інтелекту та до алгоритму, як до якоїсь окремої сутності свідомої. Насправді – це ж просто інструмент», - пояснив корінь цієї проблеми співзасновник ШІ-стартапу Пауль Вахтель.
Поки європейські країни обпікаються на помилках тотальної автоматизації, як Україні вдалося створити цифрову модель держави, якою захоплюється весь світ? Більше про це – у новому випуску проєкту «Загублений світ».
Loading...
Не пропусти! Щонеділі нові випуски інформаційно-пізнавального проєкту «Загублений світ», що занурюватимуть кожного у захопливі історії, неймовірні відкриття та таємниці, які формують наш світ. Дивись прем’єру о 12:00 на телеканалі 2+2!