Проте ці програми не вміють розрізняти контекст ситуації і позбавлені презумпції невинності. Якщо алгоритм фіксує щось підозріле, він миттєво вішає на людину цифрове тавро злочинця, відмитися від якого буває вкрай складно.
Гучний скандал, що сколихнув Велику Британію, яскраво продемонстрував усі недоліки такої автоматизації. 62-річна жителька Лондона здійснювала звичні покупки у місцевому супермаркеті. У її сумці лежали звичайні знеболювальні таблетки, які вона придбала раніше в іншому місці. Проте камера безпеки зафіксувала процес, і система розпізнавання обличь хибно ідентифікувала дії пенсіонерки як крадіжку. Жінку не зупинили на виході для перевірки, натомість алгоритм автоматично вніс її біометричні дані до загальнонаціональної приватної бази недобросовісних покупців, якою користуються тисячі магазинів по всій країні. Справжній шок настав через місяць, коли пенсіонерка прийшла до іншого супермаркету разом зі своїми дітьми. На вході система безпеки миттєво впізнала її обличчя, увімкнула сигналізацію і заблокувала двері. Жінку публічно, на очах у шокованих перехожих та власної родини, виставили за двері як небезпечну злодійку. Цей інцидент завдав пенсіонерці величезної психологічної травми, вона почала боятися виходити за покупками.
«Коли я чую, що людина не може оскаржити своє рішення, то це ж точно не проблема в алгоритмі, це проблема в дизайну, ну, цієї системи. Я бачу найбільшу помилку тут саме в людях, які побудували цю систему», - чітко описав небезпеку таких приватних баз співзасновник та СЕО ШІ-стартапу Пауль Вахтель.
Щоб видалити свою матір з цих цифрових чорних списків, її доньці довелося ініціювати складний судовий процес.
Та якщо камери помиляються, то шахраї зі штучним інтелектом діють цілеспрямовано. Як аудіодіпфейк дозволив вкрасти сотні тисяч євро? Більше про це – у новому випуску проєкту «Загублений світ».
Loading...
Не пропусти! Щонеділі нові випуски інформаційно-пізнавального проєкту «Загублений світ», що занурюватимуть кожного у захопливі історії, неймовірні відкриття та таємниці, які формують наш світ. Дивись прем’єру о 12:00 на телеканалі 2+2!