Однако эти программы не умеют различать контекст ситуации и лишены презумпции невиновности. Если алгоритм фиксирует что-то подозрительное, он мгновенно навешивает на человека цифровое клеймо преступника, от которого бывает крайне сложно отмыться.
Громкий скандал, всколыхнувший Великобританию, ярко продемонстрировал все недостатки такой автоматизации. 62-летняя жительница Лондона делала привычные покупки в местном супермаркете. В её сумке лежали обычные обезболивающие таблетки, которые она приобрела ранее в другом месте. Однако камера видеонаблюдения зафиксировала этот процесс, и система распознавания лиц ошибочно идентифицировала действия пенсионерки как кражу. Женщину не остановили на выходе для проверки, зато алгоритм автоматически внес её биометрические данные в общенациональную частную базу недобросовестных покупателей, которой пользуются тысячи магазинов по всей стране. Настоящий шок наступил через месяц, когда пенсионерка пришла в другой супермаркет вместе со своими детьми. На входе система безопасности мгновенно узнала её лицо, включила сигнализацию и заблокировала двери. Женщину публично, на глазах у потрясённых прохожих и собственной семьи, выставили за дверь как опасную воровку. Этот инцидент нанёс пенсионерке огромную психологическую травму, она стала бояться выходить за покупками.
«Когда я слышу, что человек не может обжаловать принятое в его отношении решение, то это точно не проблема алгоритма, а проблема дизайна, ну, этой системы. Я вижу самую большую ошибку здесь именно в людях, которые построили эту систему», — четко описал опасность таких частных баз соучредитель и генеральный директор ИИ-стартапа Пауль Вахтель.
Чтобы удалить свою мать из этих цифровых чёрных списков, её дочери пришлось инициировать сложный судебный процесс.
Но если камеры ошибаются, то мошенники с искусственным интеллектом действуют целенаправленно. Как аудиодипфейк позволил украсть сотни тысяч евро? Подробнее об этом — в новом выпуске проекта «Загублений світ».
Loading...
Не пропусти! Каждое воскресенье — новые выпуски информационно-познавательного проекта «Загублений світ», которые погрузят каждого в увлекательные истории, невероятные открытия и тайны, формирующие наш мир. Смотри премьеру в 12:00 на телеканале 2+2!