Современные правительства стремятся возложить рутинную работу налоговых и социальных ведомств на искусственный интеллект. Однако наделение компьютерных программ полномочиями безапелляционного судьи крайне опасно.
Если алгоритм работает без надлежащего человеческого контроля, его выводы начинают восприниматься как абсолютная истина, не подлежащая сомнению, даже если они разрушают человеческие судьбы.
Настоящая социальная катастрофа из-за доверия к машинам произошла в Нидерландах. Государственная налоговая служба внедрила алгоритм, который должен был выявлять мошенников среди получателей социальных выплат на детей. Из-за критических ошибок в настройках программа безосновательно обвинила более двух десятков тысяч добропорядочных семей в махинациях. На основании этих автоматических выводов налоговики начали жестко и бескомпромиссно взыскивать с людей огромные суммы, требуя вернуть все полученные ранее выплаты. Последствия этого цифрового террора были сокрушительными: массовые семейные банкротства, разводы из-за финансового давления и принудительная продажа жилья. В отдельных случаях ситуация доходила до крайности — из-за искусственно созданной социальными службами бедности у родителей забирали детей. Когда масштаб трагедии и абсурдность работы алгоритма стали достоянием общественности, страну охватил кризис, завершившийся беспрецедентным шагом — правительство в полном составе подало в отставку.
«Ошибка, которую я сейчас вижу, — люди иногда относятся к искусственному интеллекту и к алгоритму как к какой-то отдельной сознательной сущности. На самом деле — это же просто инструмент», — объяснил суть этой проблемы соучредитель ИИ-стартапа Пауль Вахтель.
Пока европейские страны обжигаются на ошибках тотальной автоматизации, как Украине удалось создать цифровую модель государства, которой восхищается весь мир? Подробнее об этом — в новом выпуске проекта «Загублений світ».
Не пропусти! Каждое воскресенье — новые выпуски информационно-познавательного проекта «Загублений світ», которые погрузят каждого в увлекательные истории, невероятные открытия и тайны, формирующие наш мир. Смотри премьеру в 12:00 на телеканале 2+2!
