Если алгоритм работает без надлежащего человеческого контроля, его выводы начинают восприниматься как абсолютная истина, не подлежащая сомнению, даже если они разрушают человеческие судьбы.
Настоящая социальная катастрофа из-за доверия к машинам произошла в Нидерландах. Государственная налоговая служба внедрила алгоритм, который должен был выявлять мошенников среди получателей социальных выплат на детей. Из-за критических ошибок в настройках программа безосновательно обвинила более двух десятков тысяч добропорядочных семей в махинациях. На основании этих автоматических выводов налоговики начали жестко и бескомпромиссно взыскивать с людей огромные суммы, требуя вернуть все полученные ранее выплаты. Последствия этого цифрового террора были сокрушительными: массовые семейные банкротства, разводы из-за финансового давления и принудительная продажа жилья. В отдельных случаях ситуация доходила до крайности — из-за искусственно созданной социальными службами бедности у родителей забирали детей. Когда масштаб трагедии и абсурдность работы алгоритма стали достоянием общественности, страну охватил кризис, завершившийся беспрецедентным шагом — правительство в полном составе подало в отставку.
«Ошибка, которую я сейчас вижу, — люди иногда относятся к искусственному интеллекту и к алгоритму как к какой-то отдельной сознательной сущности. На самом деле — это же просто инструмент», — объяснил суть этой проблемы соучредитель ИИ-стартапа Пауль Вахтель.
Пока европейские страны обжигаются на ошибках тотальной автоматизации, как Украине удалось создать цифровую модель государства, которой восхищается весь мир? Подробнее об этом — в новом выпуске проекта «Загублений світ».
Loading...
Не пропусти! Каждое воскресенье — новые выпуски информационно-познавательного проекта «Загублений світ», которые погрузят каждого в увлекательные истории, невероятные открытия и тайны, формирующие наш мир. Смотри премьеру в 12:00 на телеканале 2+2!