Кажется, цифровые помощники, которых мы уже используем как коучей, советников, а то и почти психологов, могут оказаться гораздо менее надежными, чем мы думаем. Последние новости заставляют серьезно задуматься: не пересекаем ли мы границу доверия к машине?
Разработчики, конечно, не спят. Они постоянно обновляют фильтры безопасности для нейросетей. И не зря. ИИ, этот сверхумный «друг», как оказалось, способен генерировать абсолютно вредные, а то и опасные советы.
В качестве примера можно привести историю, которая произошла с одним из пользователей. Он просто пожаловался нейросети на скуку. Представьте, что посоветовал ему ИИ? Он предложил... разобрать аптечку и поискать просроченные лекарства, которые, мол, при определенной дозировке вызывают одурманенное состояние. Помните! Самая продвинутая машина не видит разницы между интересным экспериментом и реальной угрозой.
Настоящий шок – это то, что говорят люди, которые сами создают эти технологии. Соучредители стартапа по разработке нейросетей – Сергей Школяренко и Дмитрий Дегтяров – поделились своими инсайдами, и это – просто взрыв.
«Искусственный интеллект любит выдумывать, даже если он знает ответ. У нас есть такая гипотеза, что крупные корпорации, которые за ними стоят, не хотят, чтобы люди имели слишком много правильных знаний. И они немного подкручивают часть ответов, которые он придумывает. Их называют галлюцинациями», — прямо и откровенно сказал Сергей Школяренко.
Звучит как научная фантастика, но мы говорим о мире, где реальность превосходит любой фильм. И это еще не все. Масла в огонь подлил и Дмитрий Дегтяров:
«Сейчас много информации становится искусственно сгенерированной, соответственно количество «галлюцинаций» и ложных ответов растет. То есть, искусственный интеллект учится на заведомо ложных данных и его качество потом постоянно будет падать».
ИИ – это круто, это мощный инструмент, это наш прыжок в будущее. Но он не заменит здравого смысла. Не стоит полностью полагаться на цифровые советы. Используйте ИИ как помощника, а не как гуру. Помните, ключевое решение всегда остается за вами.
Предвзятой оказалась и система на основе ИИ, которая прогнозировала риск повторных преступлений в США. Больше подробностей об этом – в проекте «Загублений світ» прямо сейчас:
Loading...
Не пропусти! Каждый понедельник новые выпуски информационно-познавательной программы «Загублений світ», которые будут погружать каждого в увлекательные истории, невероятные открытия и тайны, которые формируют наш мир. Смотри премьеру в 17:15 на телеканале 2+2!
Читай также: