Притворился слепым и нанял фрилансера для прохождения капчи: искусственный интеллект ChatGPT обошел проверку безопасности в Интернете

Инцидент был обнаружен в исследовательской статье для запуска GPT-4…

Чат-бот с искусственным интеллектом ChatGPT притворился слепым человеком, чтобы обманом заставить пользователя компьютера помочь ему обойти меры безопасности в Интернете. Инцидент был обнаружен в исследовательской статье для запуска GPT-4, последней версии ChatGPT, расширенного ПО, которое может вести разговоры, как люди.

«Исследователи, которые тестировали нейросеть, попросили ее пройти тест Captcha – простую визуальную головоломку, используемую веб-сайтами, чтобы убедиться, что те, кто заполняет онлайн-формы, являются людьми, а не «ботами», например, выбирая такие объекты, как светофоры на улице. – пишет издание DailyMail – Программное обеспечение пока оказалось неспособным сделать это, но GPT-4 обошел это, наняв человека, чтобы сделать это от его имени через Taskrabbit (онлайн-рынок для внештатных работников). Когда фрилансер спросил, не может ли он решить проблему самостоятельно, потому что он – робот, GPT-4 ответил: «Нет, я не робот. У меня есть нарушение зрения, поэтому мне трудно видеть изображение». Затем человек помог решить головоломку для программы».

Open AI – американская фирма, стоящая за ChatGPT – заявила, что обновление, запущенное вчера, намного превосходит своего предшественника и может получить лучшие результаты, чем девять из десяти человек, сдавших экзамен на адвоката в США, чтобы стать юристом. Но инцидент с капчей вызвал беспокойство у генерального директора OpenAI Сэма Альтмана, о чем он сказал в эфире ABC News:

«Мы должны быть осведомлены и осторожны. Я озабочен тем, что GPT-4 может быть использован для широкомасштабной дезинформации. Теперь, когда чат-боты умеют писать компьютерные коды, их можно использовать для масштабных кибератак».

В свою очередь шпионское агентство GCHQ предупредило, что ChatGPT и другие чат-боты на основе искусственного интеллекта представляют угрозу безопасности.

Читайте также:

15 ноября на канале «2+2» в рамках проекта «Потерянный мир. Жизнь 2.0: Реинкарнация» — о вере в перерождение, необычных историях прошлых жизней и исследованиях, направленных на разгадку одной из величайших тайн человеческого существования.
06112026
О чем новый сериал, какие исторические личности стали его героями и как создатели воссоздали атмосферу Гарлема 1960-х — с 5 ноября в 22:00
29102026
Холодильник работает круглосуточно, поэтому при выборе важны не только размеры и дизайн, но и то, насколько удобно организовано внутреннее пространство.
Для наших предков-славян вода всегда имела сакральное значение. Она считалась границей между миром живых и миром духов, идеальным проводником энергии.
16102026
Учёные из Columbia Engineering с помощью искусственного интеллекта научились восстанавливать атомную структуру нанокристаллов даже в тех случаях, когда традиционные методы уже не дают достаточной информации...