Притворился слепым и нанял фрилансера для прохождения капчи: искусственный интеллект ChatGPT обошел проверку безопасности в Интернете

Инцидент был обнаружен в исследовательской статье для запуска GPT-4…

Чат-бот с искусственным интеллектом ChatGPT притворился слепым человеком, чтобы обманом заставить пользователя компьютера помочь ему обойти меры безопасности в Интернете. Инцидент был обнаружен в исследовательской статье для запуска GPT-4, последней версии ChatGPT, расширенного ПО, которое может вести разговоры, как люди.

«Исследователи, которые тестировали нейросеть, попросили ее пройти тест Captcha – простую визуальную головоломку, используемую веб-сайтами, чтобы убедиться, что те, кто заполняет онлайн-формы, являются людьми, а не «ботами», например, выбирая такие объекты, как светофоры на улице. – пишет издание DailyMail – Программное обеспечение пока оказалось неспособным сделать это, но GPT-4 обошел это, наняв человека, чтобы сделать это от его имени через Taskrabbit (онлайн-рынок для внештатных работников). Когда фрилансер спросил, не может ли он решить проблему самостоятельно, потому что он – робот, GPT-4 ответил: «Нет, я не робот. У меня есть нарушение зрения, поэтому мне трудно видеть изображение». Затем человек помог решить головоломку для программы».

Open AI – американская фирма, стоящая за ChatGPT – заявила, что обновление, запущенное вчера, намного превосходит своего предшественника и может получить лучшие результаты, чем девять из десяти человек, сдавших экзамен на адвоката в США, чтобы стать юристом. Но инцидент с капчей вызвал беспокойство у генерального директора OpenAI Сэма Альтмана, о чем он сказал в эфире ABC News:

«Мы должны быть осведомлены и осторожны. Я озабочен тем, что GPT-4 может быть использован для широкомасштабной дезинформации. Теперь, когда чат-боты умеют писать компьютерные коды, их можно использовать для масштабных кибератак».

В свою очередь шпионское агентство GCHQ предупредило, что ChatGPT и другие чат-боты на основе искусственного интеллекта представляют угрозу безопасности.

Читайте также:

Мамай-гора – это не просто холм на берегу Каховского водохранилища. Это настоящая сокровищница прошлого, одно из крупнейших захоронений на Евразийском континенте, хранящее тысячелетние тайны скифов.
Эта история раскрывает темные тайны, касающиеся убийств, краж и организованной преступности, которая действовала под прикрытием высших эшелонов МВД СССР.
04072025
Хочешь стабильную работу — обрати внимание на старые добрые рабочие специальности...
04072025
Пятница! Долгожданный финал рабочей недели, когда можно наконец-то отбросить будничные заботы и окунуться в мир настоящего мужского кино.