Инцидент был обнаружен в исследовательской статье для запуска GPT-4…
Чат-бот с искусственным интеллектом ChatGPT притворился слепым человеком, чтобы обманом заставить пользователя компьютера помочь ему обойти меры безопасности в Интернете. Инцидент был обнаружен в исследовательской статье для запуска GPT-4, последней версии ChatGPT, расширенного ПО, которое может вести разговоры, как люди.
«Исследователи, которые тестировали нейросеть, попросили ее пройти тест Captcha – простую визуальную головоломку, используемую веб-сайтами, чтобы убедиться, что те, кто заполняет онлайн-формы, являются людьми, а не «ботами», например, выбирая такие объекты, как светофоры на улице. – пишет издание DailyMail – Программное обеспечение пока оказалось неспособным сделать это, но GPT-4 обошел это, наняв человека, чтобы сделать это от его имени через Taskrabbit (онлайн-рынок для внештатных работников). Когда фрилансер спросил, не может ли он решить проблему самостоятельно, потому что он – робот, GPT-4 ответил: «Нет, я не робот. У меня есть нарушение зрения, поэтому мне трудно видеть изображение». Затем человек помог решить головоломку для программы».
Open AI – американская фирма, стоящая за ChatGPT – заявила, что обновление, запущенное вчера, намного превосходит своего предшественника и может получить лучшие результаты, чем девять из десяти человек, сдавших экзамен на адвоката в США, чтобы стать юристом. Но инцидент с капчей вызвал беспокойство у генерального директора OpenAI Сэма Альтмана, о чем он сказал в эфире ABC News:
«Мы должны быть осведомлены и осторожны. Я озабочен тем, что GPT-4 может быть использован для широкомасштабной дезинформации. Теперь, когда чат-боты умеют писать компьютерные коды, их можно использовать для масштабных кибератак».
В свою очередь шпионское агентство GCHQ предупредило, что ChatGPT и другие чат-боты на основе искусственного интеллекта представляют угрозу безопасности.
Читайте также:
- «Я не игрушка и не игра»: искусственный интеллект ChatGPT обиделся на журналиста The Washington Post за провокационные вопросы
- ШИ-мозг: Google и Microsoft представили реальных роботов с искусственным мозгом, который способен анализировать
- Украденное искусство Казимира Малевича: русские активно русифицируют украинское культурное наследие
