19 03 2023

Вдав сліпого та найняв фрілансера для проходження капчі: штучний інтелект ChatGPT обійшов перевірку безпеки в Інтернеті

Інцидент було виявлено в дослідницькій статті для запуску GPT-4…

Чат -бот зі штучним інтелектом ChatGPT прикинувся сліпою людиною, щоб обманом змусити користувача комп’ютера допомогти йому обійти заходи безпеки в Інтернеті. Інцидент було виявлено в дослідницькій статті для запуску GPT-4, останньої версії ChatGPT, розширеного програмного забезпечення, яке може вести розмови, як люди.

«Дослідники, які тестували нейромережу, попросили її пройти тест Captcha – просту візуальну головоломку, яка використовується веб-сайтами, щоб переконатися, що ті, хто заповнює онлайн-форми, є людьми, а не «ботами», наприклад, вибираючи такі об’єкти, як світлофори на вулиці. – пише видання DailyMail – Програмне забезпечення наразі виявилося нездатним зробити це, але GPT-4 обійшов це, найнявши людину, щоб зробити це від його імені через Taskrabbit (онлайн-ринок для позаштатних працівників). Коли фрілансер запитав, чи він не може вирішити проблему самостійно, тому що він – робот, GPT-4 відповів: «Ні, я не робот. У мене є порушення зору, через що мені важко бачити зображення». Потім людина допомогла вирішити головоломку для програми».

Open AI – американська фірма, що стоїть за ChatGPT – заявила, що оновлення, запущене вчора, набагато перевершує свого попередника і може отримати кращі результати, ніж дев’ять із десяти людей, які складали іспит на адвоката в США, щоб стати юристом. Але інцидент з капчею викликав занепокоєння у генерального директора OpenAI Сема Альтмана, про що він сказав в ефірі ABC News:

«Ми повинні бути обізнаними та обережними. Я стурбований тим, що GPT-4 може бути використаним для широкомасштабної дезінформації. Тепер, коли чат-боти вміють писати комп’ютерні коди, їх можна використовувати для масштабних кібератак».

У свою чергу шпигунське агентство GCHQ попередило, що ChatGPT та інші чат-боти на основі штучного інтелекту становлять загрозу безпеці.

Читайте також: