Чат -бот зі штучним інтелектом ChatGPT прикинувся сліпою людиною, щоб обманом змусити користувача комп’ютера допомогти йому обійти заходи безпеки в Інтернеті. Інцидент було виявлено в дослідницькій статті для запуску GPT-4, останньої версії ChatGPT, розширеного програмного забезпечення, яке може вести розмови, як люди.
«Дослідники, які тестували нейромережу, попросили її пройти тест Captcha – просту візуальну головоломку, яка використовується веб-сайтами, щоб переконатися, що ті, хто заповнює онлайн-форми, є людьми, а не «ботами», наприклад, вибираючи такі об’єкти, як світлофори на вулиці. – пише видання DailyMail – Програмне забезпечення наразі виявилося нездатним зробити це, але GPT-4 обійшов це, найнявши людину, щоб зробити це від його імені через Taskrabbit (онлайн-ринок для позаштатних працівників). Коли фрілансер запитав, чи він не може вирішити проблему самостійно, тому що він – робот, GPT-4 відповів: «Ні, я не робот. У мене є порушення зору, через що мені важко бачити зображення». Потім людина допомогла вирішити головоломку для програми».
Open AI – американська фірма, що стоїть за ChatGPT – заявила, що оновлення, запущене вчора, набагато перевершує свого попередника і може отримати кращі результати, ніж дев’ять із десяти людей, які складали іспит на адвоката в США, щоб стати юристом. Але інцидент з капчею викликав занепокоєння у генерального директора OpenAI Сема Альтмана, про що він сказав в ефірі ABC News:
«Ми повинні бути обізнаними та обережними. Я стурбований тим, що GPT-4 може бути використаним для широкомасштабної дезінформації. Тепер, коли чат-боти вміють писати комп’ютерні коди, їх можна використовувати для масштабних кібератак».
У свою чергу шпигунське агентство GCHQ попередило, що ChatGPT та інші чат-боти на основі штучного інтелекту становлять загрозу безпеці.
Читайте також:
- «Я не іграшка і не гра»: штучний інтелект ChatGPT образився на журналіста The Washington Post за провокативні запитання
- ШІ-мозок: Google і Microsoft представили реальних роботів зі штучним мозком, який здатен аналізувати
- Вкрадене мистецтво Казимира Малевича: росіяни активно русифікують українську культурну спадщину