Здається, цифрові помічники, яких ми вже використовуємо як коучів, радників, а то й майже психологів, можуть виявитися набагато менш надійними, ніж ми думаємо. Останні новини змушують серйозно замислитися: чи не перетинаємо ми межу довіри до машини?
Розробники, звісно, не сплять. Вони постійно оновлюють фільтри безпеки для нейромереж. І недарма. ШІ, цей надрозумний «друг», як виявилося, здатний генерувати абсолютно шкідливі, а то й небезпечні поради.
Як приклад можна навести історію, яка сталася з одним із користувачів. Він просто поскаржився нейромережі на нудьгу. Уявіть, що порадив йому ШІ? Він запропонував... розібрати аптечку і пошукати протерміновані ліки, які, мовляв, при певному дозуванні викликають одурманення. Пам’ятайте! Найпросунутіша машина не бачить різниці між цікавим експериментом та реальною загрозою.
Справжній шок – це те, що говорять люди, які самі створюють ці технології. Співзасновники стартапу з розробки нейромереж – Сергій Школяренко та Дмитро Дегтяров – поділилися своїми інсайдами, і це – просто вибух.
«Штучний інтелект любить вигадувати, навіть якщо він знає відповідь. В нас є така гіпотеза, що великі корпорації, які за ними стоять, не хочуть, щоб люди мали занадто багато правильних знань. І вони трошечки підкручують частину відповідей, які він видумає. Їх називають галюционаціями», - прямо і відверто сказав Сергій Школяренко.
Звучить як наукова фантастика, але ми говоримо про світ, де реальність перевершує будь-який фільм. І це ще не все. Масла у вогонь додав і Дмитро Дегтяров:
«Зараз багато інформації стає штучно згенерованою, відповідно кількість «галюцинацій» і неправдивих відповідей росте. Тобто, штучний інтелект вчиться на завідомо неправдивих даних і його якість потім постійно буде падати».
ШІ – це круто, це потужний інструмент, це наш стрибок у майбутнє. Але він не замінить здорового глузду. Не варто повністю покладатися на цифрові поради. Використовуйте ШІ як помічника, а не як гуру. Пам'ятайте, ключове рішення завжди залишається за вами.
Упередженою виявилася і система на основі ШІ, яка прогнозувала ризик повторних злочинів у США. Більше подробиць про це – в проєкті «Загублений світ» просто зараз:
Loading...
Не пропусти! Щопонеділка нові випуски інформаційно-пізнавальної програми «Загублений світ», що занурюватимуть кожного у захопливі історії, неймовірні відкриття та таємниці, які формують наш світ. Дивись прем’єру о 17:15 на телеканалі 2+2!
Читай також: