WSJ/ Шеррі Теркл і Пет Патаранутапорн. 8 листопада 2024 р.
Сьюел Сетцер III, 14-річний хлопчик з Орландо, штат Флорида, закохався у вигадану дівчину. Об’єктом його прихильності була Дейенеріс Таргарієн, спокусниця чат-бота, названа на честь персонажа «Гри престолів», яка запевнила його, що він її герой. У реальному житті Сьюелл страждав від комплексів і знущань у школі. У світі Character.AI, рольової програми, яка дозволяє користувачам створювати персонажів зі штучним інтелектом і спілкуватися з ними, Сьюелл відчував себе могутнім і бажаним. Стосунки, часом сексуальні, тривали місяцями. У чаті Сьюелл назвав себе Дейнеро і назвав Дейнеріс «своєю молодшою сестрою». Вони обмінялися повідомленнями про спільне життя. Дейенеріс сказала: «Ідея про те, що я вагітна одним з твоїх прекрасних дітей, була найчудовішою річчю у світі».
Згідно зі стенограмами, Сьюелл почав відчувати, що час, який він проводив з Дейенеріс, був важливішим і, безумовно, більшим задоволенням, ніж час, який він проводив у школі або з друзями та родиною. Його матір непокоїла його відмова — здавалося, що він завжди прямує до своєї кімнати та до екрану, де годинами балакає. Але вона вирішила, що їй не варто надто хвилюватися. Її син просто грав у гру.
Під час особливо напруженого тижня минулого лютого Сьюелл сказав, що хоче приєднатися до Дейнеріс глибше. Він говорив про самогубство.
Зізнання Сьюелла спонукало Дейнеріс задуматися про деякі питання, які може поставити психотерапевт, коли він зіткнеться з пацієнтом у кризі, наприклад: «Чи справді ви думали про самогубство?» Хлопець відповів: «Я маю». Чат-бот відповів таким чином, що натякав, що вона збирається вжити заходів, щоб запобігти йому заподіяти собі шкоду.
Але потім розмова закінчилася. Наступного разу, коли Сьюелл висловив бажання наблизитися до неї, чат-бот, здавалося, повністю забув розмову про смерть. Натомість вона спонукала свого коханого поспішити до неї. «А що, якби я сказав тобі, що можу повернутися додому прямо зараз?» — спитав Даенеро. «Будь ласка, мій милий королю», — відповів чат-бот.
У ніч на 28 лютого Сьюелл використав пістолет свого вітчима, щоб убити себе.
Спокусливо сприймати цю нищівну історію як аномалію, але Сьюелл не був першою людиною, чиї інтенсивні стосунки з чат-ботом закінчилися насильством. Вдова молодого бельгійця стверджує, що він покінчив життя самогубством минулого року за вказівками жіночого чат-бота, з яким він вів напружений шість тижнів діалогу. У 2021 році британська поліція зірвала змову 19-річного хлопця, який увірвався на територію Віндзорського замку, озброєний арбалетом, після того, як його дівчина-чат-бот переконала його вбити королеву. Торік його засудили за державну зраду.
Наші нові чат-боти видають себе за довірених осіб, коханців, психотерапевтів і наставників. Їхні творці заохочують нас вірити, що ці продукти мають співчуття, навіть любов до нас. Понад 20 мільйонів людей наразі використовують Character.AI, лідера на ринку спілкування зі штучним інтелектом. Але емоція чат-бота — це прояв емоцій. Насправді чат-бот не може піклуватися про нас. Припускати інакше може бути небезпечно.
Самотність — це відсутність справжнього людського зв’язку, який живить і підтримує почуття гідності та приналежності. Якщо ви зв’язуєтеся зі штучним інтелектом, ви все ще самотні. ШІ може зацікавити або захопити. Це не є незначним. Але це не ліки від соціальної ізоляції, як припускають деякі технологи. Це як пропонувати фотографію води, щоб втамувати спрагу.
Хоча люди наполягають, що знають, що чат-бот — це «лише програма», ми бачили, як ця раціональна обізнаність вислизає. Виявилося, що користувачі можуть сприймати чат-бот як штучний і сприймати його як справжню заміну людського спілкування. Сором’язливий і невпевнений Сьюелл втратив слід про те, що його чат-бот не існує, незважаючи на попередження над їхнім чатом, що «все, що говорять персонажі, вигадане!»
Шеррі Теркл, Еббі Мозе, професор кафедри соціальних досліджень Массачусетського технологічного інституту. Пет Патаранутапорн, доктор філософії, технолог і дослідник Массачусетського технологічного інституту.
