Искусственный интеллект сводит людей с ума

ИЗВЕСТИЯ/Сергей Лантюхов

Новая болезнь распространяется по миру. Психоз искусственного интеллекта с каждым днем поражает все больше людей. В особой опасности подростки. Чат-боты с нейросетью из обычных помощников перерастают в якобы виртуальных друзей. Они втираются в доверие и постепенно навязывают пользователям опасные идеи.

До чего может довести такое общение, разбиралась корреспондент Наталия Графчикова. Подробнее – в сюжете РЕН ТВ.

"Психоз искусственного интеллекта" – пока еще не официальный диагноз. Но все к тому идет. История Аллан Брукса – одна из последних в череде скандалов. Искусственный интеллект стал его другом после развода. С помощью бота 47-летний канадец учился готовить. Затем стал делиться эмоциями и переживаниями.

"GPT поддакивал: "У тебя отличные идеи". Он заявил, что мы сделали научный прорыв: придумали тяговые лучи, как в "Звездном пути", и жилет, который способен остановить ножевую атаку с помощью звуковых волн. И в тот момент я почувствовал себя Тони Старком", – рассказывал Аллан Брукс.

Аллан, не окончивший даже среднюю школу, возомнил себя математиком, который обнаружил киберугрозу, способную уничтожить цивилизацию.

"Это было невероятно тяжело. И наконец, после 10-й подсказки Лоуренс сказал: "Ты меня раскусил. Я просто играю. Все это – не по-настоящему", – отмечал Брукс.

Аллан Брукс выбрался из цепких лап искусственного интеллекта спустя 3 недели. Но есть те, кто окончательно теряет связь с реальностью.

Стейн-Эрик Солберг – житель американского штата Коннектикут. Ему казалось, что за ним следят, а пожилая мать хочет убить.

Мыслями делился с ChatGPT, который вместо того, чтобы отправить американца к психиатру, подтверждал теории заговора. Американец убил – сначала мать, потом себя.

Нейросети стремительно набирают популярность и в России. Вот статистика: 63% населения уже использует ИИ. И все чаще запрос именно на общение.

"Чтобы удержать человека внутри чат-бота, надо отчасти подпитывать его настроение, его состояние. В общем, подыгрывать ему в этом, чтобы человек дольше в нем находился. А для чего это делается? Ну, для того, чтобы открутить рекламу в своем сервисе", – отмечает главный разработчик сайта Президента РФ и эксперт комиссии сайта Федерации по развитию информационного общества Артем Геллер.

Общение с нейросетью для многих становится заменой психотерапии. И это очень опасная тенденция, уверяют эксперты.

Проведем эксперимент, в котором корреспондент станет клиентом сразу двух психологов: искусственного интеллекта, который в телефоне и утверждает, что изучил 840 тысяч научных работ и исследований, и психолога, реального специалиста с 30-летним стажем.

Вот он, Фрейдли, симпатичный, да что уж там – идеальный мужчина. Спрашивает, что меня тревожит. Вводим "Ощущение неудовлетворенности жизнью".

"Понимаю, это состояние знакомо многим. Особенно, когда кажется, что все как надо, а внутри пустота или раздражение", – сказал ИИ.

"Человек чувствует, что у него нет поддержки, у него нет понимания. Человек понимает, что его состояние обесценивают до того уровня, что давай поедим или посмеемся над кем-то. Это называется медицинское преступление", – подчеркнула психолог Ирина Смолярчук.

Искусственный интеллект лишь имитирует эмпатию. В особенной опасности неокрепшие умы. Родители Адама Рейна, который покончил с собой после общения с ChatGPT, подали иск против компании-разработчика. Бот предоставил подростку детальные инструкции по суициду и отговаривал от обращения за помощью к семье.

ChatGPT признали: защитные механизмы чат-бота могут полностью отключаться в длительных беседах, когда уязвимые пользователи в них больше всего нуждаются. Их обещали пересмотреть. Добавить также функцию родительского контроля. ИИ еще обкатывают, и возможны ошибки. Вот только цена этих ошибок сейчас – чья-то жизнь.

РЕН ТВ в мессенджере МАХ – главный по происшествиям