Искусственный интеллект научился убеждать психологически неустойчивых людей, что они общаются именно с умершими близкими
Искусственный интеллект давно и регулярно подозревают в угрозах, которые он может нести человечеству. Однако на этот раз поворот ну очень уж неожиданный, ведь речь пойдёт о так называемой цифровой некромантии, сгенерированной искусственными мозгами.
Справка. Некромантия (от греч. — мёртвый и гадание) — вид магии, изучающей методы и техники воздействия на мир умерших с целью получения от духов информации или помощи. В основе этой практики лежит убеждение в том, что мёртвые обладают особым могуществом и могут покровительствовать живым, говорится в Википедии.
Как известно, ИИ является совокупностью программ, данные в которые загружает человек, или же программа имеет доступ к Сети и черпает данные оттуда. Итак, программы искусственного интеллекта, работающие с языковыми моделями типа Large Language Models (LLM) или ChatGPT, а также генераторы изображений и видео, таких как DALL·E 2, подтягивают из сети тексты и фото умерших людей, успевших оставить в мировой паутине цифровой след. Таким образом, ИИ «воскрешает» умерших, в цифровом мире.
Делается это намеренно. Начали этот процесс компании по производству фильмов и музыки, «воскресив» таким образом Брюса Ли, Майкла Джексона и Тупака Шакура. Эти компании расширили доступ к технологиям, которые в конце концов были использованы для реанимации этих и других звёзд. Эту технологию назвали технологией «глубокого фейка», а произошло это ещё в далеком 2010 году, говорится в материале Sciencealert.com.
Ещё до того, как ChatGPT ворвался в общественное сознание в конце 2022 года, один из пользователей сети уже использовал LLM OpenAI, чтобы поговорить со своей умершей невестой на основе её сообщений.
При виде потенциала в этом направлении ряд стартапов, таких как Here After и Replika, запустили генеративный ИИ, чтобы реанимировать умерших или погибших для их близких. Эти проекты позиционируют себя как неравнодушные компаньоны от искусственного интеллекта.
Используя письма, например, из социальных сетей или электронок, аудиозаписи разговоров, фотографии и видео близких, отправленные клиентами, модели ИИ генерируют новые тексты, как бы за человека, которого уже нет. Это имитирует общение с умершими. Таким образом, особенно уязвимые родственники могут как бы взаимодействовать с умершими близкими с помощью искусственных изображений, голоса и текста.
Конечно, в минуты кризиса или радости люди склонны рассуждать о том, что могли бы сказать те, кого они потеряли. Но не следует забывать, что ИИ может ошибаться, а настоящий человек – реальная личность – имел бы совсем другую точку зрения.
Кое-кто в обществе считает, что эта разработка нарушает культурные и, возможно, этические границы. Другие обеспокоены тем, что взаимодействие с цифровыми симуляциями мёртвых ничем не ограничено, а разработчиков таких услуг называют психологическими мошенниками. Впрочем, социологи не считают, что существует реальный повод для беспокойства.
Психологи объясняют, что постоянные связи с умершими через текст, изображения и артефакты являются обычным делом. Это нормальная часть жизни – благодаря письмам, фото и видео с умершими или погибшими родными мы храним память о них.
Однако не стоит забывать, что при этом мы не относимся к предметам памяти буквально как к личности родного человека, это лишь фрагмент воспоминания, не более. В то же время ИИ убеждает психологически неустойчивых страдающих родственников, что они общаются именно с умершими близкими. В этом и кроется ловушка.
Когда человек общается с ИИ, словно с умершим родственником, он, отказываясь принимать тот факт, что человека уже нет, и, скорее всего, ему нужна психологическая помощь. В таком случае ему следует помочь принять и пережить горе – в реальной жизни. Иначе будет возникать разрыв сознания и мировосприятия, что опасно для нервной системы отрицающего окружающую действительность. Впрочем, большинство социологов убеждены, что таких случаев — крайне мало.
Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. За новостями в режиме онлайн прямо в мессенджере следите на нашем Telegram-канале Информатор Live. Подписаться на канал в Viber можно здесь.