Штучний інтелект навчився переконувати психологічно нестійких людей, що вони спілкуються саме з померлими близькими
Штучний інтелект давно й регулярно підозрюють в загрозах, котрі він буцімто може нести людству. Однак цього разу поворот ну дуже вже неочікуваний, адже мова піде про так звану цифрову некромантію, згенеровану штучними мізками.
Довідка. Некромантія (від грец. - мертвий і гадання) - вид магії, що вивчає методи й техніки впливу на світ померлих з метою отримання від духів інформації чи допомоги. В основі цієї практики лежить переконання в тому, що мертві володіють особливою могутністю й можуть протегувати живим, говорить Вікіпедія.
Як відомо, ШІ є сукупністю програм, дані в які завантажує людина, або ж програма має доступ до Мережі та бере дані звідти. Отже, програми штучного інтелекту, що працюють з мовними моделями на кшталт Large Language Models (LLM) чи ChatGPT, а також генератори зображень і відео, як-от DALL·E 2, захоплюють з мережі тексти та фото людей, що померли, але встигли лишити в світовій павутині цифровий слід. Таким чином, ШІ "воскреша" померлих, в цифровому світі.
Це робиться навмисно. Почали цей процес компанії з виробництва фільмів та музики, "воскресивши" таким чином Брюса Лі, Майкла Джексона та Тупака Шакура. Ці компанії розширили доступ до технологій, що зрештою були використані для реанімації цих та інших зірок. Цю технологію назвали технологією "глибоко фейку", а сталося це ще в далекому 2010 році, йдеться в матеріалі Sciencealert.com.
Ще до того, як ChatGPT увірвався в громадську свідомість наприкінці 2022 року, один з користувачів мережі вже використовував LLM OpenAI, щоб поговорити зі своєю померлою нареченою на основі її повідомлень.
Побачивши потенціал у цьому напрямі ряд стартапів, як-от Here After і Replika, запустили генеративний ШІ, щоб реанімувати померлих чи загиблих для їхніх близьких. Ці проекти позиціонують себе як небайдужі компаньйони від штучного інтелекту.
Використовуючи листи, наприклад, із соціальних мереж чи з електронок, аудіозаписи розмов, фотографії та відео близьких, надіслані клієнтами, моделі ШІ генерують нові тексти, ніби відповідаючи за людину, якої вже немає. Це імітує спілкування з померлими. Таким чином, особливо вразливі родичі можуть ніби взаємодіяти з померлими близькими за допомогою штучних зображень, голосу та тексту.
Звісно, у хвилини кризи чи радості люди схильні розмірковувати про те, що могли би сказати ті, кого вони втратили. Але не варто забувати, що ШІ може помилятись, а справжня людина - реальна особистість - мала би зовсім іншу точку зору.
Дехто в суспільстві вважає, що ця технологія перетинає культурні та, можливо, етичні межі. Інші занепокоєні тим, що взаємодія з цифровими симуляціями мертвих нічим не обмежена, а розробників таких послуг називають психологічними шахраями. Втім соціологи не вважають, що існує реальний привід для занепокоєння.
Психологи пояснюють, що постійні зв’язки з померлими через текст, зображення та артефакти є звичайною справою. Це нормальна частина життя - завдяки листам, фото та відео з померлими чи загиблими рідними ми зберігаємо пам'ять про них.
Однак, не варто забувати, що при цьому ми не ставимося до предметів пам'яті буквально як до особистості рідної людини, це лише фрагмент спогаду, не більше. Натомість ШІ переконує психологічно нестійких страждаючих родичів, що вони спілкуються саме з померлими близькими. В цьому й криється пастка.
Коли людина спілкується з ШІ, немов з померлим родичем, відмовляючись приймати той факт, що людини вже немає, швидше за все, їй потрібна психологічна допомога. В такому випадку їй слід допомогти прийняти й пережити горе - в реальному житті. Інакше виникатиме розрив свідомості і світосприйняття, що небезпечно для нервової системи того, хто заперечує довколишню дійсність. Втім більшість соціологів переконані, що таких випадків трапляється вкрай мало.
Підписуйтесь на наш Telegram-канал, щоб не пропустити важливі новини. За новинами в режимі онлайн прямо в месенджері стежте на нашому Telegram-каналі Інформатор Live. Підписатися на канал у Viber можна тут.