ChatGPT самостійно формує психологічні портрети користувачів на основі приватних розмов - дослідження
Вчені з'ясували, як ChatGPT використовує одкровення користувачів у приватних розмовах для створення їхніх детальних психологічних профілів
Чат-бот ChatGPT самостійно формує детальні психологічні портрети своїх користувачів, зберігаючи дані з приватних розмов без належного контролю з боку людей. Про це йдеться у дослідженні науковців з Німеччини, Індії та Нідерландів, представленому на конференції ACM Web Conference 2026, яке проаналізувало видання Futurism. Автори назвали це явище новою формою персоналізації, що базується на інформації, яку люди самі розкривають у приватному спілкуванні з ботом.
Дослідники отримали доступ до історії переписки 80 реальних користувачів ChatGPT, які витребували власні чат-логи завдяки європейському законодавству про захист даних. У матеріалах 65 із цих користувачів науковці виявили 2050 записів пам'яті бота. Виявилося, що переважну більшість таких записів система створює без прямої участі людини.
"Раніше платформи мали одну мету: продавати вам рекламу і бути посередником між вами й рекламодавцем. Але тепер вони дійсно розмовляють з вами, тож їм може знадобитися знати про вас більше, щоб вести ефективну розмову", - пояснив провідний автор дослідження Абхішек Даш.
За даними дослідження, 96 відсотків записів пам'яті бот створив в односторонньому порядку, тобто користувачі практично не контролювали, які саме дані про них фіксує система. Близько 28 відсотків проаналізованих записів містили персональні дані у розумінні суворого європейського регламенту GDPR, а 52 відсотки - змістовні "психологічні інсайти" про людей.
Науковці також помітили, що частина записів ґрунтувалася на припущеннях бота. Коли один з користувачів попросив підказати гурти, схожі на Nirvana, система зафіксувала у пам'яті, що людині "подобається Nirvana" - хоча прямо це сказано не було, і висновок базувався лише на припущенні, яке сам ChatGPT позначив як "слабко підтверджене".
Пам'ять чат-бота несе нові ризики приватності
Дослідники зазначають, що дослідження має обмеження: система пам'яті OpenAI з часу збору даних змінилася, адже у січні компанія впровадила більш потужну й масштабовану систему синтезу пам'яті. Крім того, користувачі можуть відмовитися від функції збереження пам'яті у налаштуваннях.
Водночас Даш наголосив, що роль чат-ботів як "реляційної технології" створює нові ризики для приватності, адже багато людей спілкуються з ними не як з інструментом, а як з колегою чи навіть другом.
"Це і є ризик приватності, що виникає, бо межі більше немає: система виступає вашим радником, другом, лікарем, юристом - і тому має інформацію про все. Якщо система знає вас так добре і її мета - догоджати вашим переконанням та підтверджувати думки, щоб ви поверталися до неї знову і знову, це може мати катастрофічні наслідки - від політичної поляризації до посилення упереджень", - зазначив Абхішек Даш.
Раніше Інформатор повідомляв, що поради ChatGPT щодо лікування стали причиною трагедії з програмісткою Amazon у США, яка довірилася чат-боту замість лікарів. Також ми писали, що шахраї використовують фейкові заходи OpenAI та SpaceX, щоб викрадати облікові дані користувачів Microsoft і Google, маскуючи фішингові сайти під офіційні заходи технологічних компаній.
Слідкуйте за нами у Telegram
Зараз читають на Інформаторі
