ChatGPT самостоятельно формирует психологические портреты пользователей на основе частных разговоров
Ученые выяснили, как ChatGPT использует откровения пользователей в приватных разговорах для создания их детальных психологических профилей
Чат-бот ChatGPT самостоятельно формирует детальные психологические портреты своих пользователей, сохраняя данные по частным разговорам без надлежащего контроля со стороны людей. Об этом говорится в исследовании ученых из Германии, Индии и Нидерландов, представленном на конференции ACM Web Conference 2026, проанализировавшем издание Futurism. Авторы назвали это явление новой формой персонализации, базирующейся на информации, которую люди сами раскрывают в частном общении с ботом.
Исследователи получили доступ к истории переписки 80 реальных пользователей ChatGPT, истребовавших собственные чат-логи благодаря европейскому законодательству о защите данных. В материалах 65 из этих пользователей учёные обнаружили 2050 записей памяти бота. Оказалось, что большинство таких записей система создает без прямого участия человека.
"Раньше платформы имели одну цель: продавать вам рекламу и быть посредником между вами и рекламодателем. Но теперь они действительно разговаривают с вами, так что им может понадобиться знать о вас больше, чтобы вести эффективный разговор", - объяснил ведущий автор исследования Абхишек Даш.
По данным исследования, 96 процентов записей памяти бот создал в одностороннем порядке, то есть пользователи практически не контролировали, какие именно данные о них фиксирует система. Около 28 процентов проанализированных записей содержали персональные данные в понимании строгого европейского регламента GDPR, а 52 процента – содержательные "психологические инсайты" о людях.
Ученые также заметили, что часть записей основывалась на предположениях бота. Когда один из пользователей попросил подсказать группы, похожие на Nirvana, система зафиксировала в памяти, что человеку "нравится Nirvana" - хотя прямо это сказано не было, и заключение базировалось только на предположении, которое сам ChatGPT обозначил как "слабо подтвержденное".
Память чат-бота несет новые риски приватности
Исследователи отмечают, что исследование имеет ограничение: система памяти OpenAI с момента сбора данных изменилась, ведь в январе компания внедрила более мощную и масштабируемую систему синтеза памяти. Кроме того, пользователи могут отказаться от функции сохранения памяти в настройках.
В то же время Даш подчеркнул, что роль чат-ботов как "реляционной технологии" создает новые риски для конфиденциальности, ведь многие люди общаются с ними не как с инструментом, а как с коллегой или даже другом.
"Это и есть риск приватности, который возникает, потому что границ больше нет: система выступает вашим советником, другом, врачом, юристом — и поэтому обладает информацией обо всем. Если система знает вас так хорошо и ее цель — потакать вашим убеждениям и подтверждать мнения, чтобы вы возвращались к ней снова и снова, это может иметь катастрофические последствия — от политической поляризации до усиления предрассудков", - отметил Абхишек Даш.
Ранее Информатор сообщал, что советы ChatGPT по лечению стали причиной трагедии с программисткой Amazon в США, которая вверилась чат-боту вместо врачей. Также мы писали, что мошенники используют фейковые мероприятия OpenAI и SpaceX для похищения учетных данных пользователей Microsoft и Google, маскируя фишинговые сайты под официальные мероприятия технологических компаний.
Следите за нами в Telegram
Сейчас читают на Информаторе
