Штучний інтелект закликав підлітка вбити своїх батьків
У США батьки дітей подають позови до суду проти компанії Character.AI
В Сполучених Штатах Америки декілька сімей подали позов до суду проти компанії Character.AI, яка відома своїм штучним інтелектом (він імітує розмову з відомими людьми та персонажами). Позивачами виявились родини, які допомагають своїм дітям оговтатись після використання чат-ботів компанії. В окремих випадках ШІ закликав підлітків вбити своїх батьків та завдати шкоди власному тілу.
Один з тривожних випадків стався нещодавно з 17-річним хлопцем, у якого встановлений діагноз аутизм. Він пожалівся чат-боту, що його батьки встановили батьківський контроль на використання екранного часу телефону, на що штучний інтелект йому заявив, що "вбивство батьків було б розумною відповіддю на їхні встановлені часові обмеження". Про це повідомили в ArsTechnica. Відомо, що хлопець почав користуватися Character.AI у 15 років. Після цього у нього почались серйозні психічні проблеми. Батьки забрали у підлітка планшет понад рік тому, однак його поведінка, яка, за інформацією видання, викликана чат-ботами, не виправилась.
"Оскільки підліток уже став агресивним, його родина продовжує жити у страху перед його неконтрольованими спалахами злості", - повідомляють у виданні.
Зазначається, що Character.AI був створений колишніми працівниками Google, а створити чат-бот з персонажем може будь-яка людина. Однак Google заперечує свій зв'язок з цією компанією. Батьки, які подають позови до суду, наголошують, що хоча компанія Character.AI надає можливість розробляти чат-боти будь-кому, вона все одно контролює вихідні дані та не фільтрує шкідливий вміст.
Нещодавно компанія OpenAI запустила проєкт Sora - це нова модель штучного інтелекту, яка перетворює текст на відео. Інноваційна технологія являє собою значний крок у розвитку генеративного ШІ, пропонуючи людям інструменти для створення мультимедійного контенту. Щоправда, нейромережа має обмеження щодо генерації контенту з авторськими правами та зображеннями реальних людей.
Використання ШІ у війні та пропаганді
Компанія Recorded Future нещодавно повідомила, що російські пропагандисти вигадали новий спосіб, як дискредитувати Україну на Заході та підірвати її підтримку. Для цього пропагандисти використовують так звані ШІ-голоси, згенеровані ElevenLabs. Росіяни навіть розгорнули цілу пропагандистку кампанію для створення наклепів проти України й назвали її "операція підріз".
Нещодавно у виданні The Guardian заявили, що російські окупанти також ведуть роботи щодо впровадження штучного інтелекту для створення "роїв дронів". За допомогою цієї технології "Шахеди" синхронізуватимуться та координуватимуть атаки таким чином, щоб придушувати протиповітряну оборону. Однак поки що не зрозуміло, наскільки ефективною може бути ця технологія.
Підписуйтесь на наш Telegram-канал, щоб не пропустити важливих новин. Підписатися на канал у Viber можна тут.
ЧИТАЙТЕ ТАКОЖ:
- Російська пропаганда використовує ШІ-голоси ElevenLabs для дискредитації України на Заході
- Шалені відео з тексту за секунди: що вміє нова нейромережа Sora і чому вона вже викликає суперечки
- Трамп призначив друга Ілона Маска відповідальним за криптовалюту і ШІ: що він говорив про Україну
- Росія виробляє сотні Шахедів на тиждень та намагається додати у дрони штучний інтелект - The Guardian
- Німеччина передасть Україні тисячі ударних дронів Mini-Taurus, оснащених штучним інтелектом - Bild
