ТОПТЕМЫ:

Facebook запустил ИИ-инструмент для автоматического выявления случаев порно-мести

Алексей Турчак
Алексей Турчак Журналист
Facebook запустил ИИ-инструмент для автоматического выявления случаев порно-мести
В социальных сетях нередко встречаются случаи травли каких-либо пользователей либо публикации неприемлемого контента. Модераторы не всегда могут справится с обнаружением такого контента, ведь пользователи не всегда сообщают о нем. И здесь на помощь людям приходит искусственный интеллект. Социальная сеть Facebook запустила новый инструмент на базе искусственного интеллекта, призванный проактивно помечать и удалять фотографии и видео с интимным содержанием, размещенные без согласия изображенных на них людей.Об этом сообщает Информатор Tech, ссылаясь на The Verge. Эта система будет активной как в Facebook, так и в Instagram. В отличие от нынешних фильтров, эта система сможет обнаруживать изображения не только порнографического, но и эротического характера «почти ню». Такой контент будет помечаться и отправляться на рассмотрение людям-модераторам. В настоящее время пользователи Facebook и Instagram должны сами сообщать о подобных случаях размещения интимных фотографий или видео без их согласия. В Facebook надеются, что новая система будет лучше выявлять жертв публикаций, помечая изображения и видео вместо них, ведь далеко не всегда человек может знать, что кто-то разместил в сети его интимные фото и видео. Теперь же система сможет отправлять подозрительный контент на рассмотрение модераторам еще до того, как кто-то обозначит его, как неприемлемый. «Часто жертвы боятся возмездия, поэтому они неохотно сообщают о контенте сами или не знают о том, что им поделились», - пояснила глава службы безопасности Facebook Антигона Дэвис в своем блоге. Новая система ИИ, говорит Дэвис, означает, что такой контент можно найти и отправить модераторам-людям «до того, как кто-нибудь сообщит об этом». Отмечается, что система не только анализирует сам контент, но также учитывает заголовки. Если заголовок содержит «уничижительный или постыдный текст», это, вероятно, означает, что «кто-то загрузил фотографию, чтобы оскорбить или отомстить кому-то другому». Хотя вряд ли этого будет достаточно, чтобы охватить все случаи, когда пользователи будут размещать эротический контент. Об эффективности этой системы сложно судить. Facebook уже давно представляет искусственный интеллект как решение проблемы модерации своих разросшихся платформ, несмотря на известные проблемы с технологией. И хотя автоматизированные системы могут удалять нежелательный контент, который предварительно пометили, как нежелательный (например, террористическая пропаганда), они все еще требуют вмешательства человека в расшифровке контекста сообщения. Ранее мы сообщали, что cбой в Facebook и Instagram поднял трафик Pornhub. Также писали о том, что Valve удаляют информацию и фото новозеландского убийцы из профилей пользователей.

Главная Актуально Україна на часі Youtube