Meta будет помечать созданный с помощью искусственного интеллекта контент в Facebook, Instagram и WhatsApp: подробности

Meta вводит новую политику маркировки изображений, которые создали с помощью искусственного интеллекта Изменения будут касаться платформ компании: Facebook, Instagram, Threads и WhatsApp. По этой инициативе, которая вскоре начнет действовать, будет четко идентифицироваться контент, генерируемый ИИ от других компаний, таких как OpenAI и Google.

Об этом сообщает издание Reuters. Такое нововведение должна повысить прозрачность для пользователей.

По словам президента по глобальным делам Meta Ника Клегга, компания применит специальные метки к цифровым генерациям. Это поможет пользователям легко отличить их от реальных фотографий.

Это поможет предотвратить дезинформацию и введение в заблуждение людей. Кроме того, Meta разрабатывает методы маркировки аудио- и видеоконтента, созданного с помощью ИИ. Она также потребует от пользователей обозначать измененный контент, который был синтезирован с использованием ИИ. Отмечается, что в случае несоблюдения этих требований будут применены штрафы санкции. Однако детали относительно ограничений, которые будет накладывать компания против нарушителей, до сих пор неизвестны.

Как Facebook работает с враждебными высказываниями

В 2018 году Facebook сообщил некоторые детали о том, как он работает с контентом, содержащий признаки языка враждебности. Команда модераторов, работающих над фильтрацией контента, базируется в 10 офисах по всему миру. У этих людей разные профессиональные навыки. К сохранению политики контроля над "хейтом" привлекают также и внешних экспертов.

Каждые две недели команда собирается,чтобы обновлять политику. В случае изменений в политике Facebook собирается рабочая группа на несколько недель, которая тестирует разные опции, чтобы увидеть, какой контент удаляли бы, прежде чем запустить их в эксплуатацию. После этого она консультируется с внешними экспертами. После этого команда снова собирается и рассматриваются рекомендации.

Эксперты Facebook занимаются ежедневным мониторингом контента по многим признакам. В такой контент может входить и буллинг, посты самоубийц и террористов, обнажение и т.д. Отмечается, что один из признаков, по которому контент могут удалить – это hate speech. В Facebook отметили, что удаляют контент только когда пользователь "атакует людей", а его сообщение затрагивает вопросы расы, этнической или религиозной принадлежности, национальности, сексуальной ориентации, кастовой принадлежности, пола, гендерной идентичности и серьезных заболеваний, инвалидности и т.д.

Новые ограничения от Meta

В начале января стало известно, что корпорация Meta ограничит аккаунты подростков до 18 лет. Против них будут применены самые строгие правила по содержанию потребляемого ими содержания и с которым взаимодействуют. Запрет на показ такого контента будет налагаться автоматически как в Instagram, так и в Facebook. В целом это должно стать одним из наибольших изменений, которое введет компания для того, чтобы обеспечить пользователям опыт использования приложений относительно их возраста.

Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. За новостями в режиме онлайн прямо в мессенджере следите на нашем Telegram-канале Информатор Live. Подписаться на канал в Viber можно здесь.