OpenAI ограничит политический контент в ChatGPT и Dall-E

Во вторник, 16 января, разработчик инструментов генеративного искусственного интеллекта OpenAI объявил об обновлении своих правил использования технологий, таких как ChatGPT и Dall-E. Компания установила ограничения использования своих продуктов в политических кампаниях и лоббизме. В корпорации пытаются предотвратить возможное влияние на избирательный процесс и распространение дезинформации.

О новых правилах сообщил The Wall Street Journal. Эти меры ввели на фоне беспокойства, что системы искусственного интеллекта могут использоваться для массового создания фальсифицированного контента, который может повлиять на решение избирателей в демократических странах.

"Ограничение использования инструментов искусственного интеллекта OpenAI в политике появилось во время подготовки к выборам в 2024 году на фоне растущего беспокойства, что системы искусственного интеллекта могут массово производить дезинформацию и влиять на избирателей в резонансной гонке", - читаем в The Wall Street Journal.

Пользователям и разработчикам запрещено использовать инструменты OpenAI для имитации политических кандидатов или местных органов власти. OpenAI подчеркнул свое стремление обеспечить уверенность в том, что ее технологии не используются для подрыва честности выборов.

"Защита честности выборов требует сотрудничества со всех уголков демократического процесса и мы хотим убедиться, что наши технологии не используются таким образом, чтобы подорвать этот процесс", - пишут в компании.

Частью этой инициативы стало внедрение криптографического стандарта для идентификации происхождения изображений, созданных с помощью Dall-E 3. Компания также анонсировала запуск инструмента обнаружения изображений, который позволит проверить, была ли иллюстрация создана с помощью Dall-E.

Дополнительно, пользователи ChatGPT получат возможность получать новости в реальном времени со ссылками на статьи и новости, ранее не отображавшиеся по умолчанию в программе. OpenAI планирует все больше интегрировать свои инструменты в действующие источники информации.

Предложение OpenAI

Компания OpenAI, основавшая ChatGPT, пытается привлечь мировые медиа к подписанию лицензионных соглашений. Там хотят использовать защищенные авторским правом статьи для обучения искусственному интеллекту. За это предлагают от 1 до 5 миллионов долларов.

Соответствующие цифры выглядят примерно так же, как ряд предыдущих соглашений, не связанных с ИИ. В частности, когда Meta запустила вкладку "Новости" в Facebook, то якобы предлагала до 3 млн долларов в год за лицензирование статей, превью и заголовков.

Известно, что современные языковые модели обучаются информации из интернета. Цены на наборы данных для обучения постоянно варьируются в зависимости от поставщика, а также размера и содержания объема данных. Некоторые из них имеют открытый исходный код и абсолютно бесплатны.

Несмотря на проблемы, с которыми сталкиваются разработчики ИИ из-за авторских прав на контент, некоторые СМИ согласились на сотрудничество. В частности, материнская компания Politico и Business Insider Axel Springer, а также The Associated Press уже подписали соглашение.

Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. За новостями в режиме онлайн прямо в мессенджере следите на нашем Telegram-канале Информатор Live. Подписаться на канал в Viber можно здесь.