«Возможна потеря контроля над цивилизацией». Илон Маск и тысяча учёных просят приостановить работу над ИИ

Более тысячи ученых во главе с мультимиллиардером Илоном Маском и соучредителем Apple Стивом Возняком подписали открытое письмо, в котором призывают прекратить разработку продвинутого искусственного интеллекта. Речь идёт в первую очередь о системах, мощнее GPT-4. По мнению ученых, искусственный интеллект может представлять для человечества экзистенциальную угрозу и следует осторожно подходить к его разработке и изучению.

Письмо опубликовали на сайте Института будущей жизни (Future of Life Institute). Авторы призвали немедленно приостановить обучение мощным системам искусственного интеллекта. Эксперты убеждены, что нельзя проводить дальнейшее обучение систем, пока не появятся общие протоколы безопасности. По их мнению, если это не сделают разработчики, власти должны наложить мораторий на законодательное решение.

В чём причина

Авторы письма считают, что сейчас человечество, в том числе разработчики, не могут контролировать искусственный интеллект. В то же время, современные системы искусственного интеллекта уже начинают конкурировать с человеком.

«…и мы должны спросить себя: должны ли мы позволить машинам заполнять наши информационные каналы пропагандой и ложью? Следует ли автоматизировать все работы, включая выполняющих задачи? Должны ли мы развивать бесчеловечные умы, которые с течением времени могут превзойти, перехитрить, сделать нас устаревшими и заменить нас? Следует ли рисковать потерей контроля над нашей цивилизацией? Такие решения нельзя делегировать неизбранным техническим руководителям. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффект будет положительным, а риски управляемыми», — говорится в письме.

Подписавшиеся не считают, что нужно вообще отказаться от разработки ИИ. Речь идёт только о паузе для изучения и анализа ситуации.

В чём опасность ИИ

Искусственный интеллект – это не хорошо и не плохо. Это как скальпель: можно совершить операцию на сердце, а можно убить. Но технология развивается поразительными темпами и человечество не успевает адаптироваться, изучить все возможные опасности и предотвратить негативные последствия. ИИ может быть опасным по многим причинам:

• Может заменить людей. Искусственный интеллект может производить вычисления и анализировать данные значительно быстрее, чем человек. Он учится мгновенно, поэтому в скором времени может сложиться ситуация, когда сотни миллионов людей окажутся ненужными на рынке труда. А ещё сотни миллионов потребуются лишь для того, чтобы стирать с компьютеров пыль.
• Недостаточно изучен. Если система искусственного интеллекта не доработана или не протестирована на все возможные сценарии, это может привести к ошибкам и неправильным выводам.
• Не умеет реагировать на непредсказуемые случаи. Искусственный интеллект может использоваться для решения очень сложных задач, например, в области медицины или автопилота транспортных средств. Но система не может предусмотреть, например, что от грузовика, на встречной полосе движения отвалится колесо и покатится прямо на вас. Подобные случаи могут привести к опасности для жизни и здоровья людей.
• Может использоваться для злоупотребления. Искусственный интеллект может быть использован для преступлений, например для сбора конфиденциальной информации или для осуществления кибератак.
• Тотальный контроль. Представьте, что авторитарный режим получил доступ к технологии, которая умеет определять, что Вы просматриваете в интернете, ваше отношение к власти. Да ещё и предлагает силовикам варианты того, как лучше Вас сломать.

В то же время, подобные страхи всегда возникали, когда появлялась какая-то новая технология. История свидетельствует, что после изобретения, например комбайна, крестьяне не остались без работы.

Мы писали о том, что Минцифры планирует добавить ChatGPT в «Дії». А еще мы рассказывали, что Microsoft планирует встроить ИИ в свои офисные программы.

Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. За новостями в режиме онлайн прямо в мессенджере следите на нашем Telegram-канале Информатор Live. Подписаться на канал в Viber можно здесь.