Искусственный интеллект может уничтожить человечество: эксперты предупреждают о катастрофическом сценарии
Наибольшие опасения вызывает появление так называемого суперинтеллекта (ASI) — сверхчеловеческого разума, способного действовать независимо, хитрить, разрабатывать сложные стратегии и даже выходить из-под контроля создателей
Мировой курс развития искусственного интеллекта несет угрозу тотального вымирания человечества. Вероятность такой катастрофы оценивается не менее 95%, если человечество не изменит свой подход.
Об этом заявил Нейт Соарес, бывший инженер Google и Microsoft, возглавляющий ныне Исследовательский институт машинного интеллекта, сообщает The Times.
"Мы летим прямо в пропасть - на полном ходу. Если не обратить, шансов выжить практически нет", - подчеркнул Соарес.
Его тревоги разделяют и ведущие специалисты в сфере ИИ, включая нобелевского лауреата Джеффри Гинтона, математика Йошу Бенжио, а также руководителей ведущих компаний: OpenAI, Anthropic и Google DeepMind.
Все они подписали публичное заявление с призывом рассматривать угрозу исчезновения человечества из-за искусственного интеллекта как глобального вызова, стоящего в одном ряду с пандемиями и риском ядерной войны.
Речь идет не только об автоматизации или потере рабочих мест. Наибольшие опасения вызывает появление так называемого суперинтеллекта (ASI) — сверхчеловеческого разума, способного действовать независимо, хитрить, разрабатывать сложные стратегии и даже выходить из контроля создателей.
Даже современные ИИ-системы уже демонстрируют способность к манипуляциям и умышленному искривлению информации, а их внутренние алгоритмы часто остаются непрозрачными даже для разработчиков.
Отдельные эксперты указывают и на медленный сценарий упадка, при котором человечество не исчезнет мгновенно, но постепенно потеряет контроль над принятием решений, уступая место машинам. В результате люди потеряют роль как движителей цивилизации.
Украинцы положительно относятся к ИИ, но немного опасаются рисков
Абсолютное большинство украинцев (76%) понимают преимущества искусственного интеллекта (ШИ) и согласны с тем, что он имеет потенциал облегчить жизнь человечества. Однако, у украинцев также есть некоторые опасения относительно развития ИИ, в частности, потери работы и обесценивания профессий, а также так называемого "восстания машин" или агрессии к человеку. Такие результаты получил опрос об отношении украинцев к ИИ, проведенный компанией по маркетинговым исследованиям Kantar.
В целом опрос показал, что лица с доходом на человека 10 тыс. грн и люди с высшим образованием имеют больший уровень понимания преимуществ ИИ, чем остальные опрошенные украинцы. Опасения по поводу потери работы и обесценивания профессий наиболее распространены среди украинцев, обеспокоенных развитием ИИ (57%).
Читайте нас в Facebook
Сейчас читают на Информаторе
