Предупреждение из Гарварда: ИИ способен превратить общество в "фабрику людей"
Историкиня из Гарварда объяснила, как технологические корпорации могут перебрать функции государства
Искусственный интеллект может изменить не просто рынок труда, а сам принцип функционирования общества – к такому выводу пришла историка и профессор Гарварда Джилл Лепор. По ее мнению, развитие ИИ постепенно приближает мир к "искусственному государству", где все большее решение принимают не люди, а машины. Технологические корпорации, по словам историкини, концентрируют в своих руках цифровую инфраструктуру и перебирают функции, традиционно принадлежавшие государству. Она называет этот процесс "фабричным производством общественной жизни" – с сортировкой, сегментацией и отчуждением людей. Лепор отмечает, что утверждение о неизбежности развития ИИ и автоматическом укреплении демократии технологиями ошибочны.
О своей концепции историкиня рассказала в подкасте The New York Times Hard Fork. Джилл Лепор считает, что мир постепенно движется к "искусственному государству", где часть функций традиционного государства перебирают технологические корпорации.
В такой системе решения все чаще принимаются с помощью машин, а цифровая инфраструктура, по которой люди получают информацию и общаются, контролируется частными компаниями.
"Правительство осуществляется не с согласия людей, а принимающими решения машинами", - пояснила историкиня Джилл Лепор.
Она предупреждает, что ИИ ускоряет этот процесс: люди уже обращаются к чатам с политическими вопросами, алгоритмы влияют на виденную информацию, а системы ИИ используют для принятия решений и массового анализа данных.
По мнению историкини, утверждение, что развитие ИИ неизбежно, а технологии автоматически укрепляют демократию, ошибочны.
Что такое "искусственное государство"
В новом эпизоде Hard Fork Лепор рассказала о концепции "искусственной державы", которую подробнее исследует в своей будущей книге The Rise and Fall of the Artificial State. Речь идет о возможном постепенном уходе от традиционной модели государства, в которой решения зависят от воли граждан, к системе, где все больше функций принимают частные корпорации, контролирующие цифровую инфраструктуру. При этом сами машины и инфраструктура, по словам историкини, принадлежат корпорациям, а не гражданам или выборным органам.
По словам историкини, до полноценного "искусственного государства" мир еще не дошел. Однако отдельные ее элементы уже формируются вокруг нас. Именно поэтому вопросы прозрачности и подконтрольности систем ИИ все чаще поднимают не только ученые, но и регуляторы в разных странах мира.
Ранее Информатор сообщал, что Европейская комиссия ввела новые правила прозрачности для систем искусственного интеллекта, работающих на территории Евросоюза. Новые требования касаются маркировки контента, созданного нейросетями, и обязывают чатов сообщать пользователям, что они общаются не с человеком, а с машиной. За нарушение этих правил компаниям грозят штрафы в размере до 15 миллионов евро или 3% глобального годового оборота.
Также мы писали, что Министерство цифровой трансформации разрабатывает "Белую книгу ШІ" – документ, который определит регуляторный подход к развитию искусственного интеллекта в Украине в сотрудничестве с бизнесом и международными экспертами.
Следите за нами в Telegram
