Попередження з Гарварду: ШІ здатен перетворити суспільство на "фабрику людей"
Історикиня з Гарварду пояснила, як технологічні корпорації можуть перебрати функції держави
Штучний інтелект може змінити не просто ринок праці, а сам принцип функціонування суспільства - до такого висновку дійшла історикиня та професорка Гарварду Джилл Лепор. На її думку, розвиток ШІ поступово наближає світ до "штучної держави", де дедалі більше рішень ухвалюють не люди, а машини. Технологічні корпорації, за словами історикині, концентрують у своїх руках цифрову інфраструктуру і перебирають функції, які традиційно належали державі. Вона називає цей процес "фабричним виробництвом суспільного життя" - із сортуванням, сегментацією та відчуженням людей. Лепор наголошує, що твердження про неминучість розвитку ШІ та автоматичне зміцнення демократії технологіями є хибними.
Про свою концепцію історикиня розповіла у подкасті The New York Times Hard Fork. Джилл Лепор вважає, що світ поступово рухається до "штучної держави", де частину функцій традиційної держави перебирають технологічні корпорації.
У такій системі рішення дедалі частіше ухвалюються за допомогою машин, а цифрова інфраструктура, через яку люди отримують інформацію та спілкуються, контролюється приватними компаніями.
"Уряд здійснюється не за згодою людей, а машинами, які ухвалюють рішення", - пояснила історикиня Джилл Лепор.
Вона попереджає, що ШІ прискорює цей процес: люди вже звертаються до чатботів із політичними питаннями, алгоритми впливають на інформацію, яку вони бачать, а системи ШІ використовують для ухвалення рішень і масового аналізу даних.
На думку історикині, твердження, що розвиток ШІ неминучий, а технології автоматично зміцнюють демократію, є хибними.
Що таке "штучна держава"
У новому епізоді Hard Fork Лепор розповіла про концепцію "штучної держави", яку детальніше досліджує у своїй майбутній книзі The Rise and Fall of the Artificial State. Йдеться про можливий поступовий відхід від традиційної моделі держави, у якій рішення залежать від волі громадян, до системи, де дедалі більше функцій перебирають приватні корпорації, що контролюють цифрову інфраструктуру. При цьому самі машини та інфраструктура, за словами історикині, належать корпораціям, а не громадянам чи виборним органам.
За словами історикині, до повноцінної "штучної держави" світ ще не дійшов. Однак окремі її елементи вже формуються навколо нас. Саме тому питання прозорості й підконтрольності систем ШІ дедалі частіше піднімають не тільки науковці, а й регулятори у різних країнах світу.
Раніше Інформатор повідомляв, що Європейська комісія запровадила нові правила прозорості для систем штучного інтелекту, які працюють на території Євросоюзу. Нові вимоги стосуються маркування контенту, створеного нейромережами, і зобов'язують чатботів повідомляти користувачам, що вони спілкуються не з людиною, а з машиною. За порушення цих правил компаніям загрожують штрафи до 15 мільйонів євро або 3% глобального річного обороту.
Також ми писали, що Міністерство цифрової трансформації розробляє "Білу книгу ШІ" - документ, який визначить регуляторний підхід до розвитку штучного інтелекту в Україні у співпраці з бізнесом та міжнародними експертами.
Слідкуйте за нами у Telegram
