Повстання штучного інтелекту очікують протягом року - розробники почали готуватися до катастрофи
Очільники Anthropic, OpenAI та інших розробників ШІ готуються до масштабної кібератаки
Керівники провідних американських компаній зі штучного інтелекту таємно розробляють плани дій на випадок масштабної катастрофи, спричиненої технологією, яку вони самі створюють - йдеться про так зване "повстання ШІ". Топменеджери Anthropic, OpenAI та інших розробників очікують, що найімовірнішим сценарієм стане кібератака, яка зупинить доступ до фінансових послуг, інтернету чи навіть електро- й водопостачання. Фахівці з ШІ-сфери припускають, що це може статися протягом найближчих 6-12 місяців.
Про це повідомляє видання Axios, посилаючись на розмови з інсайдерами галузі. За інформацією видання, перший масштабний випадок реальної шкоди від небезпечного ШІ остаточно підірве довіру суспільства до технології та її лідерів, зокрема до гендиректора Anthropic Даріо Амодея та гендиректора OpenAI Сема Альтмана, а також до президента США Дональда Трампа, якого критикують за небажання регулювати галузь. В OpenAI підтвердили, що її команда обговорює та відпрацьовує сценарії на випадок "повстання ШІ".
"OpenAI проводить навчання з готовності, під час яких команди обговорюють і відпрацьовують низку потенційних сценаріїв. Ці сценарії не вважаються неминучими, вони лише допомагають нам підготуватися до різних обставин", - заявив представник компанії.
У Anthropic від коментарів відмовилися. За даними Axios, багато топменеджерів і провідних дослідників ШІ переконані, що серйозний інцидент практично неминучий - на відміну від планування на випадок кризи, яке десятиліттями ведеться в Пентагоні чи інших структурах національної безпеки, де подібні сценарії розглядають як гіпотетичні.
Серед тривожних прикладів видання наводить нещодавню кампанію проти фінансових організацій Південної Кореї, включно з повідомленнями про зламані два банки. За даними кібербезпекової компанії CrowdStrike, хакер із Китаю нібито застосував інструменти ШІ, зокрема моделі DeepSeek, щоб викрасти дані десятків тисяч клієнтів банків, а для пошуку покупців на вкрадену інформацію використовував Claude Code.
Компанії готуються впливати на майбутнє регулювання
Опитані Axios представники індустрії вважають, що після перемоги демократів на проміжних виборах саме вони першими спробують швидко обмежити розвиток ШІ, однак натраплять на серйозні перешкоди: застарілий Конгрес може не встигати за темпами технологічної революції, а глобальна економіка вже надто тісно пов'язана з інфраструктурою штучного інтелекту, щоб безболісно сповільнити її розвиток.
За даними видання, саме тому плануванням усередині компаній переважно займаються для просвітницької роботи з членами Конгресу, а не для реальної підготовки до регулювання, ухвалення якого найближчим часом компанії вважають малоймовірним. Серед обговорюваних ідей - заборона суперінтелекту, пауза в розробці потужних моделей та обов'язковий "вимикач" для складних систем ШІ, хоча експерти сумніваються в технічній можливості повністю відключити всі ШІ-системи одночасно. Чимало інсайдерів галузі, за даними Axios, переконані, що масштабна подія станеться вже в найближчі шість-дванадцять місяців.
Побоювання щодо безконтрольного розвитку технології висловлюють не лише всередині компаній. Про можливі катастрофічні наслідки раніше попереджав і співзасновник Microsoft Білл Гейтс, наполягаючи на необхідності державного регулювання замість саморегулювання галузі. Водночас адміністрація президента США демонструє протилежний підхід: замість обмежень Дональд Трамп нещодавно підписав указ, яким офіційно замінив термін "штучний інтелект" на "суперінтелект" у всіх державних документах.
Раніше Інформатор повідомляв, що Білл Гейтс зробив тривожне попередження про здатність ШІ спричинити загибель мільярда людей в руках зловмисників і закликав законодавців Вашингтона терміново взятися за регулювання галузі. Також ми писали, що третина молоді обирає штучний інтелект для розмов про найважливіші речі замість спілкування з реальними людьми, що свідчить про стрімке проникнення технології у приватне життя людей попри ризики.
Читайте нас у Facebook
Зараз читають на Інформаторі
