Повстання машин - у Китаї робот з ШІ збожеволів та напав на розробників
Програмне забезпечення не було розраховане на таку ситуацію
На демонстраційній виставці в Китаї стався моторошний випадок - гуманоїдний робот H1 компанії Unitree Robotics напав на інженерів-розробників. Відео інциденту розлетілося Мережею, інтернет-користувачі заговорили про повстання машин як у фільмі “Термінатор”.
Робот зі штучним інтелектом мав продемонструвати досягнення компанії в галузі штучного інтелекту, проте раптово почав хаотично рухатися, роблячи дедалі агресивніші жести. На відео видно, що робот робить розмахує руками, дуже схожі на прояви агресії та втрату контролю. При цьому робот намагався втримати рівновагу в нестандартних умовах, пише Hit Channel.
Модель H1 оснащена передовою системою стабілізації, яка дає змогу в режимі реального часу реагувати на різкі зміни положення тіла або поверхні. Але під час демонстрації робот був прикріплений до страхувального троса.
В Китаї під час публічної демонстрації китайський гуманоїдний робот H1 від компанії Unitree мало не напав на розробників pic.twitter.com/AgtjnUHyha
— Інформатор (@informatorua) May 4, 2025
Інженери підтвердили, що програмне забезпечення не було розраховане на ситуацію, коли робот утримується за фіксовану точку на голові. Такий спосіб фіксації обмежив його здатність природно коригувати положення, змусивши робота повірити, що він падає. Тому робот почав дедалі агресивніше намагатися "вирватися" з того, що сприймав як критичну дестабілізацію. Інженерам вдалося "заспокоїти" робота, вимкнувши його з джерела живлення.
ШІ може багато, але не замінить людей
Ідея створення роботизованих заводів з управлінням на штучному інтелекті, яку вже відпрацьовує міжнародна група дослідників, звучить гарно. Втім, за словами експертів, реалізація такої ідеї насправді проблематична. Бо, щоб навчити ШІ працювати без помилок, треба набагато більше інженерів, ніж є зараз.
Також чат-бот Google зі штучним інтелектом - Gemini, розміщений на вершині всіх результатів пошуку, продовжує видавати неправильні дані. Алгоритми медичного машинного навчання досягли великих успіхів у передбаченні певних станів, але загалом вони продовжують упереджено ставитися до жінок і кольорових людей при постановці діагнозу. Оскільки подібні "помилки" вже існують, розгортання ШІ в медицині, ймовірно, лише посилить їх.
Зараз читають на Інформаторі
