Восстание машин - в Китае робот с ИИ сошел с ума и напал на разработчиков
Программное обеспечение не было рассчитано на такую ситуацию
На демонстрационной выставке в Китае произошел жуткий случай – гуманоидный робот H1 компании Unitree Robotics напал на инженеров-разработчиков. Видео инцидента разлетелось по Сети, интернет-пользователи заговорили о восстании машин как в фильме "Терминатор".
Робот с искусственным интеллектом должен был продемонстрировать достижения компании в области искусственного интеллекта, однако внезапно начал хаотично двигаться, делая все более агрессивными жесты. На видео видно, что робот делает размахивающими руками, очень похожи на проявления агрессии и потерю контроля. При этом робот пытался удержать равновесие в нестандартных условиях, пишет Hit Channel.
Модель H1 оснащена передовой системой стабилизации, позволяющей в режиме реального времени реагировать на резкие изменения положения тела или поверхности. Но во время демонстрации робот был прикреплен к страховочному тросу.
В Китае во время публичной демонстрации китайский гуманоидный робот H1 от компании Unitree чуть не напал на разработчиков pic.twitter.com/AgtjnUHyha
— Информатор (@informatorua) May 4, 2025
Инженеры подтвердили, что программное обеспечение не рассчитано на ситуацию, когда робот удерживается за фиксированную точку на голове. Такой способ фиксации ограничил его способность естественно корректировать положение, заставив работу поверить, что он падает. Поэтому робот начал все более агрессивно пытаться "вырваться" из того, что воспринимал как критическую дестабилизацию. Инженерам удалось "успокоить" работа, выключив его из источника питания.
ИИ может много, но не заменит людей
Идея создания роботизированных заводов с управлением на искусственном интеллекте, которую уже отрабатывает международная группа исследователей, звучит хорошо. Впрочем, по словам экспертов, реализация такой идеи на самом деле проблематична.
Также чат-бот Google с искусственным интеллектом – Gemini, размещенный на вершине всех результатов поиска, продолжает выдавать неправильные данные. Алгоритмы медицинского машинного обучения достигли больших успехов в предвидении определенных состояний, но в целом они продолжают предвзято относиться к женщинам и цветным людям при постановке диагноза. Поскольку подобные "ошибки" уже существуют, развертывание ИИ в медицине, вероятно, лишь усугубит их.
