Щоб робот не сплутав дефібрилятор із вогнегасником - у MIT розробили систему самоперевірки для фізичного ШІ

У Массачусетському технологічному інституті розробили технологію UQ-DAAAM, що дозволяє роботам виявляти власну невпевненість і точніше розпізнавати предмети

Робот з камерами
У MIT створили систему UQ-DAAAM, яка допомагає роботам виправляти помилки у власній пам’яті.

Дослідники Массачусетського технологічного інституту створили систему, яка здатна розпізнавати і виправляти помилкові описи об'єктів у пам'яті робота. Розробку назвали UQ-DAAAM, і вона має вирішити проблему, коли робот через погане освітлення чи частковий огляд неправильно запам'ятовує предмет і потім не може знайти його знову. 

Технологію представили в Массачусетському технологічному інституті, пояснивши принцип дії на прикладі екстреної ситуації. Якщо робот-асистент помилково запам'ятав настінний дефібрилятор як вогнегасник, він не зможе підказати людині, де шукати цей життєво важливий прилад у разі потреби. Нова система покликана унеможливити таку ситуацію ще до того, як вона завдасть шкоди.

Роботів навчили розпізнавати власні помилки в описі предметів.
Роботів навчили розпізнавати власні помилки в описі предметів.

UQ-DAAAM розшифровується як "кількісна оцінка невизначеності для опису будь-чого, будь-де, у будь-який момент". Система порівнює кілька описів одного й того ж об'єкта, зроблених з різних ракурсів, і вираховує, наскільки робот насправді впевнений у тому, що він побачив. Якщо рівень невпевненості завищений, UQ-DAAAM шукає додаткові зображення цього ж предмета і об'єднує описи в точнішу версію, яку й зберігає в пам'яті.

"На відміну від ChatGPT, коли ми говоримо про фізичний штучний інтелект, недостатньо просто додати застереження, що робот іноді може помилятися. Можливість робота розуміти, чого він не знає, стане необхідною умовою для безпечного впровадження цієї технології і її позитивного впливу на суспільство", - сказав старший автор дослідження, доцент факультету аеронавтики та астронавтики MIT Лука Карлоне.

Систему створили на основі попередньої розробки команди - DAAAM, яка використовує мовно-візуальну модель для детального опису об'єктів, що потрапляють у камери робота. Проблема виникає, коли робот бачить предмет лише частково, здалеку, або камера фіксує розмите чи погано освітлене зображення - у такому разі стара система могла, наприклад, сплутати сірий димохід з білкою на даху.

"Без можливості самокорекції ця помилкова пам'ять зберігалася б і далі, поки робот рухається довкіллям, що могло б вплинути на подальші завдання", - пояснив співавтор дослідження Гаррі Чжан.

Над проєктом разом з Карлоне працювали аспіранти MIT Гаррі Чжан і Ніколас Горло, які стали співавторами дослідження. Роботу представлять на конференції з нейронних інформаційних систем обробки.

Робот навчився виявляти власну невпевненість

Система спершу обчислює рівень впевненості мовно-візуальної моделі у словах, якими вона описала потенційно помилковий об'єкт, а потім порівнює цей опис із підписами до зображень того самого предмета з інших ракурсів.

"Ми об'єднуємо обидва джерела невизначеності в одне число, яке показує, наскільки модель впевнена у своєму загальному розумінні об'єкта", - пояснив Лука Карлоне.

Якщо це число перевищує певний поріг, система вважає невизначеність занадто високою і уточнює опис за допомогою додаткових зображень об'єкта, обираючи ті кадри, які найкраще допоможуть зняти сумніви - наприклад, кадр за кілька секунд пізніше, де з димоходу вже чітко видно дим. За словами дослідників, такий підхід дає змогу обробляти дані майже миттєво, навіть коли робот перебуває в русі.

Раніше Інформатор повідомляв, що Boston Dynamics відправить робота Atlas працювати на завод з виробництва мікросхем американської компанії GlobalFoundries з початку 2027 року. Також ми писали, що OpenAI запустила ШІ-агентів у лікарнях США, де вони автоматизують клінічні та адміністративні завдання, а лікарі визнали безпечними 99% виконаних системою рішень.

Слідкуйте за нами у Telegram

Image
Оперативні новини та разбори: Україна, світ, війна

ЧИТАЙТЕ ТАКОЖ:

Головна Актуально Україна на часі Youtube
Інформатор у
телефоні 👉
Завантажити