В Массачусетском технологическом институте разработали технологию UQ-DAAAM, позволяющую работам проявлять собственную неуверенность и точнее распознавать предметы
Исследователи Массачусетского технологического института создали систему, способную распознавать и исправлять ошибочные описания объектов в памяти робота. Разработку назвали UQ-DAAAM, и она должна решить проблему, когда робот из-за плохого освещения или частичного обзора неправильно запоминает предмет и затем не может найти его снова.
Технологию представили в Массачусетском технологическом институте, объяснив принцип действия на примере экстренной ситуации. Если робот-ассистент ошибочно запомнил настенный дефибриллятор как огнетушитель, он не сможет подсказать человеку, где искать этот жизненно важный прибор в случае необходимости. Новая система призвана сделать невозможным такую ситуацию еще до того, как она нанесет вред.

UQ-DAAAM расшифровывается как "количественная оценка неопределенности для описания чего-либо, где бы то ни было, в любой момент". Система сравнивает несколько описаний одного и того же объекта, сделанных с разных ракурсов, и рассчитывает, насколько робот действительно уверен в том, что он увидел. Если уровень неуверенности завышен, UQ-DAAAM ищет дополнительные изображения этого же предмета и объединяет описания в более точную версию, которую и хранит в памяти.
"В отличие от ChatGPT, когда мы говорим о физическом искусственном интеллекте, недостаточно просто добавить оговорку, что робот иногда может ошибаться. Возможность работа понимать, чего он не знает, станет необходимым условием для безопасного внедрения этой технологии и ее положительного влияния на общество", - сказал старший автор исследования, доцент факультета аэрона.
Систему создали на основе предварительной разработки команды – DAAAM, использующей языково-визуальную модель для детального описания объектов, попадающих в камеры робота. Проблема возникает, когда робот видит предмет лишь частично, издалека, или камера фиксирует размытое или плохо освещенное изображение – в таком случае старая система могла, например, спутать серый дымоход с белкой на крыше.
"Без возможности самокоррекции эта ошибочная память сохранялась бы и дальше, пока робот движется внешней средой, что могло бы повлиять на дальнейшие задачи", - объяснил соавтор исследования Гарри Чжан.
Над проектом вместе с Карлоне работали аспиранты MIT Гарри Чжан и Николас Горло, ставшие соавторами исследования. Работу представят на конференции по нейронным информационным системам обработки.
Система сначала вычисляет уровень уверенности языково-визуальной модели в словах, которыми она описала потенциально ошибочный объект, а затем сравнивает это описание с подписями к изображениям того же предмета с других ракурсов.
"Мы объединяем оба источника неопределенности в одно число, показывающее, насколько модель уверена в своем общем понимании объекта", - пояснил Лука Карлоне.
Если это число превышает определенный порог, система считает неопределенность слишком высокой и уточняет описание с помощью дополнительных изображений объекта, выбирая те кадры, которые лучше помогут снять сомнения – например, кадр через несколько секунд позже, где из дымохода уже отчетливо виден дым. По словам исследователей, такой подход позволяет обрабатывать данные почти мгновенно, даже когда робот находится в движении.
Ранее информатор сообщал, что Boston Dynamics отправит работа Atlas работать на завод по производству микросхем американской компании GlobalFoundries с начала 2027 года. Также мы писали, что OpenAI запустила ШИ-агентов в больницах США, где они автоматизируют клинические и административные задачи, а врачи сочли безопасными 99% выполненных системой решений.