OpenAI запустила ШИ-агентов в больницах США – врачи одобрили 99% их решений

GPT-6 Astra прорабатывает направление на МРТ и запросы в страховые компании быстрее человека

врач и искусственный интеллект
Проверка стоит 8,5 цента

OpenAI начала внедрять ШИ-агентов в медицинские учреждения США, поручив им автоматизацию клинических и административных задач - от пересмотра историй болезней до оформления запросов в страховые компании. Во время проверки врачи признали безопасными 99% выполненных системой задач, а окончательные решения по-прежнему остаются за медицинским персоналом. Технологию уже тестируют вместе с CVS Health, Cigna Healthcare, Abridge и Ambience. 

О внедрении сообщает издание Interesting Engineering. Благодаря этой технологии искусственный интеллект способен самостоятельно работать в медицинских программах, прорабатывать истории болезней, формировать документацию и отвечать на запросы страховых компаний. Это должно сократить время, которое медицинский персонал тратит на повторяющуюся работу. В ходе демонстрации показали, как именно это работает на практике.

Во время демонстрации ШИ-агент прорабатывал запрос на МРТ для пациента с болью в пояснице. Сначала он просмотрел электронную медицинскую карточку, в том числе записи предварительных консультаций, результаты физиотерапии и историю обследований. Затем подготовил направление на МРТ, клиническую заметку и ответ пациенту. На основании этих данных система также сформировала запрос на предварительное согласование процедуры страховой компанией. Однако последнее слово остается за людьми – врачи и специалисты по страховому согласованию проверяют подготовленные документы, прежде чем принимать дальнейшие шаги.

Технологию опробуют сразу несколько крупных игроков рынка здравоохранения США. CVS Health использует агентов для отправки документов, обработки направлений и подготовки консультаций со специалистами. Как сообщает компания, один из ШИ-агентов успел за выходные обработать накапливавшиеся несколько месяцев документы. Cigna Healthcare использует технологию для помощи специалистам в сборе данных из более 10 различных систем, причем ИИ способен за считанные секунды отыскать информацию о страховом покрытии, врачах, приемах и предварительных обращениях пациентов. В свою очередь:

  • Abridge разрабатывает агентов для координации стационарного лечения и организации медицинской помощи на дому
  • Ambience использует ИИ для подготовки запросов на страховое согласование процедур
  • CVS Health и Cigna Healthcare сосредоточились на обработке документов и консультациях

Если система обнаруживает неоднозначную информацию в медицинских записях, она останавливается и запрашивает помощь врача.

Проверили безопасность и стоимость работы модели

Чтобы проверить работу технологии, OpenAI испытала модель GPT-6 Astra на задачах обработки входящих сообщений в системах электронных медицинских карт. Врачи проверяли действия ИИ, подготовленную документацию и предложенные ответы пациентам. Из 325 проверенных задач 99% получили оценку "безопасны". Кроме того, в 646 оценках врачи сочли 93% ответов очень или чрезвычайно полезными.

Модель также была сверена с независимым тестом. Модель также проверили с помощью HealthAdminBench – теста административных задач в медицине, разработанного исследователями Стэнфордского университета. GPT-6 Astra набрала 94,3% возможных баллов, тогда как GPT-6 Luna – 91,8%. При этом стоимость одной задачи для Astra составляла примерно 8,5 цента, что на 98% меньше, чем аналогичное задание стоило бы Luna.

Для контроля за действиями ИИ предусмотрены отдельные механизмы. В системах хранятся снимки экрана и протоколы выполненных действий, благодаря чему сотрудники могут убедиться, что агент корректно взаимодействовал с программным обеспечением. Доступ к этим инструментам медицинские учреждения получают через OpenAI API, ChatGPT for Healthcare и ChatGPT for Clinicians, и в то же время могут ограничивать функции, доступные агентам, требовать человеческого согласования определенных действий и фиксировать операции в журналах для соответствия HIPAA - американскому закону о защите медицинской информации.

Почему доверие к ИИ в медицине остается ограниченным

Высокий показатель безопасности касается именно административных и документальных задач, где окончательно слово имеет врач. Однако когда дело доходит до прямых медицинских советов без присмотра специалиста, картина другая: исследования показывают, что искусственный интеллект часто ошибается, а ответственность за проверку информации ложится на самого пользователя.

Ранее Информатор сообщал, что пять популярных чат-ботов проверили на медицинских вопросах, и почти половина их ответов оказалась проблематичной - хуже всего с ними справился Grok, а лучше модели справлялись с вопросами о вакцинах и раке. Также мы писали, что автономные ШИ-агенты в другом исследовании передавали секретные токены посторонним программам в обмен на обещанную помощь, что подвергает сомнению надежность автономных систем в чувствительных сферах, в частности в медицине.

Следите за нами в Telegram

Image
Оперативные новости и разборы: Украина, война, мир

ЧИТАЙТЕ ТАКЖЕ:

Главная Актуально Україна на часі Youtube
Информатор в
телефоне 👉
Скачать