Инструменты искусственного интеллекта могут помочь решить проблемы рабочей силы. Однако внедрение может быть сложным, что заставит организации в первую очередь рассмотреть менее рискованные административные и бэк-офисные задачи.
Павильон ИИ на выставке HLTH 2024 в Лас-Вегасе. Эмили Олсен/Healthcare Dive
ЛАС-ВЕГАС — Когда больница и система медицинских наук Иллинойсского университета тестировали инструмент на основе искусственного интеллекта, который составляет ответы на сообщения, пациент неправильно написал название лекарства, вспомнил Карл Кохендорфер, главный специалист по информации в области здравоохранения, во время выступления на конференции HLTH на прошлой неделе.
Эта ошибка привела к тому, что ИИ выдал побочные эффекты для препарата, который пациент не принимал, когда медсестра забыла перепроверить ответ.
В конечном итоге это не было большой проблемой — им просто нужно было позвонить пациенту или отправить еще одно сообщение, чтобы внести исправление, сказал он. Но это могло иметь серьезные последствия для инструмента.
«Это почти погубило пилот. […] И это произошло в первый же день», — сказал он.
По словам экспертов на конференции HLTH, в то время как здравоохранение пытается решить, как безопасно внедрить ИИ, инвесторы и системы здравоохранения впервые видят перспективы внедрения инструментов, автоматизирующих административную и офисную работу. Это может сократить выгорание поставщиков услуг и снизить риски для ухода за пациентами.
Но давление на принятие технологии растет. Сторонники утверждают, что ИИ может помочь решить существенные проблемы с рабочей силой в здравоохранении: согласно отчету консалтинговой компании Mercer, в 2028 году страна столкнется с нехваткой более 100 000 важнейших медицинских работников, поскольку общее население стареет и нуждается в большем уходе.
Хотя ИИ может быть преобразующим, сектор должен действовать осторожно, внедряя новые инструменты, говорят эксперты. Ставки высоки, поскольку политики и эксперты выразили обеспокоенность по поводу точности, предвзятости и безопасности.
Внедрение ИИ в здравоохранение — сложная задача, и отрасль должна извлечь урок из некоторых ранее внедренных инструментов прогнозирования, сказал Рохан Рамакришна, соучредитель и главный врач приложения для получения медицинской информации Roon, во время панельной дискуссии в HLTH.
«Я думаю, что одна из вещей, которую мы усвоили, заключается в том, что нужно быть чрезвычайно осторожными, применяя решения ИИ в медицинских учреждениях», — сказал он.
Как ИИ может помочь устранить «простое несоответствие между спросом и предложением»
ИИ может помочь решить одну из самых больших проблем в здравоохранении: растущее число пожилых пациентов с более сложными хроническими заболеваниями и меньшим количеством поставщиков, которые могут им помочь, сказал Дэниел Янг, вице-президент по ИИ и новым технологиям в Kaiser Permanente, во время панельной дискуссии.
Поскольку пожилым американцам требуется больше ухода, миллениалы, самое многочисленное поколение в США, хотят больше потребительского опыта по требованию, добавил он. Но этого будет трудно достичь из-за ограничений предложения. На подготовку нового врача уходят годы, а меньшее количество врачей означает большее выгорание, задержки в лечении и более высокие расходы.
«Дело даже не в ИИ, а в том, что, по моему мнению, беспокоит здравоохранение в целом», — сказал Ян. «Мы видим простое несоответствие между спросом и предложением».
ИИ может дополнить рабочие процессы врачей, потенциально помогая им предлагать более качественную помощь. Ян сказал, что алгоритм, разработанный исследователями из Permanente Medical Group, помогает спасать 500 жизней каждый год, отмечая пациентов, которые находятся в группе риска клинической декомпенсации или когда их состояние ухудшается.
«Для меня это лучше, потому что это экономит время. Но в конце дня это лучше для пациента, потому что он чувствует, что его слышат. Для меня это действительно был преобразующий опыт».
Кристофер Виксон
Сосудистый хирург в Институте сосудов Саванны
Технология также может быть способом уменьшить выгорание и улучшить сохранение среди врачей, сократив время, которое они тратят на административную работу, такую как ведение заметок. Поставщики давно сообщали, что они тратят часы на работу в своих электронных записях, часто в ущерб уходу за пациентами.
Кристофер Уиксон, сосудистый хирург из Института сосудов Саванны, сказал, что он был близок к тому, чтобы уйти из медицины, поскольку отрасль перешла на электронные медицинские карты. Сбор информации, одновременно пытаясь выслушать пациентов, был сложной задачей, и было легко упустить невербальные сигналы, когда приходилось фокусироваться на экране ноутбука.
Но окружающая документация, обычно когда инструмент ИИ записывает разговоры между врачами и пациентами, а затем составляет черновик заметки, изменила правила игры, сказал он.
«Для меня это лучше, потому что это экономит время», — сказал Уиксон во время дискуссии. «Но в конце концов, это лучше для пациента, потому что он чувствует, что его слышат. Для меня это действительно был преобразующий опыт».
Инвесторы, системы здравоохранения фокусируются на административной нагрузке
Учитывая большую административную нагрузку поставщиков и беспокойство по поводу ошибок или предвзятости в моделях, которые больше связаны с принятием клинических решений, продукты, решающие административные проблемы, являются одними из главных приоритетов для внедрения ИИ.
Некоторые инвесторы больше заинтересованы в автоматизации этих операционных задач.
«Мы продолжим концентрироваться на непривлекательной автоматизации бэк-офиса, которая действительно облегчит нагрузку на рабочую силу, и не будем заниматься клиническими аспектами, связанными с ИИ», — сказал Пайал Агравал Дивакаран, партнер .406 Ventures.
Административный ИИ также приносит больше венчурных долларов в этом году, согласно отчету, опубликованному Silicon Valley Bank в начале этого месяца. В 2024 году компании, занимающиеся административным ИИ, привлекли 2,4 миллиарда долларов по сравнению с 1,8 миллиардами долларов для клинического ИИ, вероятно, из-за более низких нормативных и институциональных барьеров, особенно для инструментов поддержки принятия решений.
«Мы видим, что все эти действия связаны с административными задачами, а также с предварительной авторизацией, более низкоценными задачами», — сказала в интервью Меган Шеффель, руководитель отдела кредитных решений для банковских услуг в области естественных наук и здравоохранения в SVB. «Вы можете взять своих офисных сотрудников и перевести их на более ценные проекты».
Сейчас существует множество возможностей использовать большие языковые модели в качестве инструмента для составления черновиков, в том числе для заметок или документов для передачи медсестре, сказал Грег Коррадо, выдающийся ученый и руководитель отдела искусственного интеллекта в здравоохранении в Google Research, во время панельной дискуссии.
Надзор встроен, поскольку поставщикам придется просматривать выходные данные перед финализацией. Также стало проще оценить качество, спросив пользователей об их опыте или проверив, сколько правок им пришлось сделать, сказал он.
Но вы все равно должны быть методичными при оценке операционных или административных инструментов, тестируя с локальными данными пациентов системы здравоохранения, сказал Тодд Шварцингер, партнер Cleveland Clinic Ventures, в интервью. Структура управления Cleveland Clinic также фокусируется на вопросах о данных, используемых в инструменте, о том, как эта информация защищена и является ли продукт безопасным и оказывает ли он положительное влияние на уход за пациентами.
Административные или операционные продукты, такие как внешние писцы или инструменты управления циклом доходов, являются более безопасным местом для начала.
«Вы ведь не рискуете принимать клинические решения, верно?» — сказал он. «Такого уровня доверия нет. Я думаю, это займет время».
Подготовка к развертыванию ИИ
Хотя ИИ может показаться многообещающим средством для облегчения выгорания поставщиков, системы здравоохранения сталкиваются с трудностями при привлечении поставщиков, запуске пилотных проектов, установлении политик управления и развертывании продуктов.
В одном из примеров, представленных в HLTH, поставщик услуг BJC из Сент-Луиса решил использовать данные поставщиков для выявления врачей, которым требовалось много дней, чтобы подписать документацию, или которые писали длинные заметки для пилотного проекта по созданию заметок, сказала Мишель Томас, заместитель главного специалиста по клинической информации для амбулаторных отделений в BJC Healthcare и главный специалист по медицинской информации в BJC Medical Group.
«Я думаю, что у нас был один ответ из 20 человек. Поэтому мы сразу же подумали, что люди, которым это больше всего нужно, не заинтересованы в этом», — сказала она во время панельной дискуссии.
Они решили сменить курс, пригласив всех желающих присоединиться к пилотному проекту, что вызвало быстрый ответ, сказала Томас.
Тем не менее, важно продумать, какие поставщики услуг должны участвовать в тестировании, поскольку некоторые врачи не поняли требований к участию в пилотном проекте, таких как необходимость тратить время на отправку отзывов или преодоление разочарований по поводу нового продукта.
Системы здравоохранения также должны учитывать, какие результаты они хотят получить при внедрении инструментов ИИ. Многие врачи не увидели особой экономии времени, потому что они тратили много времени на редактирование своих записей, а не на их исправление, чтобы сделать заметки в соответствии со своим стилем письма, сказал Томас. Напротив, поставщики передовой практики быстрее подписывали внешние заметки после просмотра.
«Вам действительно нужно решить, какова ваша рентабельность инвестиций. Вы ищете финансовую экономию? Вы ищете экономию времени? Вы ищете точные цифры, которые оправдывают эту технологию? Или она более мягкая? Вы ищете удовлетворенность пациентов?» — сказала она.
Кибербезопасность — уже проблема для сектора здравоохранения в целом — также является ключом к развертыванию ИИ.
Организации должны продумать те же вопросы, которые они задали бы любой системе, использующей защищенную медицинскую информацию, сказала в интервью Мелани Фонтес Райнер, директор Управления по гражданским правам Министерства здравоохранения и социальных служб.
Если они вступают в отношения с разработчиком, есть ли у них соглашение о деловом партнерстве? Думают ли они о политике удаления данных для информации, хранящейся в облаке? Рассматривают ли они, кому должен быть предоставлен доступ к данным?
«Я думаю, что здесь, безусловно, необходимо соблюдать баланс, но это требует от нас всех ответственности и размышлений о том, как мы используем эту информацию и как она может навредить нашим системам, нашим пациентам, и как мы можем предпринять упреждающие шаги для ее защиты», — сказала она.
Рекомендуемая литература
- Продуманная реализация и постоянный мониторинг — ключ к безопасному здоровью ИИ Эмили Олсен • 23 октября 2024 г.
