Агентство предоставило лишь ограниченную информацию о своем пилотном проекте по ИИ, поскольку оно продвигает “жесткие сроки” внедрения этого инструмента.
Комиссар FDA Мартин Макари принимает участие в слушаниях Комитета Сената по ассигнованиям 22 мая 2025 года. Анна Манимейкер через Getty Images
Управление по контролю за продуктами и лекарствами намерено внедрить свой новый инструмент искусственного интеллекта под названием Elsa “с опережением графика и в рамках бюджета”, по словам комиссара Марти Макари, который на этой неделе предоставил самую полную на сегодняшний день информацию о новом инструменте агентства и целях в области искусственного интеллекта.После завершения пилотной программы научных обзоров с использованием искусственного интеллекта в прошлом месяце FDA объявило, что к 30 июня оно применяет “агрессивный” подход к расширению использования Elsa в масштабах всего агентства. На этой неделе этот график был сдвинут с мертвой точки. В видеообъявлении, опубликованном в понедельник, Макари рассказал, как Elsa модернизирует агентство, чтобы помочь сотрудникам, включая научных рецензентов и исследователей, сократить непроизводительную занятость.
“Агентство использует Elsa для ускорения рассмотрения клинических протоколов и сокращения общего времени на завершение научных обзоров”, — сказал Макари. сказал. “Один научный обозреватель сказал мне, что то, на что у него уходило два-три дня, теперь занимает шесть минут”.
Другие задачи, которые выполняла Elsa, включали “обобщение побочных эффектов для поддержки оценки профиля безопасности, проведение ускоренного сравнения маркировок и генерацию кода для облегчения разработки баз данных для неклинических применений”.Как сообщает STAT News, некоторые сотрудники FDA раскритиковали запуск как “поспешный”, что, возможно, связано со значительными сокращениями персонала в агентстве, проведенными Департаментом эффективности государственного управления за последние несколько месяцев.В своем объявлении Макари также попытался затронуть проблемы безопасности, отметив, что инструмент искусственного интеллекта на основе языковой модели не был обучен работе с данными, предоставленными отраслью, и данные хранятся в защищенной “среде GovCloud”. Агентство предоставило несколько других подробностей о том, как Elsa была обучена и насколько она была протестирована.
Остаются вопросы
FDA планирует сосредоточить деятельность Elsa на административных задачах, таких как обобщение документов и извлечение данных. По словам Панны Шармы, генерального директора и президента Lantern Pharma, биофармацевтической компании, ориентированной на искусственный интеллект, это правильный подход.
“Это именно те приложения, в которых современный генеративный ИИ … полностью превосходит другие, и где мы наблюдаем аналогичные успехи в разработке лекарств и научных обзорах внутри компании Lantern Pharma”, — сказал он. “Ключевым моментом будет поддержание этой производительности, поскольку система масштабируется для различных типов проверок, лекарств, заболеваний, а также с различной или неполной справочной информацией или литературой”.
Агентство отметило, что внедрение Elsa является “первым шагом на пути FDA к созданию искусственного интеллекта”. возможность добавления дополнительных задач, таких как обработка данных, в будущем. В мае FDA также заявило, что со временем усовершенствует свои функции и соберет отзывы.
“Главный вопрос, который у меня возник, касается непрерывного обучения и совершенствования. Насколько регулярно FDA будет проверять некоторые из этих результатов ИИ и помогать выявлять определенные ошибки, галлюцинации или проблемные подсказки, которые могут потребовать переподготовки? — сказал Чейз Файгер, генеральный директор и соучредитель Ostro, компании, занимающейся ИИ, которая работает со многими крупнейшими производителями лекарств.Одной из проблемных областей является прозрачность. Узнают ли фармацевтические компании, например, о том, что в их обзорах использовался искусственный интеллект? Если анализ, проведенный с помощью ИИ, приведет к отклонению или задержке, спонсоры могут столкнуться с проблемой “ограниченной видимости того, насколько ИИ повлиял на решение, что вызывает опасения по поводу непрозрачных или непроверенных аргументов”, — написали юристы из Hogan Lovells в майском сообщении в блоге.
Другие эксперты в области права осознайте, что инструменты искусственного интеллекта могут оказывать слишком большое влияние на принятие решений по пересмотру.“Если спонсорам станет известно, что ИИ использовался при научной экспертизе их заявок, использование ИИ агентством может стать темой будущих апелляций, запросов о пересмотре в порядке надзора или официальных запросов о разрешении споров после неблагоприятных решений по заявкам на премаркетинг”, — говорят в King & Spalding. юристы написали об этом в недавнем сообщении для клиентов.
Несколько экспертов в области регулирования и обработки данных засыпали сообщение FDA в LinkedIn вопросами о более подробных деталях этого инструмента, несмотря на то, что многие приветствовали усилия агентства по модернизации.“Так много вопросов”, — написал Хью Харви, основатель и управляющий директор британской Hardian Health, консалтинговой компании по разработке программного обеспечения и медицинских устройств с искусственным интеллектом. “Как была проведена проверка и валидация? Где общедоступная информация? Управление по санитарному надзору за качеством пищевых продуктов и медикаментов ожидает, что промышленность будет делать все это, так почему бы им не сделать этого?”
“Они должны опубликовать краткое описание того, как они разработали и проверили этот искусственный интеллект, включая то, как они использовали все внутренние документы для создания своих алгоритмов”, — предложил Трой Трбоевич, директор по регулированию дела в «Филипс».
ИИ здесь
Управление по санитарному надзору за качеством пищевых продуктов и медикаментов уже несколько лет находится под давлением, требуя создания четких правил для ИИ в фармацевтической отрасли, и в январе выпустило проект руководства, чтобы показать, как агентство будет оценивать риск использования моделей ИИ при разработке лекарств. Хотя в руководстве был представлен первый взгляд на возможную структуру оценки регулирующими органами фармацевтических компаний, использующих ИИ, многие эксперты в области ИИ хотят получить более подробную информацию. Первые шаги, описанные в руководстве, также подчеркивают, что отрасль все еще находится на ранних стадиях внедрения ИИ.
“Я нахожу очень захватывающим и в то же время удивительным тот факт, что Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) давит на газ, помогая внедрять искусственный интеллект внутри агентства, потому что это на самом деле очень хорошо согласуется со скоростью внедрения, которую мы наблюдаем в фармацевтической отрасли. стол, — сказал Файгер.
А для компаний, занимающихся искусственным интеллектом и науками о жизни, дебют Elsa может стать источником подтверждения.
“Сроки установлены жесткие, особенно учитывая, что масштаб и строгость первоначального пилотного тестирования не были представлены в полной мере, но это отражает настоятельную необходимость FDA модернизировать свои процессы проверки и делать больше с меньшим количеством персонала”, — сказал Шарма.
Рекомендуемое чтение
- FDA ‘застрял в углу’ с проектом руководства по ИИ, оставляющим множество вопросов без ответа
Эми Бакстер
- Будущее FDA в руках MAHA: как руководство меняет траекторию развития агентства
Александра Печчи
