ComNews: Искусственный интеллект выписал настоящие таблетки

Сбербанк внедрил в контакт-центр цифрового помощника — фармацевта на базе нейросети GigaChat. Эксперты отметили, что конечная ответственность за консультацию по препаратам, правилам приема и побочным эффектам останется на стороне сотрудников контакт-центра, а юристы — что субъектом ответственности будет не фармацевт, а руководитель организации.

Сервис позволит клиентам российской интернет-аптеки «Сбер Еаптеки» получать поддержку по фармацевтическим вопросам — подбору препаратов, графику приема, противопоказаниям и побочным эффектам. «Цифровой помощник автоматически сформирует ответ на запрос, а оператор контакт-центра оценит качество сформированного ответа и только после проверки отправит его клиенту. Подключение сервиса позволит сократить время ожидания ответа фармацевта, а также снизит нагрузку на сотрудников контакт-центра», — сказано в сообщении ПАО «Сбербанк».

Представитель пресс-службы «Сбер Еаптеки» сообщил корреспонденту ComNews, что ответы модели полностью проверяют фармацевты со специальной подготовкой и соответствуют законодательству: «При этом конечная ответственность за консультацию по препаратам, правилам приема и побочным эффектам останется на стороне фармацевта. Понятие фармацевтического консультирования и того, что в него входит, определено в приказе Министерства труда и социальной защиты РФ от 31 мая 2021 г. № 349н «Об утверждении профессионального стандарта «Фармацевта».

Руководитель проектов развития ИИ-решений ООО «Директум» (Directum — разработчик систем электронного документооборота) Илья Петухов упомянул, что ответственность за консультацию остается на операторе, который должен проверить рекомендации искусственного интеллекта (ИИ) на предмет ошибок и противопоказаний, а также запросить дополнительную информацию у человека, который делает запрос. «С точки зрения требований к операторам, они останутся прежними, так как проверять, что сформировала машина, нужно в любом случае. При этом ИИ упростит задачу для человека, работа ускорится, и тот же состав специалистов сможет обрабатывать больше обращений», — отметил Илья Петухов.

Научный сотрудник лаборатории «Сильный ИИ в медицине» Научно-исследовательского института ИИ (AIRI) Александр Нестеров отметил, что медицинские знания, заложенные в GigaChat, в сочетании с такими приемами построения LLM-систем, как Retrieval Augmented Generation (RAG), позволяют с высокой точностью давать ответы на справочные вопросы, к которым относится подбор препаратов и другая информация подобного профиля: «Из заявления разработчиков следует, что все ответы GigaChat валидируются фармацевтами, что снижает риски потенциальных неточностей. При правильной организации работы LLM-систем консультативного характера возможные риски предотвращаемы, главное для пользователя — не игнорировать рекомендацию и обратиться за дополнительными разъяснениями к врачу в случае ее появления».

Директор департамента контактных центров и роботизированных систем АО «Наумен» (Naumen — российский разработчик программных решений для бизнеса и органов власти) Сергей Попов не считает, что такая разработка снизит уровень компетенции операторов контакт-центров: «Цель цифрового помощника в этой задаче — автоматизировать зону рутинных ответов и освободить время операторов для более сложных и нестандартных вопросов, что, напротив, требует повышения квалификации сотрудников контакт-центра. В процессе контроля качества ответов операторы также остаются вовлеченными в процесс и поддерживают высокий уровень компетенций».

Советник по направлению «Здравоохранение» ООО «Айтентика» (ITentika — разработчик программного обеспечения для бизнеса) Артем Николаев рассказал, что на мировом фармрынке за последние полгода произошло много изменений: «Их скорость постоянно растет — важнейшую роль в этом, как раз играют нейросети. Если раньше фармкомпаниям для разработки нового препарата нужны были годы и десятилетия, то теперь благодаря ИИ новые, готовые к клиническим испытаниям субстанции появляются гораздо быстрее».

Артем Николаев упомянул об отечественном рынке, на котором, благодаря импортозамещению и новым импортерам лекарственных средств, появляются фармсредства, о которых фармацевты могут не успеть прочесть в привычных источниках: «Отдельный интерес, в части скорости изменений, представляет разрабатываемый Минздравом и Роспотребнадзором законопроект, регулирующий биологически активные добавки, — скорость разработки которых еще выше, чем у лекарственных средств».

Место для опасений

Директор департамента голосовых цифровых технологий ООО «БСС» (BSS — российский разработчик комплексного программного решения) Александр Крушинский отметил, что от таких разработок становится тревожно, особенно когда ИИ начинает активно участвовать в таких сложных и критичных вещах, как подбор лекарств. «Но прогресс не остановить, и появление таких цифровых помощников во всех областях нашей жизни неизбежно. Я предполагаю, что этого помощника делали профессионалы и, помимо высокой эффективности для контакт-центра „Сбер Еаптеки“, всерьез работали над качеством его рекомендаций», — пояснил Александр Крушинский.

Основатель юридической компании Future Legal Павел Катков считает, что доверять здоровье искусственному интеллекту — вопрос не столько этики, сколько опыта. «Пока эти сервисы не зарекомендовали себя, люди могут их опасаться. Вместе с тем, если сервис качественно запрограммирован и ведет не интеллектуальную деятельность врача, а просто подбор вариантов схем лечения под симптомы, — почему нет, простые случаи вполне будут ему подвластны. В любом случае, организатор сервиса будет нести ответственность за качество услуги независимо от того, оказывает ее ИИ или живой человек. Только в первом случае субъектом ответственности будет не фармацевт, а руководитель организации», — подчеркнул Павел Катков.

Старший юрист юридической фирмы Verba Legal (ООО «Верба Лигал») Никита Жемчугов рассказал, что юридически использование различных систем поддержки не запрещено законом: «При этом фармацевты все равно обязаны соблюдать общие требования, установленные к оказанию фармацевтических консультаций, и будут нести ответственность за оказание консультаций ненадлежащего качества на общих основаниях, включая, например, „Правила надлежащей аптечной практики“ и иные применимые нормативно-правовые акты».

Фото: ComNews