Всемирная организация здравоохранения (ВОЗ) предупредила о рисках, которыми чревато применение в здравоохранении больших мультимодальных моделей (LMM) генеративного искусственного интеллекта (ИИ).
Как передает Vedomosti.az со ссылкой на сайт организации, ВОЗ призвала страны следить за тем, чтобы эти технологии соответствовали законодательству в сфере прав человека, и рекомендовала ввести обязательный аудит с целью оценки последствий их внедрения.
“Хотя LMM начинают применяться для конкретных целей, связанных со здоровьем, существуют также документально подтвержденные риски создания ложных, неточных, предвзятых или неполных сообщений, которые могут нанести вред людям, использующим такую информацию при принятии решений о здоровье”, – констатировала организация.
Риски обусловлены, в частности, использованием “данных низкого качества” или же данных, основанных на предвзятом подходе “по признаку расы, этнической принадлежности, происхождения, пола, гендерной идентичности или возраста”. Технологии генеративного ИИ уязвимы и с точки зрения кибербезопасности: под угрозу может быть поставлена информация о пациентах и “предоставление медицинской помощи в более широком смысле”, говорится в документе.
ВОЗ считает, что в создании безопасных LMM должны участвовать “различные заинтересованные стороны”, в том числе правительства, технологические компании и пациенты “на всех этапах разработки и внедрения”.
