Медицинским страховым компаниям США запретили использовать ИИ
В результате крупной победы в защиту прав пациентов CMS США выпустили решительное заявление, в котором разъяснили, что медицинские страховые компании не могут использовать искусственный интеллект (ИИ) или алгоритмы для отказа в обслуживании или страховом покрытии для участников плана Medicare Advantage (MA). Этот шаг был предпринят на фоне продолжающихся судебных процессов против компаний UnitedHealth и Humana за то, что они якобы использовали несовершенный ИИ-инструмент под названием nH Predict для неправомерного ограничения обслуживания пожилых пациентов.
Пациенты утверждают, что nH Predict недооценивает потребности в постреанимационном уходе, что приводит к ранней выписке из домов престарелых и отказу в покрытии рекомендованных врачом услуг. Сообщается, что этот инструмент опирается на ограниченные данные о пациентах и не обеспечивает прозрачности процесса принятия решений. Судебные иски обвиняют страховщиков в том, что они не дают четких объяснений отказам в покрытии, в результате чего пациенты оказываются в бедственном положении и сталкиваются с потенциально опасными последствиями для здоровья.
В памятке CMS подчеркивается, что решения о страховом покрытии должны основываться на индивидуальных обстоятельствах пациента, с учетом истории болезни, рекомендаций врача и клинических записей. Инструменты искусственного интеллекта могут помочь в прогнозировании возможных сроков пребывания, но эти прогнозы не могут служить единственным основанием для отказа в обслуживании. Страховщики должны придерживаться публично опубликованных и неизменных критериев покрытия, не позволяя ИИ манипулировать принятием решений.
CMS предостерегает от алгоритмической предвзятости и требует, чтобы страховщики следили за тем, чтобы их инструменты искусственного интеллекта не способствовали дискриминации.