Всемирная организация здравоохранения (ВОЗ) призвала усилить механизмы этической экспертизы и надзора за исследованиями в области здравоохранения, использующими технологии искусственного интеллекта (ИИ). В организации предупреждают, что стремительное развитие ИИ без достаточных механизмов контроля может создавать новые риски для прав человека, справедливости и общественного доверия.

Доклад Artificial Intelligence-related health research: ethics review and oversight («Исследования в области здравоохранения с применением искусственного интеллекта: этическая экспертиза и надзор») подготовлен экспертами ВОЗ в области этики исследований, науки, цифрового здравоохранения и ИИ. Документ содержит практические рекомендации для исследователей, комитетов по этике, регуляторов, грантодателей и лиц, принимающих решения.

ВОЗ отмечает, что ИИ уже меняет подходы к анализу медицинских данных, проведению исследований, а также разработке и оценке новых технологий. При этом существующие механизмы этического надзора не всегда способны учитывать специфические риски, связанные с применением ИИ. Среди них организация выделяет вопросы прозрачности, алгоритмической предвзятости, справедливости, распределения ответственности, защиты конфиденциальности и потенциального вреда при быстром внедрении ИИ-инструментов.

ВОЗ выделяет три широкие категории исследований в области здравоохранения, связанных с искусственным интеллектом:

Исследования в области здравоохранения с использованием данных и ИИ — применение ИИ для анализа данных в рамках исследований;

Исследования с использованием инструментов и технологий ИИ — применение существующих ИИ-инструментов и технологий в исследовательской работе;

Исследования инструментов и технологий ИИ в области здравоохранения — разработка и оценка самих ИИ-инструментов и технологий.

Доклад рассматривает вопросы этического надзора на протяжении всего исследовательского цикла — от разработки исследования и этической экспертизы до публикации результатов, регулирования и практического внедрения.

Роль комитетов по этике и системный надзор

ВОЗ подчеркивает, что комитеты по этике исследований (Research Ethics Committees, RECs) сохранят центральную роль в защите участников исследований. При этом для оценки все более сложных проектов с применением ИИ им могут потребоваться дополнительные компетенции, обучение и ресурсы.

Одновременно организация отмечает, что ответственность за этически ответственное развитие ИИ не может ограничиваться только работой комитетов по этике. Важную роль должны играть грантодатели, научные журналы и издатели, органы управления доступом к данным, профессиональные объединения и государственные регуляторы. Такой подход необходим для решения системных вопросов, которые невозможно эффективно контролировать только на уровне отдельных исследовательских проектов.