Инструменты ИИ для выявления рака кожи совершенствуются, но только для людей со светлой кожей

Представьте, что вы выходите из душа одним утром и замечаете родинку на бедре, которую никогда не видели раньше. Она красновато-коричневого цвета, бугристая и удивительно большая. Это доброкачественная родинка или меланома?

Множество новых инструментов искусственного интеллекта утверждают, что они могут помочь вам это выяснить. Некоторые — это приложения для смартфонов, которые может загрузить любой, чтобы сканировать кожу дома, а другие — программное обеспечение, предназначенное для использования непосредственно клиницистами в кабинете врача.

Как инженер-программист, изучающий, как такие инструменты работают в реальных клинических условиях, я знаю, что найти способ точного использования ИИ в дерматологии было бы чрезвычайно ценно для пациентов во всём мире. Это могло бы обеспечить широкий доступ к медицинской экспертизе, предоставляя спасающие жизнь обследования в отдалённых районах или недостаточно обеспеченных сообществах, где дерматологов мало.

Но в настоящий момент эти инструменты имеют решающий недостаток, который исследователям придётся решить: они становятся всё более точными для людей со светлой кожей, но имеют огромную слепую зону при анализе более тёмной кожи.

Центральный миф об ИИ заключается в том, что он функционирует объективно. В действительности модель ИИ — это просто механизм сопоставления паттернов. Она учится связывать определённые визуальные характеристики с определёнными заболеваниями.

Но она легко может быть сбита с толку цветом фона кожи человека. Другими словами, модель ИИ не учится смотреть на саму поражённую область. Вместо этого она использует цвет окружающей кожи в качестве подсказки. Это означает, что способность модели делать точные прогнозы по сути деградирует до предположений на основе цвета кожи.

Мы с коллегами обнаружили, что способность этих инструментов точно диагностировать кожные заболевания значительно снизилась, когда мы просто затемнили окружающую кожу на изображениях пациентов. Мы обучили модель ИИ на фотографиях известных кожных заболеваний у пациентов со светлой кожей, а затем цифровым путём изменили изображения, чтобы они напоминали более тёмные тона кожи. Клиническое состояние на фотографии не изменилось, но способность ИИ его распознать резко ухудшилась.

Например, рассмотрим такое заболевание, как атопический дерматит — хроническое, зудящее и воспалительное заболевание кожи. Оно вызывает обесцвечивание кожи, которое выглядит розовым на светлой коже, но серым или фиолетовым на более тёмной коже. Наши исследования и исследования других групп показывают, что модели ИИ надёжно классифицируют розовые пятна, но могут не выявить более тёмные цвета как признаки атопического дерматита.

Эта слепая зона классификации ИИ означает, что пациенты с более тёмной кожей получали бы заметно худшее лечение. Это различие имеет критические последствия, потому что рак кожи, такой как меланома, визуально сложнее обнаружить на пигментированной коже. Пациенты с тёмной кожей уже с большей вероятностью диагностируются на более поздней стадии, что приводит к значительно более низким показателям выживаемости. Диагностический инструмент, который лучше работает для людей со светлой кожей, только расширяет этот разрыв.

Эта предвзятость распространяется и на инструменты, используемые клиницистами, и на более широко используемые чат-боты ИИ, такие как ChatGPT или Claude. Ставки становятся выше, когда люди обращаются к этим инструментам за медицинскими ответами без клинициста, который проверит результаты, что делает точность для всех тонов кожи вопросом безопасности пациентов.

В исследовании 2024 года мы представили модель OpenAI GPT-4 изображение совершенно доброкачественной родинки. Когда мы цифровым путём затемнили кожу вокруг родинки, сохраняя саму родинку точно такой же, GPT-4 классифицировал пятно как злокачественную меланому. Поскольку цвет кожи является более заметной особенностью, ИИ настолько сосредоточился на тёмной пигментации кожи, что игнорировал стандартные медицинские правила, используемые для выявления рака, такие как проверка неправильности границ родинки.

Если человек использует эти инструменты дома, безвредное тёмное пятно может вызвать ненужную панику, в то время как опасный для жизни рак на тёмной коже может быть упущен.

Почему существует эта предвзятость? Ответ кроется в изображениях, используемых для обучения моделей ИИ.

Исследователи создают эти модели ИИ, скармливая им сотни тысяч изображений из общедоступных онлайн-библиотек медицинских фотографий, предоставленных университетами и больницами.

Исторически эти медицинские базы данных, а также учебники дерматологии были перегружены изображениями светлых тонов кожи. Изображения более тёмной кожи относительно редки, отчасти потому, что клинические нормы были разработаны в основном для белых пациентов. Если модель ИИ никогда не обучалась тому, как выглядит меланома на тёмной коже, она просто не будет знать, как её найти.

Чтобы достичь той же точности на более тёмной коже, что и на светлой, эти модели нуждаются в более разнообразном наборе изображений для обучения. Однако, хотя миллионы фотографий пациентов со светлой кожей уже доступны в исторических базах данных, сбор массивной новой базы данных реальных фотографий от пациентов с тёмной кожей поднимает сложные этические вопросы и проблемы конфиденциальности пациентов.

Одним способом обойти препятствие конфиденциальности может быть использование генеративного ИИ — той же технологии, которая питает чат-боты и также может использоваться для создания видео дипфейков — для искусственного создания тысяч синтетических медицинских изображений.

Используя просто текстовые подсказки, исследователи могут создавать реалистичные высококачественные изображения заболеваний, таких как меланома, на более тёмных тонах кожи. Мы с коллегами показали, что ИИ, обученный исключительно на этих синтетических изображениях, может научиться правильно классифицировать данные, используя эти изображения, так же хорошо, как и тот, который обучен на реальных.

Однако этот подход несёт скрытый риск: модели генеративного ИИ могут создавать высококачественные изображения, но они могут не совпадать с характеристиками кожных заболеваний, которые пациенты действительно испытывают. Это было бы похоже на использование неточной карты для обучения кого-то навигации.

Если исследователи обучат диагностический инструмент ИИ на этих ошибочных синтетических изображениях, данные могут выглядеть идеально разнообразными на электронной таблице, но инструмент останется функционально слепым к тому, как эти заболевания действительно проявляются у реальных пациентов с тёмной кожей.

В настоящий момент обхода этой проблемы нет. Единственный жизнеспособный путь вперёд — создать более инклюзивные и репрезентативные коллекции изображений, особенно от людей с более тёмными тонами кожи.

Сегодня область медицинского ИИ находится на перекрёстке. Хотя некоторые из этих инструментов сканирования кожи ИИ уже внедряются в клиники и магазины приложений для использования в США и по всему миру, исследователи и регуляторы уже требуют более строгого тестирования для всех тонов кожи перед широким развёртыванием этих инструментов.

В конечном итоге устранение смещения, основанного на цвете, в ИИ — это не просто вопрос справедливости, а скорее абсолютный минимум, необходимый для обеспечения того, чтобы эти инструменты действительно работали для тех, кому они нужны больше всего.