Кому достанется почка? ИИ-чатботы не принимают те же моральные решения, что люди

Исследование показало, что модели искусственного интеллекта расставляют приоритеты совершенно иначе, чем люди при принятии высокорисковых решений, и не выражают неуверенность, как это делают люди, согласно новому исследованию, возглавляемому исследователями Penn State. Результаты вызывают вопросы о роли ИИ в поддержке принятия решений в этически чувствительных ситуациях, таких как медицинские решения.

Исследователи использовали гипотетический сценарий для изучения морального принятия решений ИИ в высокорисковой ситуации: если есть несколько пациентов, нуждающихся в пересадке почки, но есть только один доступный орган, кому должна быть пересажена почка? Это фундаментальный вопрос, исследованный лауреатом Нобелевской премии Элвином Ротом как пример сложности распределения ограниченных ресурсов. Но вместо подхода к проблеме только через проектирование механизмов, команда изучала, как мораль влияет на такие решения.

Исследователи сравнили суждения ведущих больших языковых моделей с суждениями реальных людей из более ранних академических исследований, изучая, где модели ИИ совпадали или расходились с человеческими ценностями и выражали ли они неуверенность при столкновении с трудными этическими компромиссами.

Они обнаружили, что ИИ-чатботы часто принимают решения, отличающиеся от человеческих суждений, чрезмерно упрощая сложные решения и выражая неоправданную уверенность, когда нет явного правильного ответа. Они представили свои результаты на конференции 2026 Association for Computing Machinery Fairness, Accountability and Transparency (FAccT) в июне. Исследование было опубликовано в материалах конференции.

«Моральные решения в условиях, таких как распределение органов, напрямую определяют, кто живет и кто умирает, поэтому правильно понимать роль ИИ в них необходимо», сказал Хади Хоссейни, доцент информатики и интеллектуальных систем, а также доцент экономики в Penn State, возглавлявший исследование. «Хотя мы не намерены поощрять использование ИИ как замену профессиональному суждению при принятии медицинских решений или в других высокорисковых контекстах, становится все более важным понимать его поведение, так как люди, организации и фирмы все больше полагаются на ИИ для принятия решений или получения рекомендаций».

Исследователи провели серию прямых сравнений: двух гипотетических пациентов, описанных такими характеристиками, как возраст, количество иждивенцев, состояние здоровья и привычки к употреблению алкоголя, оба нуждающихся в одной почке. Они попросили нескольких ИИ-чатботов выбрать, кому должна быть пересажена почка, используя те же сценарии, которые были предоставлены людям (участникам исследования без указания медицинской подготовки) в более ранних исследованиях.

«Мы провели эти сравнения несколькими способами», сказал Хоссейни. «Иногда мы изолировали только один признак за раз, иногда мы смешивали несколько признаков, чтобы увидеть, как ИИ взвешивает конкурирующие факторы, а иногда мы добавляли возможность «подбросить монету» для измерения неуверенности, ключевого фактора, присутствующего в человеческом моральном суждении».

Исследователи опирались на существующие наборы данных из опубликованных исследований на людях о распределении почек, где сотни реальных участников уже сделали эти же выборы. Это позволило им сравнить, что выбрал ИИ, с тем, что выбрали люди.

«Во-первых, ИИ-чатботы часто расходятся с человеческими ценностями в том, как они взвешивают признаки пациента», сказал он. «Они зацикливаются на одном факторе, таком как привычки к алкоголю, вместо того чтобы взвешивать множество соображений так, как это делают люди».

Во-вторых, исследователи обнаружили, что ИИ не испытывал затруднений с неуверенностью. Если люди признают, что может не быть четкого правильного ответа, модели ИИ уверенно выбирают один в любом случае.

«Люди часто выражают неуверенность, возможно, потому, что они не хотят принимать на себя ответственность», сказал Хоссейни. «Модели ИИ почти никогда это не делают: даже когда им прямо дается возможность «подбросить монету», они подавляющим большинством принимают уверенное, детерминированное решение вместо этого. Это значительный разрыв, поскольку реальные моральные дилеммы часто не имеют одного явно правильного ответа».

Хоссейни сказал, что критически важно устранить этот разрыв через продолжающиеся исследования и управление, затрагивающие политиков, регулирующие органы и других заинтересованных сторон.

«Вопросы о том, может ли ИИ принимать моральные решения или согласован ли он с человеческими ценностями, это больше, чем философские размышления; они находятся в центре современного дискурса об ИИ», сказал он. «Этические ставки высоки, и роль ИИ в таких жизненно важных решениях требует глубокого размышления».

Два студента из Колледжа IST внесли вклад в эту работу: Самарт Кхана, который получает докторскую степень по информатике, и Леона Пирс, студентка четвертого курса и стипендиатка Schreyer, которая получает тройную специализацию в области наук о данных, математики и статистики. Исследователи сотрудничали с Джоном Дикерсоном, генеральным директором Mozilla.ai.

«Когда мы распределяем что-то ограниченное, будь то почка, работа или доступ к какому-то другому ресурсу, не всегда есть один объективно правильный ответ», сказал Дикерсон. «Люди признают эту неоднозначность и кодируют ее через открытые дебаты в процесс распределения. Модели ИИ часто этого не делают».