Исследователи из Университета Торонто во главе с Мартой Маслей разработали алгоритм машинного обучения, который призван предсказывать агрессию у пациентов, получающих острую психиатрическую помощь. В ходе тестирования выяснилось, что данный алгоритм демонстрирует предвзятость в своих прогнозах. В разработке использовались структурированные электронные медицинские карты 17 703 пациентов, наблюдавшихся в одном из крупнейших психиатрических стационаров Канады с января 2016 года по май 2022 года. Общая продолжительность наблюдений составила 42 719 дней, из которых 1 272 дня были с зафиксированными проявлениями агрессии.
Данные для анализа
Наиболее распространенной причиной госпитализации среди пациентов стали психотические расстройства. Для обучения модели было использовано 12 398 пациентов и 29 879 дней наблюдений, тогда как для тестирования — 5 305 пациентов и 12 840 дней. Результаты этого исследования были опубликованы в журнале npj Mental Health Research.
Направления анализа
Алгоритм, основанный на методе случайного леса, достиг площади под ROC-кривой 0,81, что свидетельствует о высокой успешности в предсказаниях. Однако, углубленный анализ показал значительные расхождения в точности прогнозов в зависимости от демографических характеристик пациентов. Особо отметили, что доля ложноположительных срабатываний была значительно выше среди мужчин, чернокожих пациентов и людей с Ближнего Востока, которые были доставлены в отделение экстренной помощи полицией. Также к повышенному риску ложных оценок были склонны пациенты с нестабильным социальным положением, что подчеркивает существование системной предвзятости в алгоритме.
