Мобильные приложения помогают следить за физической активностью, менструальным циклом, эмоциональным состоянием и другими показателями здоровья. Многие сервисы используют искусственный интеллект, создавая впечатление высокой точности и беспристрастности.

Однако исследователи предупреждают, что ошибки могут возникать ещё до разработки алгоритмов. Причина нередко заключается в том, какие представления о здоровье закладывают создатели технологий.

<h3>Почему алгоритмы могут ошибаться</h3>

Работа цифровых медицинских инструментов во многом зависит от данных, на которых они обучаются.

Если информация отражает особенности только ограниченной группы людей, результаты могут оказаться менее точными для остальных пользователей.

Например, системы распознавания кожных заболеваний, обученные преимущественно на фотографиях светлой кожи, иногда хуже определяют изменения на более тёмной коже.

Похожая проблема возникает и при оценке общего состояния здоровья.

Один из известных медицинских алгоритмов использовал расходы на лечение как показатель тяжести заболеваний.

Однако люди с ограниченным доступом к медицинской помощи могли тратить меньше денег, несмотря на серьёзные проблемы со здоровьем.

В результате система недооценивала их потребность в лечении.

<h3>Ошибки появляются ещё до программирования</h3>

Исследователи Махима Калла и Нушин Назариан считают, что разработчикам необходимо пересматривать собственные предположения ещё на этапе планирования цифровых продуктов.

Прежде всего важно определить, чьё представление о здоровье лежит в основе будущего приложения.

В разных обществах благополучие человека может оцениваться по-разному.

Для одних пользователей главными показателями становятся физическое состояние и результаты медицинских обследований.

Для других не менее важны семейные отношения, психологический комфорт, культурные традиции и окружающая среда.

Если технология учитывает только один подход, она рискует упустить существенные потребности людей.

<h3>Почему пользователей привлекают слишком поздно</h3>

Ещё одна распространённая проблема связана с тем, что мнение будущих пользователей начинают учитывать лишь после принятия основных решений.

К этому моменту разработчики уже определили функции приложения, способы сбора данных и критерии эффективности.

Исследователи предлагают вовлекать представителей разных сообществ значительно раньше.

Люди должны иметь возможность не только оценивать готовый продукт, но и обсуждать, действительно ли он необходим.

Кроме того, нельзя заранее предполагать, что определённые группы населения не заинтересованы в цифровых технологиях или не способны ими пользоваться.

Подобные стереотипы могут приводить к исключению потенциальных пользователей из процесса разработки.

<h3>Что важнее технических возможностей</h3>

Создатели приложений часто стремятся повысить скорость работы, автоматизировать процессы и сократить необходимость участия специалистов.

Однако пользователи могут иметь совершенно другие приоритеты.

Например, для некоторых людей особенно важно сохранять связь с семьёй и медицинскими работниками.

Исследования с участием коренных народов в разных странах показали, что вспомогательные технологии могут восприниматься лучше, когда они укрепляют существующие отношения, а не пытаются их заменить.

Это подтверждает, что технически сложное решение не всегда оказывается наиболее полезным.

<h3>Кому принадлежат медицинские данные</h3>

Отдельное внимание специалисты уделяют вопросам хранения и использования личной информации.

Данные о здорове могут содержать не только медицинские показатели, но и сведения, связанные с культурой, идентичностью и особенностями целых сообществ.

Поэтому исследователи подчёркивают важность суверенитета данных.

Речь идёт о возможности людей и сообществ влиять на сбор, хранение, анализ и передачу информации о них.

Особенно актуальным этот вопрос становится по мере развития искусственного интеллекта, которому требуются большие объёмы данных.

<h3>Как сделать приложения справедливее</h3>

Для повышения точности цифровых медицинских инструментов недостаточно просто совершенствовать алгоритмы.

Необходимо использовать разнообразные наборы данных и привлекать к разработке людей с разным опытом и потребностями.

Важно также регулярно проверять, насколько корректно приложение работает для различных групп пользователей.

Такие меры могут снизить риск того, что отдельные симптомы останутся незамеченными, а рекомендации окажутся неподходящими.

В конечном счёте качество медицинских технологий определяется не только программным кодом, но и решениями, которые принимаются задолго до его написания.

Чем внимательнее разработчики относятся к разнообразию человеческого опыта, тем больше шансов создать действительно полезные и доступные инструменты для заботы о здоровье.