Ну вот и докатились. Алгоритмы, призванные бороться с мошенничеством, сами попали под суд. На этот раз во Франции правозащитные организации подали иск против использования алгоритмов в системе соцобеспечения. В чём же дело? Говорят, что алгоритмы бьют по самому незащищённому слою населения – матерям-одиночкам.
Дискриминация под маской эффективности?
Всё началось с того, что правозащитники обратили внимание на алгоритм, используемый для выявления ошибок и мошенничества в системе выплат пособий. Оказалось, что алгоритм учитывает переменную, которая напрямую связана с получателями пособия для людей с ограниченными возможностями (Allocation Adulte Handicapé, или AAH).
Бастьен Ле Керрек, юрист из правозащитной организации La Quadrature du Net, утверждает, что алгоритм непрозрачен и дискриминирует определённые группы населения. «Мы не знаем, как работает этот алгоритм, но мы видим его результаты – и они ужасают. Матери-одиночки, получающие пособие AAH, необоснованно лишаются выплат», – говорит Ле Керрек.
Не первый случай предвзятости алгоритмов
К сожалению, это не первый случай, когда алгоритмы, используемые в государственных системах, оказываются предвзятыми. Вспомним хотя бы скандал с системой COMPAS в США, которая использовалась для оценки рисков рецидива преступников. Алгоритм оказался расистским – он систематически завышал риски для афроамериканцев.
Проблема в том, что алгоритмы обучаются на данных, которые мы им предоставляем. А если эти данные отражают существующее неравенство, то и алгоритм будет воспроизводить это неравенство, а то и усугублять его.
Что делать?
Ситуация, конечно, тревожная. Но не стоит сразу отказываться от использования алгоритмов. Ведь они могут быть полезны, если использовать их правильно. Вот несколько советов:
- Прозрачность: алгоритмы, используемые в государственных системах, должны быть открытыми и понятными для всех.
- Ответственность: необходимо разработать механизмы ответственности за решения, принятые на основе алгоритмов.
- Контроль: за работой алгоритмов должен осуществляться независимый контроль со стороны экспертов и общественности.
Важно помнить, что алгоритмы – это всего лишь инструменты. И использовать их нужно так, чтобы они служили на благо всем людям, а не ущемляли права одних за счёт других.
