МВД Великобритании отказалось от непрозрачного алгоритма, используемого при обработке заявлений на визы, после того, как систему обвинили в предвзятости и расизме, пишет Financial Times.
Что случилось?
МВД Великобритании объявило, что прекратит использовать визовый алгоритм, введенный с 2015 года. Это произойдет незадолго до начала судебного разбирательства по иску Совета по вопросам иммигрантов (JCWI) и совета по защите цифровых прав человека Foxglove.
Истцы утверждают, что алгоритм автоматически присваивал заявлениям на британскую визу цветовой код — зеленый, желтый или красный, а важным параметром этого была национальность. По мнению Foxglove, министерство вело «секретный список подозрительных национальностей» — этим заявителям с большой вероятностью отказывали в визе. Кори Кридер, основатель Foxglove, описал систему как «зеленый коридор для белых».
МВД никогда не раскрывало детали алгоритма, но с утверждениями иска не согласно и не связывает с ним отказ от системы. «Мы изучили, как работает инструмент потоковой обработки визовых заявлений, и будем перестраивать наши процессы, чтобы сделать их еще более упорядоченными и безопасными», — говорится в заявлении.
Директор по правовой политике JCWI Чай Патил сказал, что «инструмент впитал десятилетия расистских практик, таких, как выделение некоторых национальностей для иммиграционных чисток, и кодифицировал их в ПО». МВД «не обращало внимания на расистские умолчания своих систем», добавил он.
Инструмент вызвал критику и со стороны Дэвида Болта, главного инспектора по границам и иммиграции. Он еще в феврале предупредил МВД о необходимости ревизии: «чем более загадочными выглядят визовые решения, тем сильнее это подпитывает опасения по поводу предвзятости и некачественной работы».
Что дальше?
Использование спорного алгоритма будет приостановлено в пятницу, 7 августа, а переработанная система должна заработать осенью. До тех пор заявки будут рассматриваться индивидуально. Во внимание продолжат принимать информацию о конкретном человеке — например, о предыдущих поездках, — но не о национальности.
Активисты, вероятно, отзовут поданный иск, но оставят за собой право исследовать обновленный алгоритм. «Если он будет повторять ошибки старого и вызывать расовую дискриминацию, мы готовы возобновить дело», — сказал Чай Патил.