Правозащитная организация Open Rights Group опубликовала доклад под названием «Автоматизированная дискриминация: распаковка цифровой враждебной среды». Согласно документу, технологии искусственного интеллекта незаметно интегрированы во многие рабочие процессы министерства внутренних дел Великобритании. Алгоритмы теперь участвуют в оценке возраста лиц, ищущих убежище, выявлении потенциально фиктивных браков и проверке содержимого телефонов новых прибывших граждан.
Помимо этого, технологии задействованы в наблюдении за границами страны с помощью дронов, спутников и систем распознавания лиц в реальном времени. Внутри ведомства нейросети резюмируют интервью с беженцами и обрабатывают страновые справочные материалы, которые служат доказательствами. Также для сортировки и оценки миграционных кейсов используется специальный инструмент Ipic.
Секретность правительственных ведомств
Данные для доклада собирались из ответов на парламентские запросы, официальных запросов о свободе информации и редких публикаций самого министерства. Документ получил поддержку политиков из разных партий, включая Белль Рибейру-Адди из Лейбористской партии, Пита Уишарта из Шотландской национальной партии и Сиан Берри из партии «зеленых».
Авторы исследования акцентируют внимание на том, что внедрение ИИ происходило в условиях тотальной секретности. Чиновники постоянно ссылаются на соображения национальной безопасности, отклоняя запросы общественности и скрывая ключевые детали. Организация критикует британские власти за попытку свести сложные человеческие судьбы к сухим техническим задачам и оцифрованным точкам данных. Эксперты предупреждают, что ИИ не нейтрален и лишь усиливает предрассудки, питаемые жесткой антимиграционной политикой.
Депутат Белль Рибейру-Адди отметила, что министерство внутренних дел упорно отказывается публиковать документы, которые объясняют реальную роль алгоритмов в обработке беженских кейсов. По ее словам, ведомство не способно гарантировать ответственность за сбои систем и перекладывает огромные риски на самых уязвимых людей.
Требования к властям и реакция министерства
Программный менеджер Open Rights Group Сара Альшериф подчеркнула, что миграция является исключительно человеческим опытом, который нельзя отдавать на откуп компьютерным программам. Правозащитники требуют от правительства ввести жесткие правила, полностью запретить опасные для прав человека инструменты вроде ChatGPT в процедурах предоставления убежища, а также создать открытый публичный реестр всех правительственных алгоритмов.
Представители министерства внутренних дел в ответ заявили, что искусственный интеллект служит лишь вспомогательным средством защиты границ и не заменяет людей. По заявлению ведомства, все финальные вердикты выносят исключительно профессиональные сотрудники, тогда как алгоритмы лишь помогают структурировать записи интервью и нормативные акты. Чиновники пообещали продолжить мониторинг эффективности систем и опубликовать обновленные отчеты по итогам их использования.