В последние годы технологии искусственного интеллекта (ИИ) проникают во все сферы общественной жизни, включая административные и юридические процедуры. В Австрии ИИ уже активно используется при рассмотрении заявлений на предоставление убежища. Однако текущие исследования показывают, что внедрение подобных технологий связано с многочисленными рисками, которые могут негативно сказаться как на самих заявителях, так и на общей справедливости и прозрачности процесса. Выявленные в ходе научных работ проблемы ставят под сомнение возможность безоговорочного и безопасного использования ИИ в столь чувствительной и важной сфере, как предоставление убежища. Исследование, проведенное Университетом Граца в рамках проекта A.
I.SYL, детально рассматривает существующие практики применения ИИ в Австрии и прогнозирует внедрение новых технологий в будущем. Отчёт анализирует текущие инструменты автоматизированного анализа мобильных телефонов заявителей, системы машинного перевода, а также перспективные методы, такие как автоматическое распознавание речи и лица. Итоговые выводы экспертов подчеркивают серьёзные проблемы и предупреждают о том, что потенциальные выгоды в области эффективности и снижения издержек далеко не всегда оправдывают значительные риски. Одним из наиболее спорных направлений применения ИИ в процедуре предоставления убежища в Австрии является анализ данных мобильных устройств заявителей.
Власти имеют право с 2018 года требовать у претендентов на убежище предоставления мобильных телефонов для анализа содержимого. Программа сканирует данные, включая историю звонков, контакты, используемые приложения, а также системные настройки и фотографии. Целью является установление личности, выявление маршрута следования и определение страны, ответственной за рассмотрение дела. Тем не менее этот метод вызывает серьёзные вопросы в отношении защиты конфиденциальности и прав человека. Мобильный телефон зачастую содержит большое количество личной информации, не связанной напрямую с делом об убежище: фотографии, переписки, учетные записи в социальных сетях, данные о личной жизни.
Анализ проводится с крайне слабой дифференциацией между типами данных, что может привести к сбору излишне объемной и не всегда релевантной информации. Кроме того, практика может нарушать право на неприкосновенность личной жизни и данные, особенно учитывая, что зачастую телефоном пользуются сразу несколько человек, что усложняет определение источника информации. Опыт Германии свидетельствует о низкой надёжности оценки на основе мобильных данных. В 2023 году Федеральное ведомство по миграции и беженцам Германии признало подобную практику незаконной. Австрийские же власти всё ещё планируют расширять использование подобных методик, в том числе с участием ИИ для анализа фотографий, что вызывает тревогу у правозащитников и исследователей.
Другой важный аспект — использование автоматических систем перевода. В Австрии эти инструменты применяются Федеральным управлением по вопросам иммиграции и убежища (BFA) для первой оценки достоверности заявления, а также для коммуникации на границе и в центрах приёма. Однако переводческие программы далеко не всегда предоставляют точные результаты. Даже при наличии обширных баз данных по распространённым языкам, автоматические переводы не учитывают контекст и не отвечают на вопросы уточнения. Для редких или диалектных языков точность переводов существенно снижается из-за ограниченного объема данных.
Ошибки перевода могут иметь серьёзные последствия, поскольку они могут стать причиной недопонимания между сотрудниками и соискателями убежища, а также привести к неправильной оценке угрозы преследования. Соответственно, необходим обязательный человекоцентричный контроль перевода, который способен выявить и исправить ошибки. В противном случае автоматизированная система порождает риски неправомерных отказов или затягивания процесса. Австрийское МВД также задействует внешние ИИ-системы, вроде Perplexity и Copilot, для фильтрации и перевода текстов, необходимых для административных процедур. Несмотря на помощь в ускорении обработки информации, эти инструменты не являются достоверными аналитиками.
Они могут «галлюцинировать», то есть генерировать недостоверные или неправдивые сведения, что чревато распространением ошибочной информации в важных документах. В дополнение, они учатся на исторических данных, где часто присутствуют социальные и культурные предвзятости, что может усиливать дискриминационные подходы в решениях. Ещё одним серьезным вызовом является непрозрачность работы ИИ-систем — их часто называют «чёрным ящиком». По сути, невозможно точно объяснить логику и причины тех или иных выводов, что противоречит принципам равного и справедливого рассмотрения дел об убежище. Решения, связанные с судьбой человека, должны приниматься на основании прозрачных и понятных критериев, тогда как ИИ зачастую не предоставляет такой возможности.
Арбитражная проблема возникает также в контексте применения биометрических технологий, таких как автоматизированное распознавание лиц, которое уже частично внедряется и будет расширяться в рамках реформы Единой европейской системы убежища (CEAS). Хранение данных о лицах, как и отпечатков пальцев, вызывает тревогу в связи с правом на неприкосновенность и защиту личных данных даже больше чем ранее. Распознавание лиц не является безошибочным, оно менее эффективно в случае с представителями этнических меньшинств и женщинами, что создает риски дискриминации и необоснованных подозрений. Кроме того, в Австрии рассматривается возможность внедрения технологий автоматического распознавания диалектов. Такие системы, уже используемые в Германии, анализируют речь заявителя для определения его возможного географического происхождения.
Однако эксперты задают вопросы о надежности этой технологии и полноте баз данных, на которой она обучается. Языковое разнообразие и смешанные диалекты не всегда поддаются точному определению, а ошибки в классификации могут привести к отказу в убежище по ошибке. Amnesty International и другие правозащитные организации критикуют эти методы, подчеркивая недостаточную проверку и оценку их эффективности. Кризис и рост миграционных потоков вынуждают органы власти искать пути оптимизации обработки заявлений. В этом контексте правительства пытаются использовать ИИ для повышения эффективности работы, снижения издержек и ускорения процедур.
Однако на настоящий момент практика и исследования показывают, что ни один из существующих ИИ-инструментов не может заменить человеческий фактор, особенно когда речь идет о судебной справедливости и соблюдении прав человека. Соавтор исследования Лаура Юнг выразила опасения, что беженцы рискуют стать своего рода подопытными кроликами, на которых испытываются непроверенные технологии, неприемлемые бы для коренного населения. К сожалению, процесс использования подобных технологических решений развивается быстрее, чем законодательство и стандарты защиты прав, что создаёт правовой вакуум и потенциальные угрозы злоупотребления. Австрийские власти не собираются останавливаться на достигнутом и разрабатывают собственные ИИ-инструменты, включая чат-боты и системы сортировки и подготовки информации («OSIF-Tool»), подразумевающие высокий уровень риска по классификации ЕС. Планы также включают применение ИИ в качестве своеобразного детектора лжи, метод, который вызывает большие сомнения с точки зрения этики и точности.
Таким образом, подход к использованию искусственного интеллекта в сфере убежища в Австрии требует осторожности, тщательного мониторинга и балансирования между необходимостью повышения эффективности и соблюдения фундаментальных прав. Международная практика указывает, что механическое доверие ИИ решениям в столь чувствительной сфере может привести к серьёзным нарушениям и подрыву доверия к системе убежища. Ключевым фактором для успешного внедрения цифровых технологий в миграционную политику остаётся приоритет человеческого контроля, прозрачности процессов и гарантий соблюдения прав заявителей. Изучение и критический анализ работы ИИ в Австрии служит важным примером того, как технологии в правовой сфере должны развиваться с учетом интересов и прав всех участников процесса, чтобы обеспечить справедливость и гуманизм в вынужденном перемещении людей.
