Um artigo de opinião de autoria do professor Oli Buckley, especialista em segurança cibernética da Universidade de Loughborough, para a plataforma The Conversation.
A partir do próximo ano, o Ministério do Interior planeia utilizar a estimativa da idade facial baseada na IA para avaliar a idade dos requerentes de asilo. Na fronteira do Reino Unido, decidir se alguém tem 17 ou 19 anos é um julgamento com consequências. Se errar de uma maneira, uma criança vulnerável perderá as proteções legais às quais tem direito. Mas se estiver errado na outra direção, então um adulto entra em um sistema projetado para menores.
Esta tecnologia está pronta para uma decisão tão arriscada?
Estimativa de idade facial funciona alimentando uma fotografia em um IA sistema que passa por múltiplas camadas de análise, cada uma captando padrões cada vez mais sutis na imagem. É baseado em milhões de fotografias de pessoas cujas idades já são conhecidas. Com o tempo, o modelo aprende a associar padrões faciais a faixas etárias prováveis: textura da pele, profundidade das linhas ao redor dos olhos, estrutura óssea e distribuição dos tecidos moles.
Isso é diferente do reconhecimento facial, que identifica quem é alguém comparando seu rosto com um banco de dados existente.
O sistema não produz uma única resposta definitiva. Produz uma distribuição de probabilidade, algo mais próximo de “provavelmente entre 17 e 21” do que “esta pessoa tem 18 anos”. Pesquisa sobre viés de automação na imigração constata que mesmo quando os resultados algorítmicos são consultivos, os agentes sob pressão de tempo tendem a concentrar-se neles em vez de questioná-los, e um intervalo torna-se um número.
De acordo com a legislação do Reino Unido, os requerentes de asilo não acompanhados com menos de 18 anos são tratados como crianças, o que significa que são colocados aos cuidados das autoridades locais, têm acesso à educação e concedeu proteções legais que os adultos não são. Os riscos desse limite de um único ano são consideráveis.
Quão boa é a tecnologia?
O Instituto Nacional de Padrões e Tecnologia (Nist) é a agência dos EUA que fornece referências globais independentes para este tipo de tecnologia. Tem realizado avaliações contínuas desde 2024, testando algoritmos em conjuntos de dados que abrangem vários tipos de imagens, incluindo fotografias de passagem de fronteira.
Esses sistemas medem o sucesso com um erro médio absoluto: o número médio de anos em que a estimativa do sistema está errada. Os principais algoritmos atingem agora um erro médio absoluto de menos de três anos em todas as idades, um número que teria parecido ambicioso há não muito tempo.
Um erro médio de três anos para uma foto não vista é tecnicamente muito bom – pesquisa usando fotografias estilo passaporte descobriram que os humanos que estimam a idade de um rosto desconhecido normalmente estão errados em cerca de oito anos. Mas quando decisões limítrofes podem moldar o curso da vida de alguém, mesmo a melhor ferramenta disponível precisa de análise minuciosa.
O Home Office contratou a Cognitec, classificada em quarto lugar globalmente no relatório publicado mais recente da Nist benchmark, para desenvolver o sistema através da empresa britânica Akhter Computers. Um teste ao vivo está planejado em uma instalação de processamento do Home Office em Dover antes de uma implementação mais ampla. A tecnologia atuará como um insumo entre vários, enquanto os oficiais terão a decisão final.
Mas apesar da melhoria da tecnologia, os dados do próprio Nist mostram que a sua precisão se degrada significativamente nos limites que mais importam. No limiar de 16 a 18 anos (a linha exata sendo traçada na fronteira), as margens de erro para os sistemas líderes são materialmente superiores à média geral.
Os dados de Nist também mostram que o desempenho é consistentemente mais fraco para rostos femininos e varia significativamente de acordo com a idade. geografia, o que significa que algoritmos treinados predominantemente em certas regiões têm desempenho menos preciso em rostos de outras. Dado que a maioria dos avaliados na fronteira do Reino Unido são provenientes de regiões sub-representadas nesses conjuntos de dados de formação, isto é uma preocupação…
Continua…
Para o artigo completo, visite o site Conversa.
