Home Office do Reino Unido pode ser investigado por usar IA da OpenAI em processos de asilo

Olha, a discussão sobre o uso de inteligência artificial em decisões críticas do governo acaba de atingir um novo patamar no Reino Unido. Um órgão de fiscalização do governo, o ICIBI, está considerando seriamente abrir uma investigação sobre o uso de ferramentas de IA generativa pelo Home Office — o ministério do interior britânico — para processar pedidos de asilo.

A gente está falando de duas ferramentas específicas aqui: a *Asylum Case Summarisation (ACS)* e a *Asylum Policy Search (APS)*, ambas construídas sobre o modelo GPT-4 da OpenAI e o Microsoft Foundry. O governo começou a testar esses sistemas no final de 2024 para tentar dar conta daquela fila imensa de cerca de 100 mil casos de asilo acumulados.

O problema? A Open Rights Group e outras organizações de direitos digitais começaram a cavar e descobriram coisas preocupantes. A taxa de resumos gerados pelo ACS considerados inadequados para uso é bem maior do que os 9% divulgados na avaliação piloto. No caso do APS, a denúncia é ainda mais grave: simplesmente não há controle de qualidade para as buscas produzidas pela ferramenta. Para piorar, essas ferramentas sequer foram listadas no repositório público exigido pelas regras de governança de IA do próprio Reino Unido.

Claro que o governo se defende. Um porta-voz do Home Office veio a público dizer que as decisões de asilo são tomadas exclusivamente por funcionários humanos treinados, e que a IA serve apenas como um auxiliar para navegar em registros de entrevistas e informações de políticas. O argumento oficial é de que a máquina não decide nada sozinha.

Só que a prática tem mostrado arestas perigosas. A própria reportagem da Wired destaca que um juiz britânico acusou o Home Office de citar um documento com "alucinação de IA" para recusar o pedido de asilo de uma mulher marroquina e seu filho. E o resultado dessa falta de transparência e de controle está batendo na porta dos tribunais: o uso dessas ferramentas tem gerado um volume crescente de recursos contra as decisões tomadas.

A ver se essa investigação do ICIBI vai para frente, mas o recado já está dado. Automatizar a burocracia de vidas humanas sem transparência, sem registro público e com taxas de erro expressivas não é apenas um problema tecnológico; é uma bomba-relógio institucional.