Órgão britânico pode investigar uso de tecnologia da OpenAI pelo Home Office

O Independent Chief Inspector of Borders and Immigration (ICIBI), órgão que monitora a atuação do Home Office em fronteiras, imigração e alfândega, pediu ao grupo de direitos digitais Open Rights Group (ORG) informações sobre as ferramentas enquanto define suas prioridades de inspeção, segundo o Wired. O órgão diz que não pode confirmar os temas antes da publicação do plano anual, mas reconhece preocupações sobre o uso de IA e já havia apontado eficácia e confiabilidade variadas em uma ferramenta.

O Home Office usa o Asylum Case Summarisation (ACS) e o Asylum Policy Search (APS), desenvolvidos com o GPT-4 da OpenAI e o Microsoft Foundry, para resumir entrevistas e informações sobre países. O departamento afirma que as ferramentas apenas auxiliam funcionários treinados, não decidem pedidos isoladamente e passam por monitoramento. O ORG diz ter encontrado uma proporção de resumos do ACS inadequados para uso acima da taxa de erro publicada de 9% e ausência de controle de qualidade no APS; no piloto, o uso conjunto poderia economizar cerca de uma hora por caso.