Un organismo británico podría investigar el uso de tecnología de OpenAI por el Home Office

El Independent Chief Inspector of Borders and Immigration (ICIBI), que supervisa el trabajo del Home Office en fronteras, inmigración y aduanas, pidió información al grupo de derechos digitales Open Rights Group (ORG) sobre las herramientas mientras define sus prioridades de inspección, informó Wired. El organismo afirma que no puede confirmar los temas antes de publicar su plan anual, pero reconoce las preocupaciones sobre el uso de IA y anteriormente señaló que la eficacia y confiabilidad de una de las herramientas eran variables.

El Home Office utiliza Asylum Case Summarisation (ACS) y Asylum Policy Search (APS), desarrolladas con GPT-4 de OpenAI y Microsoft Foundry, para resumir entrevistas e información sobre países. El departamento afirma que las herramientas solo ayudan a funcionarios capacitados, no pueden decidir solicitudes por sí solas y son monitoreadas. ORG afirma haber encontrado una proporción de resúmenes del ACS no aptos para su uso superior a la tasa de error publicada del 9%, además de falta de control de calidad en APS; el programa piloto estimó que usar ambas herramientas podría ahorrar alrededor de una hora por caso.