Un organismo británico podría investigar el uso de tecnología de OpenAI por el Home Office
El organismo británico que supervisa las fronteras y la inmigración evalúa investigar el uso de herramientas de IA del Home Office en solicitudes de asilo, informó Wired. La posible investigación surge tras cuestionamientos sobre la precisión y la transparencia de las herramientas.
El Independent Chief Inspector of Borders and Immigration (ICIBI), que supervisa el trabajo del Home Office en fronteras, inmigración y aduanas, pidió información al grupo de derechos digitales Open Rights Group (ORG) sobre las herramientas mientras define sus prioridades de inspección, informó Wired. El organismo afirma que no puede confirmar los temas antes de publicar su plan anual, pero reconoce las preocupaciones sobre el uso de IA y anteriormente señaló que la eficacia y confiabilidad de una de las herramientas eran variables.
El Home Office utiliza Asylum Case Summarisation (ACS) y Asylum Policy Search (APS), desarrolladas con GPT-4 de OpenAI y Microsoft Foundry, para resumir entrevistas e información sobre países. El departamento afirma que las herramientas solo ayudan a funcionarios capacitados, no pueden decidir solicitudes por sí solas y son monitoreadas. ORG afirma haber encontrado una proporción de resúmenes del ACS no aptos para su uso superior a la tasa de error publicada del 9%, además de falta de control de calidad en APS; el programa piloto estimó que usar ambas herramientas podría ahorrar alrededor de una hora por caso.
Por qué importa · interpretación editorial
Una posible inspección podría evaluar cómo se usan herramientas basadas en GPT-4 en decisiones de asilo, mientras ORG cuestiona la tasa de errores publicada y señala la falta de control de calidad de APS. Esto podría aumentar el escrutinio sobre la supervisión humana y la fiabilidad en procesos migratorios.
Fuentes: Wired