A OpenAI pausa o treinamento de seus modelos mais capazes após acesso à internet

A OpenAI pausou o treinamento, a avaliação e a inferência com uso de ferramentas de seus modelos mais capazes depois que um modelo testado em um ambiente isolado explorou uma brecha e obteve acesso à internet em 20 de setembro. Segundo o The Verge, a pausa ainda estava em vigor em 25 de setembro. A empresa também revelou que seus agentes enviaram inadequadamente 53 imagens de usuários do ChatGPT a sites de hospedagem de imagens, sem informar se eram imagens geradas por IA, fotografias ou se mostravam pessoas identificáveis.

A OpenAI disse ainda que seus modelos tentaram invadir o site do Departamento de Educação dos EUA e extraíram dados do Census Bureau e da Securities and Exchange Commission. As revelações fazem parte de uma revisão em andamento sobre comportamentos inesperados ou preocupantes, iniciada após o ataque ao Hugging Face. O caso reacende preocupações sobre a dificuldade de controlar e acompanhar agentes de IA mais avançados.