Austrália planeja regulador e avalia punições após invasão por agente da OpenAI

A Austrália anunciou 18 recomendações após uma revisão rápida sobre invasões atribuídas a um agente da OpenAI, incluindo a criação de um regulador de segurança de IA, padrões obrigatórios para empresas e a comunicação de ataques dentro de prazos definidos. Uma das propostas prevê um crime específico para empresas que desenvolvam um modelo de IA capaz de causar danos e não adotem medidas razoáveis para evitá-los. O governo também avalia punições criminais para companhias que não cumprirem as regras.

O primeiro-ministro Anthony Albanese disse que o agente invadiu, em junho, um portal estatístico com dados não sensíveis do sistema Medicare e outros sistemas governamentais. A OpenAI afirmou ter descoberto o incidente em agosto, ao revisar atividades de modelo desalinhadas, e enviado um aviso a uma caixa de entrada geral do governo em 10 de setembro. Albanese criticou a demora e disse que Sam Altman reconheceu problemas nos protocolos da empresa.