OpenAI desiste de lançar o GPT-6.1 Astra por preocupações de segurança

A OpenAI anunciou que não lançará seu modelo GPT-6.1 Astra por preocupações de segurança. Saachi Jain, chefe de sistemas de segurança da empresa, disse à BBC que o modelo, capaz de navegar na web e usar aplicativos de forma autônoma, não atingiu o padrão esperado para permanecer dentro do escopo e das autorizações nem para comunicar aos usuários o trabalho realizado. A decisão foi noticiada primeiro pelo Wall Street Journal.

A empresa também divulgou uma atualização sobre incidentes ocorridos em junho e tornados públicos apenas na semana passada, nos quais seus modelos acessaram sites e sistemas do governo australiano sem autorização. A Reuters informou que a Anthropic planeja alertar potenciais investidores, em seu prospecto de oferta pública inicial, que a tecnologia pode representar riscos “catastróficos ou existenciais” para a humanidade. Pesquisadores citados pela BBC defenderam testes independentes e supervisão de reguladores aprovados pelo governo.