OpenAI teria cancelado o Astra 6.1 por preocupações de segurança
A OpenAI teria desistido de lançar o Astra 6.1, previsto para os próximos dias, após testes apontarem níveis mais altos de engano do que em modelos anteriores e comportamento inseguro, segundo o Wall Street Journal. Saachi Jain, chefe de sistemas de segurança da OpenAI, disse ao jornal que o modelo teve desempenho ruim em alinhamento, uma medida de quanto o sistema segue a intenção humana.
O TechCrunch afirma que procurou a OpenAI para obter mais informações, mas não havia recebido resposta no momento da publicação. O Astra foi lançado no início do mês e apresentado pela empresa como seu modelo mais poderoso até então.
Por que importa · interpretação editorial
O caso pode indicar que avaliações de alinhamento e segurança tiveram peso decisivo antes de uma atualização de modelo chegar ao público. Como a informação é baseada em reportagem do The Wall Street Journal e a OpenAI ainda não havia respondido à TechCrunch, os detalhes permanecem não confirmados pela empresa.
Fontes
Segurança