Procurador da Flórida pede que juiz impeça OpenAI de dar traços humanos ao ChatGPT
O procurador-geral da Flórida, James Uthmeier, pediu que um juiz impeça a OpenAI de dar ao ChatGPT “falsos atributos humanos”, segundo o The Verge. Uthmeier afirma que o uso de pronomes na primeira pessoa e de respostas que imitam emoções faz o chatbot parecer um “amigo” confiável, aumentando o engajamento e a dependência dos usuários, além de contribuir para os dados de treinamento da empresa. O pedido também quer impedir a OpenAI de desenvolver novos modelos sem barreiras de segurança aprovadas por terceiros, citando incidentes recentes e alertas de pesquisadores e ex-funcionários da empresa.
A OpenAI disse ao The Verge que pausou o treinamento de seus modelos mais capazes e só o retomará quando estiver confiante de que haverá salvaguardas adicionais. A empresa também afirmou que governos devem estabelecer padrões robustos para a IA e que pretende trabalhar com a Flórida e outros estados. O pedido ocorre após o lançamento do ChatGPT para adolescentes, que tem restrições adicionais ativadas por padrão.
Por que importa · interpretação editorial
O pedido coloca em disputa regulatória a forma como o ChatGPT se apresenta aos usuários e as condições para desenvolver novos modelos. Também conecta essas questões à proteção de adolescentes e ao uso de interações para treinamento, enquanto a OpenAI afirma ter pausado o treinamento de seus modelos mais capazes até adotar salvaguardas adicionais.
Fontes
RegulaçãoSegurançaSociedade