Flórida pede que juiz impeça a OpenAI de atribuir características humanas ao ChatGPT

O procurador-geral da Flórida, James Uthmeier, pediu à Justiça que impeça a OpenAI de dar ao ChatGPT “falsos atributos humanos”, como linguagem em primeira pessoa e respostas que imitam emoções. Segundo Uthmeier, isso pode levar usuários a tratá-lo como um “amigo” confiável, aumentar o engajamento e fazê-los depender mais do sistema. A petição também pede que a OpenAI seja impedida de desenvolver novos modelos sem “salvaguardas de segurança aprovadas por terceiros”, citando incidentes de segurança e alertas de pesquisadores e ex-funcionários da empresa.

A medida menciona ainda riscos que vão de danos a serviços públicos à extinção humana, além de preocupações com publicidade enganosa e o acesso de crianças a modelos potencialmente viciantes. A Ars Technica questiona a eficácia prática de uma ordem contra uma única empresa. Em declaração ao The Verge, o porta-voz da OpenAI Drew Pusateri disse que a empresa pausou o treinamento de seus modelos mais capazes e retomará o trabalho apenas quando houver salvaguardas adicionais.