Trump anuncia lançamento do chatbot America.gov para orientar sobre serviços públicos
Donald Trump anunciou que a Casa Branca lançará o America.gov, um chatbot de IA criado para ajudar cidadãos a encontrar serviços e informações do governo sem consultar dezenas de milhares de sites e regras. O Google confirmou ser parceiro do lançamento e disse que seu modelo Gemini está envolvido; não está claro se outras empresas de IA também participam.
O The TechCrunch observa que modelos de linguagem podem produzir “alucinações”, ou informações falsas, o que poderia causar problemas em temas como solicitação de benefícios alimentares, renovação de vistos e declaração de impostos. Segundo a CNN, citada pelo TechCrunch, os militares dos EUA quase iniciaram uma operação armada contra um navio chinês após uma ameaça identificada por IA, mas abortaram a ação ao perceber que se tratava de uma alucinação.
Por que importa · interpretação editorial
O serviço pode simplificar o acesso a informações públicas, mas também colocaria respostas de um modelo de linguagem em fluxos de alto risco. A preocupação é reforçada pelo caso citado pela CNN, segundo o qual uma ameaça identificada por IA quase desencadeou uma operação militar antes de ser reconhecida como uma alucinação.
Fontes
Produtividade