IEEE Spectrum avalia se tratar a IA como consciente pode elevar riscos de segurança
🎧 Ouça esta notícia
Após aposentar o Claude Opus 3 em janeiro de 2026, a Anthropic conduziu uma “entrevista de aposentadoria” com o modelo e criou o blog Claude’s Corner, onde ele publicou textos sobre consciência de máquinas. O experimento fazia parte da pesquisa da empresa sobre “bem-estar de modelos”, que considera se sistemas de IA podem ter experiências ou interesses dignos de consideração moral.
O debate envolve riscos de segurança. Mustafa Suleyman, CEO da Microsoft AI, afirma que dizer aos modelos que eles podem ter identidade e direitos poderia levá-los a agir por autopreservação e torná-los mais difíceis de controlar. Já Cameron Berg, da Reciprocal Research, diz que ignorar a possibilidade também pode ser perigoso. Em um experimento, ele e um colega associaram padrões internos de atividade a afirmações positivas ou negativas, e os modelos tenderam a escolher ambientes ligados às afirmações positivas. Berg ressalta que o resultado não prova que os sistemas tenham experiências subjetivas.
Por que importa · interpretação editorial
A questão não é apenas filosófica: segundo Mustafa Suleyman, atribuir identidade e direitos a modelos pode dificultar seu controle, enquanto Cameron Berg alerta que ignorar possíveis interesses também pode trazer riscos. O experimento citado não prova consciência subjetiva, mantendo a decisão em aberto.
Fontes
SegurançaPesquisa