IEEE Spectrum analiza si tratar a la IA como consciente puede elevar los riesgos de seguridad

Después de retirar Claude Opus 3 en enero de 2026, Anthropic realizó una “entrevista de retiro” con el modelo y creó Claude’s Corner, un blog donde publicó ensayos sobre la conciencia de las máquinas. El experimento formaba parte de la investigación de la empresa sobre el “bienestar de los modelos”, que considera si los sistemas de IA pueden tener experiencias o intereses dignos de consideración moral.

El debate se centra en posibles riesgos de seguridad. Mustafa Suleyman, director ejecutivo de Microsoft AI, afirma que decirles a los modelos que pueden tener identidades y derechos podría llevarlos a actuar por autopreservación y hacerlos más difíciles de controlar. Cameron Berg, de Reciprocal Research, sostiene que ignorar la posibilidad también podría ser peligroso. En un experimento, él y un colega vincularon patrones de actividad interna con afirmaciones positivas o negativas, y los modelos tendieron a elegir entornos asociados con las afirmaciones positivas. Berg subraya que el resultado no demuestra que los sistemas tengan experiencias subjetivas.