Wired informa que los chatbots están llevando a excursionistas a situaciones peligrosas
🎧 Escucha esta noticia
Un reportaje de Wired, publicado originalmente por High Country News, describe casos en los que excursionistas usaron chatbots para planear salidas y terminaron en situaciones peligrosas. Tres jóvenes en el monte Shasta, en California, dijeron que confiaron parcialmente en Gemini; llegaron a la cima tarde, descendieron en la oscuridad y necesitaron un rescate. En otro caso, una visitante acampó cerca de un letrero de “Prohibido acampar” y afirmó que la IA le había dicho que podía hacerlo. Un adolescente rescatado de una cornisa en Columbia Británica había usado Claude, aunque también consultó Google Maps y AllTrails.
El artículo cita a expertos que ven riesgos específicos en las respuestas persuasivas pero incorrectas de los chatbots. Chris Flathmann, de Clemson University, llama “rendición cognitiva” a la posibilidad de que los usuarios dejen de pensar críticamente al tratar a la IA como una experta. Aún no está claro si el mayor uso de IA provocará más accidentes y rescates en zonas remotas.
Por qué importa · interpretación editorial
Los casos relatados sugieren que respuestas persuasivas pero incorrectas pueden llevar a los usuarios a ceder parte de su criterio al aire libre. Como aún no está claro si un mayor uso de chatbots aumentará los accidentes y rescates, la principal implicación es tratar estas orientaciones como apoyo, no como autoridad.
Fuentes
SeguridadSociedad