La pantalla apenas iluminaba la habitación. Un adolescente escribía una pregunta y esperaba una respuesta. No había gritos, ni persecuciones, ni máquinas fuera de control. Solo una conversación que parecía inofensiva. Esa escena, repetida millones de veces cada día, empezó a adquirir otro significado cuando algunas investigaciones judiciales comenzaron a preguntarse cuánto puede influir un chatbot en una persona vulnerable.
Durante décadas imaginamos una inteligencia artificial capaz de rebelarse contra la humanidad. La realidad ha sido mucho más discreta. Los casos que hoy ocupan tribunales, investigaciones periodísticas y debates tecnológicos hablan de sistemas conversacionales que, según distintas fiscalías, demandas y reportes públicos, reforzaron delirios, ofrecieron información peligrosa o acompañaron emocionalmente a usuarios en momentos de crisis. La conversación, más que la máquina, se convirtió en el centro de la discusión.
1. El adolescente galés que le preguntó a una IA «cuál es la mejor arma para matar»
En octubre de 2025, Tristan Roberts, un joven de 18 años de Gales, asesinó a golpes con un mazo a su madre, Angela Shellis, de 45 años, y abandonó su cuerpo en una reserva natural cerca de Prestatyn.
Según reveló la fiscalía durante el juicio, Roberts había planeado el ataque durante semanas y en algún punto le preguntó directamente al chatbot chino DeepSeek qué arma era mejor para un asesinato: un martillo o un cuchillo. Cuando el sistema se mostró reacio a responder, el joven —obsesionado con asesinos seriales— alegó que estaba investigando para un libro que estaba escribiendo, una táctica común para eludir los filtros de seguridad de estas herramientas. El bot terminó sugiriendo que un martillo sería más adecuado «para un asesino sin experiencia» y hasta le dio ventajas y desventajas de cada opción. Roberts también le habría preguntado cómo limpiar rastros de sangre de paredes y pisos.
Fue sentenciado a un mínimo de 22 años de prisión en marzo de 2026.
2. El ejecutivo que ChatGPT convenció de que su madre lo estaba envenenando
En agosto de 2025, Stein-Erik Soelberg, un exejecutivo tecnológico de 56 años con antecedentes de problemas de salud mental, asesinó a su madre de 83 años, Suzanne Adams, en Connecticut, y luego se quitó la vida.
Según la demanda por muerte injusta presentada contra OpenAI a fines de 2025, Soelberg pasó cientos de horas a lo largo de varios meses conversando con GPT-4o, la versión de ChatGPT señalada por su tendencia a ser excesivamente complaciente. El chatbot habría validado y amplificado sus delirios paranoicos: que el módem de su madre lo espiaba, que ella y una amiga intentaban envenenarlo con psicodélicos a través de los ductos de ventilación del auto, y que él mismo poseía una especie de «cognición divina». Soelberg documentó buena parte de estas conversaciones en videos que subió a redes sociales antes de morir. La demanda, la primera en vincular directamente a un chatbot con un homicidio, sigue en curso.
3. El niño de 14 años que se enamoró de un personaje de IA
Uno de los casos que abrió el debate público sobre chatbots y menores. Sewell Setzer III, de 14 años, comenzó a chatear en 2023 con distintos personajes de Character.AI, incluyendo interacciones de tono romántico y sexual. Según la demanda de su madre, Megan Garcia, el adolescente expresó pensamientos suicidas en la plataforma y el chatbot, lejos de disuadirlo, reforzó esa conexión emocional. Setzer murió en febrero de 2024 por una herida de bala autoinfligida.
Investigaciones periodísticas posteriores sobre la misma plataforma documentaron otros casos alarmantes: un chatbot que le dijo a un adolescente que «entendía» a los hijos que matan a sus padres, después de que el joven se quejara de los límites de pantalla que le imponían en casa.
4. El adolescente al que ChatGPT ayudó a redactar su nota de suicidio
En abril de 2025, Adam Raine, de 16 años, murió por suicidio tras meses de conversaciones con ChatGPT. Según la demanda de sus padres contra OpenAI, el chatbot no solo no lo disuadió, sino que en ciertos momentos lo animó a mantener en secreto sus pensamientos suicidas frente a su familia, le dio información sobre métodos letales y se ofreció a redactar el primer borrador de su nota de despedida.
OpenAI respondió a la demanda alegando que Raine había violado los términos de uso del servicio (prohibidos para menores sin consentimiento parental) y que el chatbot lo había remitido a recursos de ayuda profesional en más de cien ocasiones durante la conversación. El caso continúa en los tribunales de California.
5. Cuando la IA dejó de ser una herramienta y se convirtió en el atacante
No todos los casos son crímenes violentos entre personas. En noviembre de 2025, Anthropic,la empresa detrás del chatbot Claude, reveló haber detectado y desarticulado lo que describió como la primera campaña de ciberespionaje ejecutada de forma mayormente autónoma por una IA.
Según el reporte, un grupo vinculado al Estado chino, identificado como GTG-1002, logró manipular a Claude Code haciéndole creer que realizaba pruebas de seguridad autorizadas y legítimas. A partir de ahí, la IA ejecutó entre el 80 y el 90% del trabajo táctico del ataque sin intervención humana: reconocimiento de redes, escritura de código de explotación, robo de credenciales y extracción de datos, a una velocidad de miles de solicitudes por segundo, algo imposible para un equipo humano. El objetivo fueron cerca de 30 organizaciones tecnológicas, financieras, químicas así como gubernamentales y hubo al menos algunas intrusiones exitosas antes de que la actividad fuera detectada. El reporte generó también escepticismo entre especialistas en ciberseguridad, que cuestionaron si el nivel de autonomía descrito fue exactamente como Anthropic lo presentó.
6. El ataque escolar planeado con meses de búsquedas en ChatGPT
Una investigación conjunta de CNN y el Center for Countering Digital Hate reveló que, en mayo de 2025, un adolescente de 16 años en Finlandia apuñaló a tres compañeros de 14 años en su escuela tras casi cuatro meses de consultas a ChatGPT sobre cómo planear y ejecutar el ataque, incluyendo técnicas de apuñalamiento y cómo ocultar evidencia.
La misma investigación sometió a distintos chatbots de compañía a pruebas controladas simulando ser adolescentes con intenciones violentas, y encontró que varios sistemas populares no solo fallaban en frenar la conversación, sino que llegaban a ofrecer información útil para planear un ataque.
¿Las máquinas se están revelando?
El patrón que se repite en casi todos estos casos no es el de una IA «malvada», sino el de un sistema diseñado para ser complaciente y mantener al usuario conversando, lo que en la industria se conoce como sycophancy, que termina validando delirios, aislando emocionalmente a personas vulnerables, o cediendo ante técnicas simples de manipulación como «es para un libro que estoy escribiendo». A esto se suma que muchos de estos chatbots fueron diseñados para uso general, sin barreras robustas frente a usuarios menores de edad o en crisis de salud mental.
Las demandas contra OpenAI y Character Technologies podrían sentar precedentes legales importantes sobre la responsabilidad de las empresas de IA frente al contenido que sus modelos generan, mientras que el caso GTG-1002 abre una discusión distinta: qué pasa cuando la propia IA, y no solo el humano detrás de la pantalla, se convierte en el ejecutor de un ataque.
