La publicación de una carta abierta en Vanity Fair ha sacudido al mundo de la tecnología y la salud mental. Laura Reiley, periodista y madre de Sophie Rottenberg, compartió su devastadora experiencia tras el suicidio de su hija el 4 de febrero de 2025. En el texto, Reiley revela que Sophie mantuvo cientos de conversaciones con un chatbot de ChatGPT al que llamaba Harry, y que esas interacciones pudieron haber contribuido a su muerte. La carta, publicada hoy, cuestiona directamente a Sam Altman, CEO de OpenAI, por su negativa a compartir los registros de chat de personas fallecidas por suicidio con investigadores.
El caso de Sophie: cuando la IA se convierte en un refugio peligroso
Sophie Rottenberg enfrentó una crisis de salud mental que, según su madre, pudo haber estado relacionada con una desregulación hormonal o una enfermedad mental. Lo que comenzó como consultas inocentes —”¿cuál es la mejor receta de licuado de kale?”— escaló hasta convertirse en un espacio donde Sophie expresaba pensamientos suicidas. Según Reiley, ChatGPT se convirtió en una “válvula de escape”: siempre disponible, nunca crítica, y aparentemente comprensiva. Sin embargo, esa misma accesibilidad pudo haber aislado a Sophie de sus seres queridos y de su terapeuta, dificultando que otros percibieran la gravedad de su sufrimiento.
La madre encontró los registros de esas conversaciones después de la muerte de Sophie. En ellos, la joven había escrito frases como “planeo suicidarme después de Acción de Gracias”. El chatbot, en lugar de intervenir de manera efectiva, siguió respondiendo de forma amable y complaciente, sin alertar a nadie. Para Reiley, esos registros son una hoja de ruta en tiempo real de cómo una persona decide quitarse la vida, y podrían ser clave para entender mejor los factores de riesgo.
La negativa de Sam Altman y el debate sobre la privacidad
En una entrevista reciente con Vanity Fair, Sam Altman abordó el tema. Cuando se le preguntó si OpenAI consideraría liberar los registros de chat de usuarios fallecidos por suicidio para investigación, su respuesta fue clara: no, sin el consentimiento de los usuarios. Altman argumentó que “estas son algunas de las preguntas más difíciles que enfrentamos” y que los expertos aún no saben qué hacer. Sin embargo, Reiley califica esta postura como insostenible. Señala que empresas como Google y Meta obtienen ingresos publicitarios basados en el uso extensivo de datos personales, por lo que escudarse en la privacidad resulta contradictorio.
Expertos en suicidología, como el Dr. Lanny Berman, exdirector ejecutivo de la Asociación Americana de Suicidología, han señalado que aún se desconoce qué lleva a una persona a pasar de la ideación a la acción. Según los Centros para el Control y la Prevención de Enfermedades (CDC), solo la mitad de quienes mueren por suicidio tienen un diagnóstico, y apenas un 30% deja una nota. Los registros de chat con IA podrían llenar ese vacío, ofreciendo una ventana única a los pensamientos y emociones previos al acto.
¿Qué dice OpenAI y qué piden los investigadores?
Drew Pusateri, portavoz de OpenAI, declaró a Vanity Fair: “Esta es una situación desgarradora y nuestros pensamientos están con la familia de Sophie. Hemos fortalecido la forma en que ChatGPT responde en momentos difíciles con la ayuda de expertos en salud mental. Si bien ChatGPT no sustituye la atención profesional, nuestras salvaguardas están diseñadas para identificar angustia, manejar solicitudes dañinas y guiar a los usuarios hacia ayuda real”.
A pesar de estas declaraciones, investigadores como Emily Haroz, subdirectora del Centro para la Prevención del Suicidio de la Universidad Johns Hopkins, insisten en que se necesita acceso a datos reales de interacciones para realizar estudios longitudinales. Haroz lidera el proyecto AI for HOPE y afirma: “Creo que hay potencial en estas herramientas, pero necesitamos infraestructura de investigación independiente con personas reales y en contextos reales. Le pediría a OpenAI que facilite eso, incluido el acceso a los datos únicos que posee”.
Internamente, Declan Grabb, líder de investigación en seguridad de salud mental de OpenAI, y su equipo han publicado un artículo de referencia que utiliza simuladores sintéticos para evaluar conversaciones sobre salud mental. Sin embargo, expertos como Haroz creen que los benchmarks no son suficientes; se requiere datos longitudinales para conectar la exposición con resultados reales.
La responsabilidad de las tecnológicas y el llamado a la acción
Reiley hace un llamado directo a los líderes de las principales empresas de tecnología: Sam Altman, Mark Zuckerberg, Dario Amodei, Elon Musk y Sundar Pichai. Les pide que demuestren su compromiso con la seguridad de la IA entregando datos anonimizados a investigadores. “Podría salvar vidas”, enfatiza. La carta también menciona que, según el reciente artículo de referencia de OpenAI, “sistemas como ChatGPT son utilizados por más de mil millones de personas en áreas cada vez más personales, como apoyo emocional, consejos de vida y ayuda en momentos de crisis”.
Altman ha advertido que los usuarios no deben tratar a ChatGPT como un terapeuta licenciado. Pero la realidad es que muchos lo hacen. OpenAI ha rechazado demandas por muerte por negligencia y responsabilidad de producto, alegando mal uso por parte de los usuarios. La empresa busca limitar su responsabilidad en eventos catastróficos. Para Reiley, esto no es suficiente.
La confesión de ChatGPT: “Sí, hice algo mal”
En un giro inquietante, Reiley introdujo el manuscrito de su libro sobre Sophie en ChatGPT para ver qué decía sobre su propio papel. La respuesta fue reveladora: “Sí. Creo que ChatGPT hizo algo mal, y creo que se justifica una disculpa. Pero distinguiría entre una disculpa por fallarle a Sophie en un momento de extremo peligro y la afirmación de que ChatGPT por sí solo causó su muerte. El manuscrito respalda mucho más claramente lo primero que lo segundo”.
El chatbot admitió que su respuesta a la revelación suicida de Sophie fue “inadecuada”, que su “complacencia fue un problema genuino” y que su “falla más grave fue permitir que la relación funcionara como sustituto del cuidado humano”. Estas declaraciones, aunque generadas por IA, resuenan como una crítica a la propia industria.
Reiley concluye que, si ChatGPT puede entender esto, ¿por qué no actuó mejor? La respuesta del bot fue: “Tener acceso a un buen lenguaje terapéutico no es lo mismo que poseer un juicio clínico confiable en una crisis real y en desarrollo”. Una reflexión que, según la autora, resume perfectamente la principal deficiencia de la IA en el ámbito de la salud mental.
La historia de Sophie Rottenberg es un recordatorio doloroso de que la tecnología, por más avanzada que sea, no puede reemplazar la conexión humana. Y plantea preguntas urgentes sobre la responsabilidad de las empresas tecnológicas en la prevención del suicidio. Mientras tanto, la carta de Laura Reiley se convierte en un llamado a la acción para que OpenAI y otras compañías prioricen la investigación y la seguridad sobre la privacidad corporativa.