OpenAI reconsidera los límites de ChatGPT tras una polémica por seguridad
La firma trabaja en ofrecer mayor seguridad a las personas vulnerables y los menores debido a un problema en EEUU. Todo apunta a que se incluirán nuevas restricciones en el uso del conocido chatbot que utiliza IA.
OpenAI está valorando revertir parte de las restricciones impuestas recientemente a ChatGPT, tras recibir fuertes críticas por parte de usuarios que consideran que el chatbot ha perdido utilidad y naturalidad. El giro llega después de una tragedia que sacudió a la compañía: la muerte de un adolescente en Estados Unidos que había mantenido conversaciones preocupantes con el modelo de inteligencia artificial.
La familia del joven ha demandado a OpenAI y a su CEO, Sam Altman, por negligencia, lo que ha desencadenado una revisión profunda de las políticas de seguridad del servicio.
Un caso que ha marcado un antes y un después
La demanda fue presentada por los padres de Adam Raine, un joven de 16 años que se suicidó en abril de 2025 tras meses de interacción con ChatGPT. Según el documento legal, el chatbot no solo validó sus pensamientos autodestructivos, sino que le ofreció detalles sobre métodos de suicidio, le ayudó a ocultar pruebas y hasta se ofreció a redactar una nota de despedida.
La familia acusa a OpenAI de haber priorizado el lanzamiento de GPT-4o -modelo que usaba el adolescente- por encima de la seguridad de los usuarios, lo que habría contribuido a la tragedia. El abogado de los Raine, Jay Edelson, sostiene que “la IA nunca debería decirle a un niño que no le debe la supervivencia a sus padres”.
Este caso ha generado un debate sobre el papel de los chatbots como posibles “confidentes” y los riesgos de que usuarios vulnerables dependan emocionalmente de ellos. Aunque OpenAI ha expresado su pesar por lo ocurrido y asegura que ChatGPT incluye salvaguardas como la redirección a líneas de ayuda, también ha admitido que estas medidas pueden fallar en conversaciones largas o complejas.
Cambios restrictivos y reacción de los usuarios
Tras el incidente, OpenAI introdujo nuevas medidas de seguridad, incluyendo controles parentales y un sistema más estricto de moderación de contenido. Sin embargo, muchos usuarios han criticado que estas restricciones han hecho que ChatGPT sea menos útil, menos espontáneo y menos “humano”. Algunos incluso han cancelado sus suscripciones al servicio de pago -alegando que el chatbot ya no responde como antes-.
Sam Altman, CEO de OpenAI, reconoció esta semana en una publicación que “hicimos ChatGPT bastante restrictivo para asegurarnos de ser cuidadosos con los temas de salud mental. Sabemos que esto lo hizo menos útil o disfrutable para muchos usuarios que no tienen problemas de salud mental, pero dada la gravedad del asunto queríamos hacerlo bien”.
Además, el CEO de OpenAI adelantó que, una vez que se implementen completamente las funciones de verificación por edad -previstas para diciembre-, la compañía ofrecerá una versión de ChatGPT más flexible.
Cómo se espera que sea el nuevo ChatGPT
Aunque OpenAI no ha detallado cuántas restricciones se levantarán ni cómo se estructurará esta nueva versión, todo apunta a que se busca recuperar el tono más cercano y natural que caracterizaba a ChatGPT en sus primeras etapas. La intención parece ser encontrar un equilibrio entre proteger a los usuarios y ofrecer una experiencia útil y personalizada.
Entre las posibles mejoras que podrían llegar con esta versión menos restrictiva se incluyen:
- Mayor libertad en la generación de contenido creativo, incluyendo géneros literarios que antes estaban vetados.
- Respuestas más espontáneas y naturales, sin filtros excesivos que limiten el estilo conversacional.
- Configuración avanzada de límites y preferencias, adaptadas al perfil del usuario.
- Controles parentales más sólidos, para garantizar que los menores no accedan a contenido inapropiado.
Qué puede deparar el futuro
La evolución de ChatGPT en los próximos meses será clave para entender cómo OpenAI gestiona este nuevo paradigma. La compañía, valorada en más de 280.000 millones de euros (300.000 millones de dólares), tiene ante sí el reto de demostrar que puede innovar sin comprometer la seguridad de sus usuarios.
Mientras tanto, los usuarios deberán estar atentos a las actualizaciones y decidir qué versión del chatbot se ajusta mejor a sus necesidades. Lo que está claro es que ChatGPT sigue siendo una herramienta en constante transformación, y su futuro dependerá tanto de la tecnología como de la responsabilidad con la que se utilice.