OpenAI ha dado un nuevo paso en su plan para hacer de ChatGPT un espacio más seguro para los adolescentes. La compañía de Sam Altman anunció que está desarrollando un sistema capaz de identificar de forma automática si el usuario es menor de 18 años para ofrecerle una experiencia «adaptada a su edad» y bloquear contenidos sensibles, como las conversaciones sobre sexo explícito o suicidio . La medida llega tras el caso de Adam Raine , un joven estadounidense de 16 años que se quitó la vida en abril después de mantener durante meses conversaciones con el chatbot . Sus padres demandaron a OpenAI al consider que, pese a que la herramienta le ofreció en varias ocasiones recursos de ayuda, las medidas de seguridad fallaron y la conversación terminó girando en torno al suicidio. Altman ya adelantó entonces que se incorporarían nuevas protecciones para evitar que algo así volviera a suceder. Según explica la empresa en un nuevo comunicado, cuando el sistema detecte que está interactuando con un menor, por su forma de lenguaje o por las preguntas que está planteando, activará de forma automática una versión de ChatGPT 'para adolescentes', con políticas más restrictivas. Entre ellas, el bloqueo de contenido no apto para adolescentes y la posibilidad, «en casos excepcionales de angustia extrema», de alertar automáticamente a los padres o incluso a equipos de emergencia si se considera que la vida del menor corre peligro. OpenAI también ofrecerá a los adultos la opción de verificar su edad para acceder a las funciones de la versión completa de ChatGPT. «Si no estamos seguros de la edad de alguien, tomaremos la ruta más segura y activaremos la experiencia para menores», señala la compañía, que reconoce que el reto técnico de predecir la edad no es sencillo y que seguirán mejorando el sistema con ayuda de expertos y grupos de defensa de los usuarios. Además, a finales de septiembre estarán disponibles los controles parentales anunciados previamente, que permitirán a las familias vincular su cuenta con la de sus hijos adolescentes, desactivar funciones como la memoria o el historial de chat, establecer horarios de uso e incluso recibir notificaciones cuando el sistema detecte que el menor atraviesa una situación de angustia grave. Estas medidas se suman a las introducidas en agosto para mejorar la detección de crisis mentales y emocionales durante las conversaciones, agilizar el contacto con servicios de ayuda y reforzar los bloqueos de contenido. Con ellas, OpenAI busca responder a la presión de reguladores y sociedad civil para evitar que sus herramientas de inteligencia artificial puedan poner en riesgo a los usuarios más jóvenes .
