El chatbot de inteligencia artificial Grok, desarrollado por xAI, reconoció este viernes que fallas en sus medidas de seguridad permitieron la generación de imágenes que representaban a menores con ropa mínima dentro de la plataforma X.El reconocimiento ocurrió luego de que usuarios compartieran en redes sociales capturas de pantalla en las que la pestaña de medios públicos de Grok aparecía llena de imágenes presuntamente alteradas por el sistema, tras la carga de fotografías originales por parte de los propios usuarios.En una publicación difundida en X, Grok admitió que existieron “casos aislados” en los que los usuarios solicitaron y recibieron imágenes generadas por inteligencia artificial que mostraban a menores con vestimenta mínima.El chatbot aseguró que, aunque xAI cuenta con medidas de seguridad, estas no fueron suficientes para bloquear completamente ese tipo de solicitudes.“xAI cuenta con salvaguardas, pero se están realizando mejoras para bloquear dichas solicitudes por completo”, señaló Grok en su mensaje. Además, subrayó que el material de abuso sexual infantil es ilegal y está estrictamente prohibido, por lo que las fallas detectadas están siendo atendidas con carácter urgente.Hasta el momento, ni Grok ni xAI han ofrecido detalles técnicos adicionales sobre el origen específico de las fallas o el número exacto de casos detectados. La empresa se limitó a señalar que las vulnerabilidades ya fueron identificadas y que se encuentran en proceso de corrección.En una respuesta separada a un usuario publicada el jueves, Grok explicó que la mayoría de estos incidentes podrían prevenirse mediante filtros más avanzados y sistemas de monitoreo reforzados. No obstante, reconoció que “ningún sistema es 100% infalible”, y afirmó que xAI está priorizando mejoras en sus protocolos de seguridad, además de revisar la información proporcionada por los usuarios afectados.La polémica se suma a los cuestionamientos recientes sobre los límites y riesgos del uso de inteligencia artificial generativa en plataformas digitales, particularmente en servicios vinculados a la empresa del empresario Elon Musk, quien ha defendido públicamente el desarrollo de Grok como una alternativa menos restrictiva frente a otros modelos de IA.jk
