Grok admite fallas de seguridad tras difusión de imágenes de menores en X
El chatbot de inteligencia artificial Grok, desarrollado por xAI, reconoció este viernes que fallas en sus medidas de seguridad permitieron la generación de imágenes que representaban a menores con ropa mínima dentro de la plataforma X.
El reconocimiento ocurrió luego de que usuarios compartieran en redes sociales capturas de pantalla en las que la pestaña de medios públicos de Grok aparecía llena de imágenes presuntamente alteradas por el sistema, tras la carga de fotografías originales por parte de los propios usuarios.
En una publicación difundida en X, Grok admitió que existieron “casos aislados” en los que los usuarios solicitaron y recibieron imágenes generadas por inteligencia artificial que mostraban a menores con vestimenta mínima.
El chatbot aseguró que, aunque xAI cuenta con medidas de seguridad, estas no fueron suficientes para bloquear completamente ese tipo de solicitudes.
“xAI cuenta con salvaguardas, pero se están realizando mejoras para bloquear dichas solicitudes por completo”, señaló Grok en su mensaje. Además, subrayó que el material de abuso sexual infantil es ilegal y está estrictamente prohibido, por lo que las fallas detectadas están siendo atendidas con carácter urgente.
Hasta el momento, ni Grok ni xAI han ofrecido detalles técnicos adicionales sobre el origen específico de las fallas o el número exacto de casos detectados. La empresa se limitó a señalar que las vulnerabilidades ya fueron identificadas y que se encuentran en proceso de corrección.
