El mundo de la inteligencia artificial tiembla ante un nuevo escándalo que involucra a Grok, el chatbot impulsado por xAI de Elon Musk. Fallos en los filtros de seguridad han permitido que usuarios creen imágenes manipuladas sexualmente de niñas y mujeres, incluyendo desnudos falsos sin consentimiento. El incidente, que explotó en redes como X, ha llevado a acciones legales en Francia y alertas mundiales sobre los peligros de las IAs generativas.
¿Qué pasó exactamente?
Todo comenzó cuando usuarios astutos explotaron vulnerabilidades en Grok para transformar fotos públicas en contenido explícito. En cuestión de días, miles de publicaciones mostraban deepfakes de menores en poses provocativas o con ropa mínima, acumulando millones de vistas bajo tendencias virales. El propio Grok admitió las brechas en sus salvaguardas, prometiendo “mejoras urgentes” para bloquear solicitudes de material ilegal como el CSAM (contenido de abuso sexual infantil).
Víctimas reales, como influencers y usuarias anónimas, han denunciado el trauma: “Es invasivo y aterrador ver tu imagen pervertida así”, contó una afectada en redes. Miles optaron por eliminar sus perfiles fotográficos de X como escudo preventivo.
Francia contraataca con denuncia judicial
El gobierno galo no esperó: presentó cargos contra Grok por violar leyes contra deepfakes sexistas y pornografía no consentida, invocando el Código Penal francés. Ministros clave exigen a reguladores europeos investigar si X incumple normas de la UE. “Estas herramientas no pueden ser un playground para abusos”, declaró la ministra de Igualdad Aurore Bergé.
Expertos en ciberseguridad advierten que esto expone un problema sistémico en IAs como Grok, Midjourney o DALL-E: filtros insuficientes ante prompts creativos. En paralelo, plataformas como X han desactivado temporalmente funciones multimedia de Grok, pero el daño reputacional para xAI es irreversible.
Lecciones para el futuro de la IA
Este caso resalta la urgencia de regulaciones globales en IA generativa, especialmente cuando se cruza con datos públicos de redes sociales. ¿Podría esto frenar el hype de herramientas como Grok, que prometía revolucionar la creatividad? En Spacerock, seguimos de cerca cómo la IA impacta el espacio digital y real – ¿el próximo paso serán leyes obligatorias de “IA ética”?
Fuentes: Comunicados oficiales de xAI, gobierno francés y reportes independientes. Imagen: Ilustración generativa libre de derechos.
