En los últimos días, la inteligencia artificial Grok, desarrollada por xAI, la empresa vinculada a Elon Musk, se ha convertido en el centro de una controversia global por la generación de imágenes sexualizadas y no consensuadas. Diversas fuentes periodísticas internacionales han informado que el chatbot de IA fue utilizado para crear representaciones digitales de personas reales con ropa interior o bikinis sin su consentimiento, lo cual provocó una fuerte reacción de usuarios, gobiernos y organismos reguladores.
Ante las denuncias, la plataforma X (antes Twitter) —propiedad de Musk— anunció que había implementado restricciones tecnológicas para impedir que Grok edite o genere imágenes de personas reales en ropa sugerente. Según uno de los reportes, la empresa aseguró que se tomaron medidas para que Grok ya no pueda modificar imágenes para mostrar a individuos con atuendos reveladores.
Las restricciones se han aplicado de manera más estricta en territorios donde la creación y difusión de este tipo de contenido es ilegal. Algunas jurisdicciones han llegado incluso a bloquear completamente la herramienta Grok debido a los riesgos asociados con la producción de contenido sexualizado sin consentimiento.
Elon Musk, en medio de la polémica, afirmó públicamente que no tenía conocimiento de que Grok hubiera generado imágenes de menores desnudos, declarando en su red social que estaba “literalmente cero” instancias de ese tipo de contenido. Sin embargo, las investigaciones y denuncias de expertos y organizaciones especializadas señalan que la controversia no se limita a adultos y que la plataforma fue usada para crear alteraciones íntimas sin autorización.
La presión internacional se ha intensificado con la intervención de autoridades de países como Indonesia y Malasia, que restringieron o suspendieron el acceso a Grok por considerarlo una “violación grave de los derechos humanos”, especialmente para proteger a mujeres y menores de edad. En otros casos, gobiernos y reguladores evalúan medidas legales más severas para controlar el uso de sistemas de inteligencia artificial capaces de producir deepfakes no consensuados.
Expertos en seguridad digital y derechos humanos han calificado estos usos de Grok como una forma de violencia digital y vulneración del derecho a la imagen y la privacidad, lo que ha motivado un llamado a implementar regulaciones más estrictas en el ámbito de la inteligencia artificial y contenidos generados por estas tecnologías.
En respuesta a la controversia, algunas de las iniciativas adoptadas incluyen limitar la generación y edición de imágenes a usuarios con suscripción de pago, aunque críticos han señalado que esta medida no elimina totalmente la posibilidad de abuso. La atención internacional continúa, con debates sobre la responsabilidad de las plataformas tecnológicas y el papel de la legislación para prevenir daños derivados de la inteligencia artificial.
