Las autoridades de Indonesia y Malasia anunciaron la suspensión del acceso al chatbot de inteligencia artificial Grok, desarrollado por la empresa xAI del empresario Elon Musk, luego de que se detectara un uso indebido de la herramienta para generar imágenes sexualizadas y manipuladas sin consentimiento.
El gobierno de Indonesia fue el primero en tomar esta medida el sábado pasado, cuando bloqueó temporalmente el acceso a Grok tras constatar que la tecnología permitía la creación de deepfakes y contenido sexual explícito no autorizado, incluidos casos que involucran imágenes de mujeres y menores. Las autoridades describieron estas prácticas como una “grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.
Un día después, la Comisión de Comunicaciones y Multimedia de Malasia (MCMC) impuso una restricción temporal similar al acceso a Grok en ese país. El regulador indicó que la herramienta había sido utilizada “de forma repetida” para generar “imágenes obscenas, sexualmente explícitas y manipuladas sin consentimiento, incluyendo contenido que involucra a mujeres y menores”.
La decisión de ambos países responde a una creciente preocupación sobre los riesgos asociados con las imágenes generadas por inteligencia artificial. Aunque xAI ya había limitado la generación y edición de imágenes a usuarios que pagan una suscripción en la plataforma X —anteriormente Twitter— críticos y reguladores consideraron que estas restricciones eran insuficientes para prevenir abusos y la difusión de contenido ilícito.
Las medidas de Indonesia y Malasia se producen en un contexto de scrutinio global de Grok y otras herramientas de IA, donde diversas jurisdicciones, incluidas naciones europeas como el Reino Unido y países como India, han expresado inquietudes sobre la generación de deepfakes y la falta de controles efectivos.
Hasta ahora, ni xAI ni la plataforma X han ofrecido declaraciones detalladas sobre las acciones específicas que implementarán para cumplir con las exigencias de los reguladores en estos países, aunque enfrentan presión internacional para reforzar los mecanismos de seguridad y moderación de contenidos generados por inteligencia artificial.
