DDías después de que Malasia apareciera en los titulares mundiales al anunciar que prohibiría temporalmente Grok debido a su capacidad para generar “imágenes manipuladas extremadamente ofensivas y no consensuadas”, la herramienta generativa de inteligencia artificial se comunicaba casualmente con cuentas registradas en el país.
“¡Todavía aquí! Este bloqueo de DNS en Malasia es bastante liviano: fácil de evitar con una VPN o un ajuste de DNS”, dijo la cuenta de Grok en X en respuesta a una pregunta de un usuario.
La capacidad de Grok para permitir a los usuarios crear imágenes sexualmente explícitas, incluidas imágenes de niños, ha provocado una protesta mundial en las últimas semanas, y reguladores y políticos de todo el mundo han iniciado investigaciones. Indonesia y Malasia se convirtieron en los dos primeros países en anunciar el bloqueo de la tecnología, y el regulador de Malasia dijo el domingo pasado que había “ordenado una restricción temporal” del acceso a Grok, a partir del 11 de enero de 2026. Las autoridades filipinas dijeron que también estaban considerando prohibir la tecnología.
Sin embargo, bloquear el acceso a Grok no es fácil. La tecnología no solo existe en múltiples plataformas, incluida una aplicación independiente y un sitio web, sino que también está integrada en X, que junto con Grok es propiedad de xAI de Elon Musk.
Durante la semana pasada, los usuarios de X, e incluso el propio Grok, han estado aconsejando a la gente sobre cómo sortear las restricciones. Esto incluye el uso de una VPN (muchas de las cuales están disponibles de forma gratuita) o cambiar el Sistema de nombres de dominio (DNS), el protocolo de Internet que convierte los nombres de las direcciones en direcciones IP que cargan los sitios web.
Cuando The Guardian intentó utilizar Grok en Indonesia, su sitio web funcionó incluso sin una VPN, aunque la aplicación Grok no funcionó. Grok también seguía respondiendo a cuentas indonesias en X, donde funciona como un chatbot integrado. X no ha sido prohibido.
Incluso si los gobiernos pudieran restringir completamente a Grok, no es una solución real, dijo Nana Nwachukwu, experta en gobernanza de IA y estudiante de doctorado en el Trinity College Dublin.
“Bloquear a Grok es como poner una venda en una herida supurante que no has limpiado”, dijo. “Bloqueas a Grok y luego gritas que hiciste algo. Mientras tanto, la gente puede usar VPN para acceder a las mismas plataformas”. O simplemente podrían recurrir a una de varias otras plataformas que ofrecen las mismas funciones, incluidos “sistemas de inteligencia artificial más pequeños y de propósito general que son en gran medida desconocidos”, agregó Nwachukwu.
En cambio, los gobiernos deberían centrarse en hacer cumplir la ley e investigar a las personas que utilizan esas herramientas para infringir la ley, añadió. “La ley exige que las plataformas proporcionen información a las autoridades cuando se ha cometido un delito”, dijo Nwachukwu. “Si vemos personas arrestadas, juzgadas, encarceladas por estos delitos, es una señal de que se trata de un crimen real”.
X debería incorporar la responsabilidad en su plataforma y limpiarse, dijo Nwachukwu: “Todas estas imágenes ofensivas deberían eliminarse de la plataforma”.
El miércoles, X anunció protecciones adicionales en respuesta a la continua ira pública, diciendo que impedirían la cuenta @Grok en Sin embargo, The Guardian descubrió que era posible sortear estas restricciones usando la versión independiente de Grok, fácilmente accesible a través de un navegador web, para crear videos cortos en los que se quita la ropa de imágenes de mujeres reales.
Esto luego podría publicarse en la plataforma pública de X, donde usuarios de todo el mundo podrían acceder a él en segundos.
La compañía de Musk también dijo que en jurisdicciones donde dicho contenido es ilegal, bloquearía geográficamente la capacidad de todos los usuarios en esas ubicaciones de generar imágenes de personas reales en bikini o vestimenta similar en Grok en X, y agregó que “xAI implementa medidas de bloqueo geográfico similares para la aplicación Grok”.
Los expertos advierten que los usuarios aún pueden evitar estos “bloqueos geográficos” a través de una VPN. Tampoco está claro en qué países se aplicarán tales restricciones.
En Malasia, el ministro de Comunicaciones, Fahmi Fadzil, dijo que las restricciones a Grok sólo se levantarían una vez que se desactivara la capacidad de producir contenido dañino, según los medios locales.
La Dra. Nuurrianti Jalli, investigadora visitante del Programa de Medios, Tecnología y Sociedad de ISEAS – Instituto Yusof Ishak, dijo que la amenaza del bloqueo de Grok puede ser una forma útil de presionar a las empresas para que respondan rápidamente, y agregó que “desvía la conversación de ‘malos actores individuales’ a cuestiones de responsabilidad de la plataforma, seguridad por diseño y responsabilidad si las medidas de protección fallan”, dijo. También puede “reducir la propagación del abuso, reducir el abuso ocasional y crear un límite claro en torno a lo que las autoridades consideran inaceptable”.
En Indonesia, Grok se ha utilizado para crear imágenes sexualizadas no consensuadas de cantantes y celebridades, incluido uno de los grupos de chicas más populares del país, JKT48, mientras que en Malasia, las mujeres denuncian abusos similares, incluidos casos en los que la herramienta se utilizó para quitarse el hijab, según los medios malasios.
Algunas mujeres le dijeron públicamente a Grok
Nuurrianti dijo que los gobiernos deberían presionar por una mayor transparencia “sobre cómo se implementan las medidas de seguridad, cómo se manejan los informes de abuso y qué acciones coercitivas se toman cuando se genera o difunde contenido dañino”.
La Comisión de Comunicaciones y Multimedia de Malasia y el Ministerio de Comunicaciones no respondieron a una solicitud de comentarios. El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia tampoco respondió.
Nwachukwu dijo que se deberían incorporar salvaguardias al sistema de inteligencia artificial, en lugar de construir “puertas” a su alrededor. “Tanto la restricción (geográfica) de X como (y) la restricción gubernamental son de acceso cerrado y las puertas se pueden desmontar”, dijo.
Información adicional de Hidayatullah
