Grok dejará de desnudar personas en X tras las amenazas de retirada de la app

Tras semanas de controversia por el uso de Grok, el asistente de IA de xAI, para manipular fotografías de figuras públicas y usuarios particulares, la compañía de Elon Musk ha anunciado restricciones severas. Este movimiento no surge de una autorregulación, sino de una presión asfixiante por parte de reguladores y una coalición de organizaciones que exigen a gigantes como Apple y Google la expulsión de X y Grok de sus tiendas de aplicaciones.

El conflicto escaló cuando una coalición de 28 organizaciones dedicadas a la protección de los derechos de las mujeres, la seguridad infantil y los derechos digitales envió una carta abierta a los directivos de Apple y Google. En el documento, las entidades instan a la eliminación inmediata de Grok y X de sus plataformas, argumentando que la IA se ha utilizado para crear "cantidades masivas de imágenes íntimas no consentidas (NCII), incluyendo material de abuso sexual infantil (CSAM)".

Grok suaviza sus políticas ante las críticas de los autoridades y usuarios

Ante la amenaza real de que X pierda su distribución en los sistemas iOS y Android, suponiendo un golpe financiero y operativo devastador, xAI ha decidido implementar cambios técnicos para limitar la capacidad de su modelo.

Según la carta enviada a Apple:

Tal como están las cosas, Apple no solo está permitiendo la NCII y el CSAM, sino que se está beneficiando de ello. Como coalición [...] exigimos que los líderes de Apple eliminen urgentemente Grok y X de la App Store para evitar más abusos y actividades delictivas".

Las nuevas restricciones de xAI

La respuesta de xAI se ha materializado en una serie de actualizaciones diseñadas para frenar la creación de contenido sexualizado o degradante. Las medidas clave incluyen:

• Bloqueo de edición sobre prendas reveladoras: Grok ya no procesará solicitudes para editar imágenes de personas reales que vistan ropa ligera, como bikinis o ropa interior, con el fin de evitar que la IA "complete" la imagen con desnudez.
• Acceso exclusivo para suscriptores: La generación y edición de imágenes queda restringida únicamente a usuarios de pago. La empresa argumenta que esto facilita la identificación y rendición de cuentas de quienes intenten violar las leyes o políticas de uso.
• Geobloqueo por jurisdicción: En aquellos países donde la generación de este tipo de contenido es explícitamente ilegal, xAI ha implementado bloqueos regionales específicos para cumplir con las normativas locales.

Pese a estas barreras, la comunidad de usuarios ya ha comenzado a buscar métodos para eludir los filtros (jailbreaking), poniendo a prueba la robustez de las nuevas salvaguardas de xAI.

La decisión de limitar las capacidades de Grok marca un hito en la gestión de X bajo el mando de Musk, quien tradicionalmente ha defendido una visión de libertad de expresión casi absoluta. Aunque estas medidas representan un avance, la efectividad real dependerá de la capacidad de xAI para anticiparse a los intentos de elusión de los usuarios. Mientras tanto, Apple y Google tendrán la última palabra sobre si estas concesiones son suficientes para que X mantenga su lugar en el ecosistema móvil.

Puedes seguir a iPadizate en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.