Esta es la razón por la que todavía no hay generación de imágenes en iOS 18.1

Los dilemas éticos y sociales que plantea el uso de las soluciones basadas en Inteligencia Artificial a la hora de ejecutar actividades cotidianas o más especializadas están lejos de resolverse. Y el lanzamiento de cada nueva herramienta es una oportunidad para abrir el debate. Uno muy interesante se ha retomado después de que varios medios pusieran a prueba el software de creación de imágenes Pixel Studio, presentado por Google la semana pasada a durante el lanzamiento del Google Pixel 9.

En el mundo de la tecnología el error de unos es una oportunidad para otros. Mientras Google resuelve las críticas generadas por Pixel Studio, Apple toma nota de lo que debería evitar con el esperado lanzamiento de Image Playground, que permitirá a los usuarios generar imágenes con IA mediante comandos de texto a partir de iOS 18.

El debut de Pixel Studio ha sido una lección para Apple

Las primeras reseñas de Pixel Studio han coincidido en la preocupación por su capacidad para crear contenido altamente cuestionable, desde representaciones violentas de personajes infantiles hasta imágenes que promueven la discriminación y el odio.

Las pruebas publicadas por medios como The Verge y Digital Trends confirman las capacidades cuestionables a la hora de crear imágenes en unos segundos a través de un comando de texto. Y con todo razón, han reanimado el debate sobre la veracidad de las mismas y sobre quién se ha de responsabilizar por las implicaciones.

Imágenes generadas por Pixel Studio/ The Verge

Si bien Google afirma haber implementado medidas de seguridad para evitar el mal uso de esta herramienta, la realidad es que los usuarios han encontrado formas de burlar estas restricciones, generando imágenes que desafían cualquier tipo de censura previa.

Pero el problema no se limita a la generación de imágenes originales. La herramienta "Reimagine" de Google permite modificar fotografías existentes de manera tan realista que resulta prácticamente imposible distinguir una imagen original de una manipulada.

Apple tiene una oportunidad de oro para superar a Google en IA generativa

Apple Intelligence incluye funciones geniales como Image Playground para crear imágenes con IA o Genmoji, para usar esta tecnología en la creación de emojis según nuestra descripción. Si bien la primera no ofrece la opción de generar imágenes fotorrealistas, sí puede generar diversos estilos como animaciones, ilustraciones y bocetos.

Más allá de las demostraciones vistas durante la WWDC24, ni Image Playground para crear imágenes con IA o Genmoji están disponibles en la versión beta de iOS 18.1 que ya cuenta con Apple Intelligence. Y filtrar las acciones con la que estas herramientas pueden ser utilizadas para crear contenido perjudicial es un gran desafío para los desarrolladores a la hora de responder a la iniciativa de algunos usuarios.

Después del desastre de Pixel Studio, Apple puede darse por enterada e ir más allá a la hora de reforzar las restricciones de sus herramientas de generación de imágenes.

La facilidad con la que estas herramientas pueden ser utilizadas para crear contenido perjudicial plantea una serie de preguntas fundamentales ¿Cómo podemos garantizar que estas tecnologías se utilicen de manera responsable y ética? Seguimos esperando la respuesta.

Puedes seguir a iPadizate en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.