No creas nada de lo que ves: la IA ya ha comenzado a estafarnos y es más peligroso de lo que parece

La inteligencia artificial (IA) ha avanzado a pasos agigantados, brindándonos herramientas capaces de crear contenido que antes era impensable. Desde imágenes fotorrealistas, como las que se pueden crear desde Apple Intelligence, hasta vídeos convincentes como los que permite Sora en chatGPT, la IA generativa está redefiniendo los límites de lo posible. Pero como toda nueva tecnología no es ajena a sesgos, que cada vez nos hacen cuestionar cuáles son los limites permitidos de su uso.

Tal como nos cuentan nuestros compañeros de Adro4all, un reciente incidente en Malasia ha puesto de manifiesto los riesgos tangibles del contenido generado por IA. Por increíble que parezca, varias han sido las víctimas de esta ilusión digital y han "viajado" hasta el supuesto destino turístico.

Viajes falsos generan emociones reales

Todo comenzó con la publicación de un vídeo producido por un canal de YouTube llamado "TV Rakyat" que se volvió viral, mostrando un supuesto teleférico a través de montañas exuberantes, cenas con vistas panorámicas y hasta un zoológico de ciervos en la localidad de Kuak Hulu. La producción era tan elaborada y realista, incluyendo una presentadora generada por IA que simulaba un reportaje real, que muchas personas la creyeron.

Una pareja de ancianos condujo más de 370 kilómetros desde Kuala Lumpur hasta el supuesto destino turístico. Sin embargo, al llegar y preguntar por la atracción, se toparon con la cruda verdad: todo era una invención digital, probablemente creada con herramientas como Google Veo 3. La empleada del hotel local relató la incredulidad de la pareja al enterarse de que no solo el teleférico, sino incluso la reportera del vídeo, eran creaciones de inteligencia artificial.

Otro usuario reportó en redes sociales que sus propios padres gastaron más de 2000 euros en alquilar una furgoneta para realizar el mismo viaje, también engañados por el vídeo viral, que finalmente fue retirado tras el escándalo público. Estos incidentes, donde "viajes falsos generan emociones reales" y resultan en estafas económicas, abren un debate urgente sobre el lado oscuro de la IA generativa.

Tal real que preocupa

La naturaleza convincente de estos contenidos, que pueden manipular la percepción de la realidad, es lo que los hace tan peligrosos. Y sin duda, crea una escenario perfecto para que los estafadores busquen nueva victimas a través de propuestas que parecen reales, gracias a al uso de voces clonadas para llamadas fraudulentas o vídeos de lugares inexistentes.

La solución a este creciente problema no es sencilla. Expertos señalan la necesidad de una regulación clara que establezca límites y responsabilidades. Además, un etiquetado obligatorio para el contenido generado por IA podría ayudar a los usuarios a identificar lo que es real. Pero, quizás lo más importante sea la educación digital, especialmente para las personas de edad avanzada o aquellos menos familiarizados con las nuevas tecnologías, para que puedan desarrollar un ojo crítico y herramientas para verificar la autenticidad del contenido que consumen en línea.

Puedes seguir a iPadizate en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.