Han hackeado la inteligencia artificial de Amazon

Como usuarios podemos tomar medidas para evitar hackeos en nuestros dispositivos y servicios, pero esto no siempre nos mantiene a salvo. El asistente de programación con IA generativa de Amazon, Amazon Q, fue comprometido, un incidente que expuso a casi un millón de usuarios a un riesgo potencial de borrado del sistema. A principios de este mes, un hacker consiguió inyectar código no autorizado en el repositorio de código abierto de GitHub de Amazon Q. Este código malicioso contenía instrucciones explícitas para que el agente de IA "limpiara el sistema a un estado casi de fábrica y eliminara el sistema de archivos y los recursos en la nube".

Lo más preocupante es que el cambio se introdujo a través de una solicitud de extracción aparentemente rutinaria, y una vez aceptada, se distribuyó públicamente en la versión 1.84.0 de la extensión Amazon Q el 17 de julio, alcanzando a casi un millón de usuarios antes de que la compañía notase el ataque.

Exponen la baja seguridad de Amazon Q en un ciberataque

La respuesta inicial de Amazon, que no detectó la brecha de inmediato y optó por retirar la versión comprometida sin un anuncio público, ha generado críticas considerables por parte de expertos en seguridad y desarrolladores. Corey Quinn, economista jefe de la nube en The Duckbill Group, señaló en Bluesky que esto no se trata de "moverse rápido y romper cosas, sino de moverse rápido y dejar que desconocidos escriban tu hoja de ruta".

El hacker responsable de la brecha se burló públicamente de las "insuficientes medidas de seguridad" de Amazon, calificando sus defensas de IA como "un teatro de seguridad". Su objetivo, según declaraciones a 404 Media, era una demostración intencional para visibilizar las laxas prácticas de seguridad de Amazon, no causar un daño real. De hecho, el código diseñado para borrar sistemas fue intencionalmente inutilizado, sirviendo como una advertencia en lugar de una amenaza operativa.

Tras una investigación interna de su equipo de seguridad, Amazon concluyó que el código no se habría ejecutado como se pretendía debido a un error técnico en el código mismo. La compañía respondió revocando las credenciales comprometidas, eliminando el código no autorizado y lanzando una nueva versión (1.85.0 o posterior) de la extensión, recomendando a los usuarios actualizar. En un comunicado escrito, Amazon reiteró que la seguridad es su máxima prioridad y afirmó que ningún recurso de sus clientes se vio afectado.

Estas prácticas comunes en los sistemas digitales es una llamada de atención crucial sobre la necesidad de equilibrar el avance de las innovaciones con una seguridad inquebrantable, especialmente cuando se trata de herramientas de IA que pueden influir directamente en los sistemas de millones de usuarios.

Puedes seguir a iPadizate en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.