Estas "imágenes trampa" contienen mensajes invisibles que, al ser procesados por la IA, la obligan a ejecutar acciones no autorizadas, como la extracción y el envío de datos personales.

¿Cómo funciona?

El ataque aprovecha el proceso de escalado automático de imágenes que realizan las plataformas de IA. Un mensaje secreto, oculto en la imagen, se vuelve visible para la IA durante este proceso, sin que un humano pueda detectarlo a simple vista. Los sistemas de IA populares como Gemini CLI, Vertex AI Studio y la API de Gemini han demostrado ser vulnerables a este tipo de ataques.

Ejemplo de ataque exitoso:

En una prueba, los investigadores lograron acceder y extraer datos de un calendario de Google Calendar de un usuario y enviarlos a una dirección de correo electrónico, sin necesidad de confirmación del usuario.

¿Cómo protegerse?

Para evitar ser víctima de este ataque, se recomienda:

Evitar el escalado automático de imágenes.

Limitar las dimensiones de las imágenes al subirlas.

Requerir siempre la confirmación del usuario antes de que la IA realice acciones sensibles.

La solución más segura es implementar defensas sistémicas que exijan un paso de confirmación humana antes de que la IA acceda a información privada o la comparta.