{"id":88762,"date":"2025-08-28T06:58:57","date_gmt":"2025-08-28T06:58:57","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=88762"},"modified":"2025-08-28T06:58:57","modified_gmt":"2025-08-28T06:58:57","slug":"gemini-puede-filtrar-tus-datos-con-este-nuevo-ataque-con-imagenes","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=88762","title":{"rendered":"Gemini puede filtrar tus datos con este nuevo ataque con im\u00e1genes"},"content":{"rendered":"
\n

Un nuevo ataque podr\u00eda aprovecharse de las capacidades multimodales de Gemini<\/strong> y otros modelos de lenguaje para robar tus datos y compartirlos a un tercero. Investigadores han desarrollado un m\u00e9todo que permite inyectar instrucciones ocultas en im\u00e1genes que, al ser procesadas por un sistema de IA, pueden filtrar informaci\u00f3n o ejecutar acciones no deseadas.<\/p>\n

De acuerdo con una publicaci\u00f3n en el blog de The Trail of Bits<\/em><\/a>, investigadores de seguridad detallaron un m\u00e9todo de ataque que permite esconder prompts<\/em> maliciosos en im\u00e1genes<\/strong>. Las instrucciones se insertan en los archivos a trav\u00e9s de una marca de agua invisible al ojo humano. Cuando el usuario utiliza la imagen en un sistema como Gemini CLI, Vertex AI Studio o la API de Gemini, la IA ejecutar\u00e1 la instrucci\u00f3n y filtrar\u00e1 los datos de la v\u00edctima.<\/p>\n

El ataque aprovecha el escalado de im\u00e1genes<\/strong>, un proceso que se ejecuta de forma autom\u00e1tica antes de que la IA analice el archivo. Al cargar una imagen en Gemini (CLI, web o la API) y en otros sistemas como Vertex AI Studio, el modelo no ve la imagen original, sino una versi\u00f3n escalada. Muchos modelos est\u00e1n entrenados con im\u00e1genes de 224 x 224 o 512 x 512 p\u00edxeles, por lo que al subir una imagen m\u00e1s grande, el sistema la redimensiona autom\u00e1ticamente para que encaje en ese formato.<\/p>\n

Cuando se ejecutan los algoritmos de escalado en una imagen manipulada, el prompt malicioso se hace visible y el modelo ejecuta las instrucciones<\/strong> como si fuera un comando v\u00e1lido. Los prompts pueden activar herramientas como Zapier, un servicio de automatizaci\u00f3n similar a IFTTT, las cuales filtrar\u00e1n la informaci\u00f3n sin necesidad de que el usuario lo confirme.<\/p>\n

\"Ataque\"Ataque<\/figure>\n
\n
\n

Tabla de Contenido<\/p>\nToggle<\/span><\/path><\/svg><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n