{"id":103340,"date":"2025-10-31T22:46:28","date_gmt":"2025-10-31T22:46:28","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=103340"},"modified":"2025-10-31T22:46:28","modified_gmt":"2025-10-31T22:46:28","slug":"ya-podemos-recuperar-un-prompt-a-partir-de-la-respuesta-de-una-ia-es-una-noticia-poco-alentadora","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=103340","title":{"rendered":"Ya podemos recuperar un prompt a partir de la respuesta de una IA. Es una noticia poco alentadora"},"content":{"rendered":"
\n

Un grupo de investigadores ha publicado un estudio que vuelve a hacer saltar las alarmas en materia de privacidad al usar la IA. Lo que han logrado demostrar es que es posible conocer el prompt exacto que us\u00f3 un usuario al preguntarle algo a un chatbot, y eso pone a las empresas de IA en una posici\u00f3n delicada. Pueden, m\u00e1s que nunca, conocerlo todo de nosotros.<\/p>\n

<\/p>\n

Un estudio terror\u00edfico<\/strong>. Si a uno le dicen que ‘Los modelos ling\u00fc\u00edsticos son inyectivos y, por lo tanto, invertibles’ se quedar\u00e1 probablemente a cuadros. Ese es el t\u00edtulo<\/a> del estudio realizado por investigadores europeos en el que explican que los grandes modelos de lenguaje (LLM) tienen un gran problema de privacidad. Y lo tiene porque la arquitectura transformer est\u00e1 dise\u00f1ada de esa forma: a cada prompt diferente le corresponde una \u00abincrustaci\u00f3n\u00bb diferente en el espacio latente del modelo.\u00a0<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"La
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Un algoritmo chivato<\/strong>. Durante el desarrollo de su teor\u00eda los investigadores crearon un algoritmo llamado SIPIT (Sequential Inverse Prompt via ITerative updates). Dicho algoritmo reconstruye el texto de entrada exacto a partir de las activaciones\/estados ocultos con una garant\u00eda de que lo har\u00e1 en un tiempo lineal. O lo que es lo mismo: puedes hacer que el modelo \u00abse chive\u00bb f\u00e1cil y r\u00e1pidamente.<\/p>\n

<\/p>\n

Qu\u00e9 significa esto<\/strong>. Lo que quiere decir todo esto es que la respuesta que obtuviste al usar ese modelo de IA permite averiguar exactamente lo que le preguntaste. En realidad no es la respuesta la que de delata, sino los estados ocultos o embeddings que usan los modelos de IA para acabar dando la respuesta final. Eso es un problema, porque las empresas de IA guardan esos estados ocultos, lo que les permitir\u00eda te\u00f3ricamente conocer el prompt de entrada con absoluta exactitud.<\/p>\n

<\/p>\n

Pero muchas empresas ya guardaban los prompts<\/strong>. Eso es cierto, pero esa \u00abinyectividad\u00bb crea un riesgo de privacidad adicional. Muchos embeddings o estados internos e almacenan para cacheo, para monitoreo o diagn\u00f3stico y para personalizaci\u00f3n. Si una empresa solo elimina la conversaci\u00f3n en texto plano pero no borra el archivo de embeddings, el prompt sigue siendo recuperable a partir de ese archivo. El estudio demuestra que cualquier sistema que almacene estados ocultos est\u00e1 manejando de forma efectiva el texto de entrada mismo.\u00a0<\/p>\n

<\/p>\n

Impacto legal<\/strong>. Aqu\u00ed hay adem\u00e1s un peligroso componente legal. Has tahora reguladores y empresas argumentaban que los estados internos no se consideraban como \u00abdatos personales recuperables\u00bb, pero esa invertibilidad cambia las reglas del juego. Si una empresa de IA te dice que \u00abno te preocupes, no guardo los prompts\u00bb pero s\u00ed guarda los estados ocultos, es como si esa te\u00f3rica garant\u00eda de privacidad no sirviera de nada.\u00a0<\/p>\n

<\/p>\n

Posibles fugas de datos<\/strong>. A priori no parece sencillo que un potencial atacante pueda hacer algo as\u00ed porque primero tendr\u00eda que tener acceso a esos embeddings. Una violaci\u00f3n de seguridad que resulte en la fuga de una base de dato de esos estados internos\/ocultos (embeddings) ya no se considerar\u00eda una exposici\u00f3n de datos \u00ababstractos\u00bb o \u00abcifrados\u00bb, sino una fuente en texto plano a partir de la cual se podr\u00edan obtener por ejemplo los datos financieros o contrase\u00f1as que una empresa o usuario han usado al preguntarle al modelo de IA.\u00a0<\/p>\n

<\/p>\n

Derecho al olvido<\/strong>. Esa inyectividad de los LLM complica tambi\u00e9n los requisitos del cumplimiento normativo de la protecci\u00f3n de los datos personales, como el RGPD o el \u00abderecho al olvido\u00bb. Si un usuario solicita la eliminaci\u00f3n total de sus datos a una empresa como OpenAI, esta debe asegurarse de eliminar no solo los registros de chats visibles, sino tambi\u00e9n todas las representaciones internas (embeddings). Si alg\u00fan estado oculto persiste en alg\u00fan registro o cach\u00e9, el prompt original seguir\u00eda siendo potencialmente recuperable.\u00a0<\/p>\n

<\/p>\n

Imagen | Levart Photographer<\/a><\/p>\n

En Xataka | OpenAI est\u00e1 consiguiendo que la industria tech una su destino al suyo. Por el bien de la econom\u00eda mundial, m\u00e1s vale que funcione<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Un grupo de investigadores ha publicado un estudio que vuelve a hacer saltar las alarmas en materia de privacidad al usar la IA. Lo que han logrado demostrar es que es posible conocer el prompt exacto que us\u00f3 un usuario al preguntarle algo a un chatbot, y eso pone a las empresas de IA en […]<\/p>\n","protected":false},"author":2,"featured_media":103341,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-103340","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/103340","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=103340"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/103340\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/103341"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=103340"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=103340"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=103340"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}