{"id":103946,"date":"2025-11-04T08:37:44","date_gmt":"2025-11-04T08:37:44","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=103946"},"modified":"2025-11-04T08:37:44","modified_gmt":"2025-11-04T08:37:44","slug":"se-llama-data-poisoning-y-los-esta-envenenando-desde-dentro","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=103946","title":{"rendered":"se llama ‘data poisoning’ y los est\u00e1 envenenando desde dentro"},"content":{"rendered":"
\n

La IA est\u00e1 en todas partes y cada vez suma m\u00e1s usuarios<\/a>. El paso l\u00f3gico es que tambi\u00e9n fuera el objetivo de ataques maliciosos. Ya hemos hablado de los peligros del ‘prompt injection’,<\/a> un ataque sorprendentemente f\u00e1cil de ejecutar. No es el \u00fanico. Las empresas de IA tambi\u00e9n est\u00e1n luchando contra el ‘data poisoning’.<\/p>\n

<\/p>\n

Datos envenenados<\/strong>. Consiste en introducir datos manipulados en recursos que despu\u00e9s ser\u00e1n usados para el entrenamiento de la IA. Seg\u00fan una investigaci\u00f3n reciente<\/a>, no se necesitan tantos documentos maliciosos para comprometer un modelo de lenguaje como se cre\u00eda. Comprobaron que con tan s\u00f3lo 250 documentos \u00abenvenenados\u00bb se logr\u00f3 comprometer modelos de hasta 13.000 millones de par\u00e1metros. El resultado es que el modelo puede tener sesgos o llegar a conclusiones err\u00f3neas.\u00a0<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Con
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Inyecci\u00f3n de prompts<\/strong>. Es uno de los problemas a los que se enfrentan los navegadores con IA<\/a> como ChatGPT Atlas o Comet. Simplemente colocando un prompt invisible en un correo o una web se puede conseguir que la IA entregue informaci\u00f3n privada al no ser capaz de distinguir qu\u00e9 es una instrucci\u00f3n del usuario y qu\u00e9 una instrucci\u00f3n maliciosa. En el caso de agentes IA es especialmente peligroso ya que pueden ejecutar acciones en nuestro nombre.<\/p>\n

<\/p>\n

IA para hacer el mal<\/strong>. Seg\u00fan un informe de Crowdstrike<\/a>, la IA se ha convertido en el arma predilecta para los ciberdelincuentes, que la usan para automatizar y perfeccionar sus ataques, especialmente el ransomware. El MIT\u00a0<\/a>analiz\u00f3 m\u00e1s de 2.800 ataques ransomware y descubrieron que el 80% hab\u00edan empleado IA. La cifra es aplastante.<\/p>\n

<\/p>\n

Colaboraci\u00f3n<\/strong>. Cuentan en Financial Times<\/a> que las principales empresas IA, como DeepMind, OpenAI, Microsoft y Anthropic est\u00e1n trabajando de forma conjunta para analizar los m\u00e9todos de ataque m\u00e1s frecuentes y dise\u00f1ar estrategias defensivas en colaboraci\u00f3n. Est\u00e1n recurriendo a hackers \u00e9ticos y otros expertos independientes para que intenten vulnerar sus sistemas y as\u00ed poder fortalecerlos.\u00a0<\/p>\n

<\/p>\n

Urgencia<\/strong>. \u00a0Los navegadores IA y los agentes ya est\u00e1n aqu\u00ed, pero estamos a tiempo porque a\u00fan no ha habido una adopci\u00f3n masiva. Urge \u00a0fortalecer los sistemas, especialmente para prevenir la inyecci\u00f3n de prompts que tan f\u00e1cilmente pueden robar nuestros datos.<\/p>\n

<\/p>\n

Imagen | Shayna \u00abBepple\u00bb Take<\/a> en Unsplash<\/a><\/p>\n

En Xataka |\u00a0\u00abLa seguridad de nuestros hijos no est\u00e1 en venta\u00bb: ya est\u00e1 aqu\u00ed la primera ley que regula los ‘amigos IA’<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

La IA est\u00e1 en todas partes y cada vez suma m\u00e1s usuarios. El paso l\u00f3gico es que tambi\u00e9n fuera el objetivo de ataques maliciosos. Ya hemos hablado de los peligros del ‘prompt injection’, un ataque sorprendentemente f\u00e1cil de ejecutar. No es el \u00fanico. Las empresas de IA tambi\u00e9n est\u00e1n luchando contra el ‘data poisoning’. Datos […]<\/p>\n","protected":false},"author":2,"featured_media":103947,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-103946","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/103946","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=103946"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/103946\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/103947"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=103946"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=103946"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=103946"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}