{"id":98459,"date":"2025-10-10T09:12:57","date_gmt":"2025-10-10T09:12:57","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=98459"},"modified":"2025-10-10T09:12:57","modified_gmt":"2025-10-10T09:12:57","slug":"anthropic-revela-como-envenenar-una-ia-para-alterar-sus-respuestas","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=98459","title":{"rendered":"Anthropic revela c\u00f3mo \u00abenvenenar\u00bb una IA para alterar sus respuestas"},"content":{"rendered":"
\n

Anthropic revel\u00f3 que unos cuantos documentos tendr\u00edan el poder de \u00abenvenenar\u00bb cualquier modelo<\/strong> de lenguaje. La empresa detr\u00e1s de Claude public\u00f3 un estudio que detalla el modo como puede vulnerarse una IA para que aprenda comportamientos no deseados. Seg\u00fan Anthropic, un conjunto de 250 documentos ser\u00eda suficiente para crear una vulnerabilidad en modelos de cualquier tama\u00f1o a trav\u00e9s de un ataque de data poisoning.<\/p>\n

El estudio<\/a>, realizado en conjunto por Anthropic, el Instituto de Seguridad de IA de Reino Unido y el Instituto Alan Turing, evalu\u00f3 las condiciones necesarias para crear una puerta trasera en un modelo de lenguaje grande (LLM). Los investigadores descubrieron que basta inyectar 250 documentos maliciosos en los datos de preentrenamiento<\/strong> para realizar un ataque de envenenamiento. Anthropic afirma que esta cifra es constante y aplica a modelos de cualquier tama\u00f1o.<\/p>\n

El hallazgo contradice la creencia com\u00fan de que se necesita controlar un porcentaje significativo del conjunto de entrenamiento. \u00abCrear 250 documentos maliciosos es trivial en comparaci\u00f3n con crear millones, lo que hace que esta vulnerabilidad sea mucho m\u00e1s accesible para los posibles atacantes\u00bb, dijo Anthropic.<\/p>\n

Sobre esto \u00faltimo, el estudio se centr\u00f3 en modelos de entre 600M y 13B de par\u00e1metros<\/strong>, como Claude Haiku, Mistral 7B y LLaMa 1 y 2. Los investigadores no est\u00e1n seguros de si el patr\u00f3n se puede aplicar a modelos m\u00e1s grandes o comportamientos m\u00e1s da\u00f1inos. Como referencia, GPT-5 y Gemini 2.5 Pro superan el trill\u00f3n de par\u00e1metros, mientras que Claude Opus tendr\u00eda entre 100B y 300B.<\/p>\n

\"Ataque\"Ataque<\/figure>\n
\n
\n

Tabla de Contenido<\/p>\nToggle<\/span><\/path><\/svg><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n