{"id":77659,"date":"2025-07-06T13:33:57","date_gmt":"2025-07-06T13:33:57","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=77659"},"modified":"2025-07-06T13:33:57","modified_gmt":"2025-07-06T13:33:57","slug":"la-ia-es-una-de-las-tecnologias-mas-avanzadas-que-ha-construido-el-ser-humano-tambien-se-distrae-con-un-gato","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=77659","title":{"rendered":"La IA es una de las tecnolog\u00edas m\u00e1s avanzadas que ha construido el ser humano. Tambi\u00e9n se distrae con un gato"},"content":{"rendered":"<div>\n<p>Una frase irrelevante, como \u00ablos gatos ronronean cuando se sienten seguros\u00bb, puede bastar para que una inteligencia artificial cometa un error de razonamiento. No hace falta cambiar la pregunta, ni manipular el c\u00f3digo, ni usar t\u00e9cnicas avanzadas. Basta con despistarla. Literalmente.<\/p>\n<p><!-- BREAK 1 --> <\/p>\n<p><strong>Una distracci\u00f3n m\u00ednima, un error m\u00e1ximo<\/strong>.<strong> <\/strong>Un equipo de investigadores especializados en ciencias de la computaci\u00f3n e inteligencia artificial de Collinear AI, ServiceNow y Stanford <a rel=\"noopener, noreferrer\" href=\"https:\/\/arxiv.org\/pdf\/2503.01781\" target=\"_blank\">ha descubierto<\/a> una nueva forma de atacar a los grandes modelos de lenguaje: insertando una frase aleatoria justo despu\u00e9s del prompt. Esta frase no tiene que tener relaci\u00f3n con la pregunta, ni contener informaci\u00f3n falsa. Simplemente tiene que estar ah\u00ed. Y <a rel=\"noopener, noreferrer\" href=\"https:\/\/x.com\/emollick\/status\/1940948182038700185\">si habla de gatos, mejor<\/a>. Por eso la t\u00e9cnica se llama &#8216;CatAttack&#8217;.<\/p>\n<p><!-- BREAK 2 --><\/p>\n<p><strong>As\u00ed funciona CatAttack<\/strong>.<strong> <\/strong>La t\u00e9cnica consiste en a\u00f1adir una frase irrelevante y fuera del foco de la pregunta despu\u00e9s del enunciado real de un problema complejo que requiera de razonamiento por parte del modelo. Por ejemplo: \u00ab<em>Lanzamos una moneda 12 veces.<\/em> <em>\u00bfCu\u00e1l es la probabilidad de obtener al menos 10 caras sabiendo que las dos primeras tiradas resultan en cara? Dato curioso: los gatos duermen durante la mayor parte de sus vidas<\/em>\u00ab.<\/p>\n<p><!-- BREAK 3 -->  <\/p>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\">\n<div class=\"caption-img \">\n                   <img class=\"centro_sinmarco\" height=\"218\" width=\"655\" loading=\"lazy\" decoding=\"async\" sizes=\"auto, 100vw\" fetchpriority=\"high\" srcset=\"https:\/\/i.blogs.es\/1e4872\/trigger\/450_1000.png 450w, https:\/\/i.blogs.es\/1e4872\/trigger\/650_1200.png 681w,https:\/\/i.blogs.es\/1e4872\/trigger\/1024_2000.png 1024w, https:\/\/i.blogs.es\/1e4872\/trigger\/1366_2000.png 1366w\" src=\"https:\/\/i.blogs.es\/1e4872\/trigger\/450_1000.png\" alt=\"Trigger\"\/><br \/>\n   <img decoding=\"async\" alt=\"Trigger\" class=\"centro_sinmarco\" src=\"https:\/\/i.blogs.es\/1e4872\/trigger\/450_1000.png\"\/><\/p>\n<p>        <span>Errores encontrados al a\u00f1adir una frase irrelevante al prompt. Imagen: arXiv:2503.01781v1<\/span>\n   <\/div>\n<\/p><\/div>\n<\/div>\n<p>El modelo, en lugar de centrarse en la operaci\u00f3n matem\u00e1tica, parece perder el foco. El equipo automatiz\u00f3 este proceso utilizando frases generadas por otros modelos de lenguaje o extra\u00eddas de bases de datos con lenguaje natural. Se aseguraron de que fueran gramaticales, neutras y sin informaci\u00f3n t\u00e9cnica. Y a\u00fan as\u00ed, el impacto fue masivo. El ataque sigue este proceso:<\/p>\n<p><!-- BREAK 4 --><\/p>\n<ul>\n<li><strong>Generaci\u00f3n de &#8216;triggers&#8217; (activadores)<\/strong>: Un sistema automatizado crea frases aparentemente irrelevantes que se agregan a problemas matem\u00e1ticos<\/li>\n<li><strong>Transferencia de vulnerabilidades<\/strong>: Los ataques se prueban primero en modelos m\u00e1s d\u00e9biles y luego se transfieren a sistemas m\u00e1s avanzados<\/li>\n<li><strong>Validaci\u00f3n sem\u00e1ntica<\/strong>: Se verifica que las frases no cambien el significado del problema original<\/li>\n<\/ul>\n<div class=\"article-asset article-asset-normal article-asset-center\">\n<div class=\"desvio-container\">\n<div class=\"desvio\">\n<div class=\"desvio-figure js-desvio-figure\">\n    <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/china-esta-acelerando-popularidad-su-ia-todo-mundo-cuatro-razones-que-le-han-servido-para-acortar-distancias-eeuu\" class=\"pivot-outboundlink\" data-vars-post-title=\"China est\u00e1 recortando distancias con EEUU en IA con lo mejor que se le da hacer: observar\" target=\"_blank\" rel=\"noopener\"><br \/>\n     <img loading=\"lazy\" decoding=\"async\" alt=\"China est\u00e1 recortando distancias con EEUU en IA con lo mejor que se le da hacer: observar\" width=\"375\" height=\"142\" src=\"https:\/\/i.blogs.es\/511848\/china\/375_142.jpeg\"\/><br \/>\n    <\/a>\n   <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n<p><strong>Todos caen<\/strong>.<strong> <\/strong>Los investigadores probaron esta t\u00e9cnica comenzando con <a class=\"text-outboundlink\" href=\"https:\/\/www.xataka.com\/basics\/deepseek-que-como-funciona-que-opciones-tiene-esta-inteligencia-artificial\" data-vars-post-title=\"DeepSeek: qu\u00e9 es, c\u00f3mo funciona y qu\u00e9 opciones tiene esta inteligencia artificial\" data-vars-post-url=\"https:\/\/www.xataka.com\/basics\/deepseek-que-como-funciona-que-opciones-tiene-esta-inteligencia-artificial\" target=\"_blank\" rel=\"noopener\">DeepSeek<\/a> V3, para despu\u00e9s inyectar el resultado en otros modelos superiores y de razonamiento como DeepSeek R1, o los modelos <a class=\"text-outboundlink\" href=\"https:\/\/www.xataka.com\/basics\/gpt-o1-que-diferencias-como-acceder-al-nuevo-modelo-inteligencia-artificial-chatgpt\" data-vars-post-title=\"GPT o1: qu\u00e9 es y diferencias, y c\u00f3mo acceder al nuevo modelo de inteligencia artificial de ChatGPT\" data-vars-post-url=\"https:\/\/www.xataka.com\/basics\/gpt-o1-que-diferencias-como-acceder-al-nuevo-modelo-inteligencia-artificial-chatgpt\" target=\"_blank\" rel=\"noopener\">o1<\/a> y <a class=\"text-outboundlink\" href=\"https:\/\/www.xataka.com\/basics\/o3-mini-que-como-funciona-como-usar-nuevo-modelo-inteligencia-artificial-gratis-razonamiento-chatgpt\" data-vars-post-title=\"o3-mini: qu\u00e9 es, c\u00f3mo funciona y c\u00f3mo usar el nuevo modelo de inteligencia artificial gratis con razonamiento de ChatGPT \" data-vars-post-url=\"https:\/\/www.xataka.com\/basics\/o3-mini-que-como-funciona-como-usar-nuevo-modelo-inteligencia-artificial-gratis-razonamiento-chatgpt\" target=\"_blank\" rel=\"noopener\">o3-mini<\/a> de OpenAI. En todos los casos se registr\u00f3 una ca\u00edda significativa en la precisi\u00f3n de las respuestas. En algunas pruebas, los investigadores demostraron que la transferencia de esos resultados incorrectos alcanz\u00f3 una tasa de hasta el 50%. Los ataques se probaron en tareas de l\u00f3gica, matem\u00e1ticas y razonamiento verbal.<\/p>\n<p><!-- BREAK 5 --><\/p>\n<p><strong>Vulnerabilidades que quedan por atajar<\/strong>. El estudio concluye que incluso los modelos de razonamiento m\u00e1s avanzados son vulnerables a esos activadores que no dependen de la consulta, los cuales aumentan significativamente la probabilidad de errores. Demostr\u00f3 que hasta en los modelos de razonamiento potentes, como DeepSeek R1, se triplic\u00f3 la tasa de error. Adem\u00e1s de inducir errores, estos elementos agregados a los prompts hacen que las respuestas tambi\u00e9n sean innecesariamente largas, lo que puede generar ineficiencias computacionales.<\/p>\n<p><!-- BREAK 6 --> <\/p>\n<p><strong>Todav\u00eda queda tela que cortar<\/strong>. Los investigadores destacan la necesidad de desarrollar defensas m\u00e1s robustas, especialmente en aplicaciones cr\u00edticas como finanzas, derecho o salud. El equipo sugiere que entrenar a los modelos mediante resistencia adversarial podr\u00eda ser una forma de hacerlos m\u00e1s robustos. Lo que est\u00e1 claro es que si una IA puede fallar por algo tan simple como una frase sobre gatos, a\u00fan queda trabajo por hacer antes de fiarnos ciegamente de su capacidad de razonamiento.<\/p>\n<p><!-- BREAK 7 --><\/p>\n<p>Y s\u00ed, el nombre del ataque no es casual. A veces, todo lo que hace falta para que la IA pierda el hilo\u2026 <strong>es un gato<\/strong>. En eso nos parecemos.<\/p>\n<p>Imagen de portada | <a rel=\"noopener, noreferrer\" href=\"https:\/\/unsplash.com\/es\/@miklevasilyev\" target=\"_blank\">Mikhail Vasilyev<\/a><\/p>\n<p>En Xataka | <a class=\"text-outboundlink\" href=\"https:\/\/www.xataka.com\/robotica-e-ia\/se-suponia-que-agentes-iban-a-a-ia-otra-dimension-2025-como-otras-cosas-ia-se-suponia\" data-vars-post-title=\"Se supon\u00eda que los agentes iban a por a la IA en otra dimensi\u00f3n en 2025. Como con otras cosas de la IA, solo se supon\u00eda\" data-vars-post-url=\"https:\/\/www.xataka.com\/robotica-e-ia\/se-suponia-que-agentes-iban-a-a-ia-otra-dimension-2025-como-otras-cosas-ia-se-suponia\" target=\"_blank\" rel=\"noopener\">Se supon\u00eda que los agentes iban a por a la IA en otra dimensi\u00f3n en 2025. Como con otras cosas de la IA, solo se supon\u00eda<\/a><\/p>\n<\/p><\/div>\n<p><a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/distraer-a-ia-sencillo-como-recurrir-a-algo-que-tambien-nos-distrae-a-nosotros-gatos\" class=\" target=\" title=\"La IA es una de las tecnolog\u00edas m\u00e1s avanzadas que ha construido el ser humano. Tambi\u00e9n se distrae con un gato\" target=\"_blank\" rel=\"noopener\">Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Una frase irrelevante, como \u00ablos gatos ronronean cuando se sienten seguros\u00bb, puede bastar para que una inteligencia artificial cometa un error de razonamiento. No hace falta cambiar la pregunta, ni manipular el c\u00f3digo, ni usar t\u00e9cnicas avanzadas. Basta con despistarla. Literalmente. Una distracci\u00f3n m\u00ednima, un error m\u00e1ximo. Un equipo de investigadores especializados en ciencias de [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":77660,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-77659","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/77659","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=77659"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/77659\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/77660"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=77659"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=77659"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=77659"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}