{"id":74150,"date":"2025-06-19T23:37:58","date_gmt":"2025-06-19T23:37:58","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=74150"},"modified":"2025-06-19T23:37:58","modified_gmt":"2025-06-19T23:37:58","slug":"todo-empieza-pidiendole-una-cosa-a-una-ia-cuando-la-ia-se-lo-pide-a-otras-ia-comienza-el-caos","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=74150","title":{"rendered":"Todo empieza pidi\u00e9ndole una cosa a una IA. Cuando la IA se lo pide a otras IA comienza el caos"},"content":{"rendered":"
\n

En el juego del \u00abtel\u00e9fono escacharrado\u00bb (o roto, o descompuesto) un grupo de personas transmite un mensaje de uno en uno en secreto. Lo que suele suceder es que el mensaje original no tiene mucho que ver con lo que recibe el \u00faltimo destinatario. Y el problema que estamos viendo es que algo similar puede ocurrir con los prometedores agentes de IA.<\/p>\n

<\/p>\n

Errores acumulados<\/strong>. Toby Ord, investigador en la Universidad de Oxford, public\u00f3 recientemente un estudio<\/a> sobre agentes de IA. En \u00e9l hablaba de c\u00f3mo este tipo de sistemas tienen el problema del error acumulado o compuesto<\/a>. Un agente de IA encadena varias etapas de forma aut\u00f3noma para tratar de resolver un problema que le proponemos \u2014por ejemplo, crear c\u00f3digo para cierta tarea\u2014, pero si comete un error en una etapa, ese error se acumula y se hace m\u00e1s preocupante en la siguiente etapa, y m\u00e1s en la siguiente, y m\u00e1s a\u00fan en la siguiente. La precisi\u00f3n de la soluci\u00f3n se ve as\u00ed comprometida y puede no tener mucho (o nada) que ver con la que realmente solucionar\u00eda el problema que quer\u00edamos resolver.<\/p>\n

<\/p>\n

\n
\n
\n \"Captura
\n \"Captura
\n <\/a><\/p><\/div>\n<\/div>\n

La IA puede programar, pero no durante mucho tiempo seguido<\/strong>. Lo que planteaba este experto era la introducci\u00f3n de la llamada \u00abvida media\u00bb del agente de IA, que ayudar\u00eda a estimar la tasa de \u00e9xito seg\u00fan la longitud de la tarea que quiere resolver un agente de IA. Por ejemplo, un agente con una vida media de 2 horas tendr\u00eda un 50% de \u00e9xito en tareas de dos horas. El mensaje es contundente: cuanto m\u00e1s tiempo trabaja un agente de IA, m\u00e1s probabilidades hay de que la tasa de \u00e9xito decaiga. Benjamin Todd, otro experto en IA, lo expresaba de otra forma<\/a>: una IA puede programar durante una hora sin (apenas) errores, pero no durante 10 horas. No son cifras reales ni definitivas, pero expresan el mismo problema: los agentes de IA no pueden \u2014al menos de momento\u2014 funcionar de forma indefinida, porque los errores acumulados condenan la tasa de \u00e9xito.<\/p>\n

<\/p>\n

Los humanos tampoco nos salvamos<\/strong>. Pero cuidado, porque algo muy parecido pasa<\/a> con el rendimiento humano en tareas prolongadas. En el estudio de Orb se se\u00f1alaba c\u00f3mo la tasa de \u00e9xito emp\u00edrica va bajando de forma notable: tras 15 minutos ya es de aproximadamente el 75%, tras hora y media es del 50% y tras 16 horas de apenas el 20%. Todos podemos cometer errores al realizar ciertas tareas encadenadas, y si en una de ellas cometemos un error, en la siguiente tarea de la cadena ese error condena todo el desarrollo posterior a\u00fan m\u00e1s.<\/p>\n

<\/p>\n

LeCun ya avis\u00f3<\/strong>. Yann LeCun, que dirige los esfuerzos de investigaci\u00f3n de IA en Meta, lleva mucho tiempo avisando de los problemas con los LLM. En junio de 2023 indic\u00f3<\/a> c\u00f3mo los LLM autoregresivos no pueden ser factuales y evitar respuestas t\u00f3xicas. Explic\u00f3 que hay una alta probabilidad de que el token que genera un modelo nos lleve fuera del grupo de respuestas correctas, y cuanto m\u00e1s larga es la respuesta, m\u00e1s dif\u00edcil es que sea correcta.<\/p>\n

<\/p>\n

Para eso est\u00e1 la correcci\u00f3n de errores<\/strong>. Para evitar el problema, necesitamos reducir la tasa de errores de los modelos de IA. Es algo muy conocido<\/a> en ingener\u00eda software, donde siempre se recomienda realizar una revisi\u00f3n temprana de c\u00f3digo siguiendo una estrategia \u00abshift left\u00bb para el ciclo de desarrollo de software: cuanto antes se detecta un error, m\u00e1s f\u00e1cil y barato es corregirlo<\/a>. Y ocurre justo lo contrario si no lo hacemos: el coste de corregir un error crece exponencialmente cuanto m\u00e1s tarde se detecta en el ciclo de vida. Otros expertos apuntan<\/a> a que el aprendizaje por refuerzo<\/a> (Reinforcement Learning, RL) podr\u00eda solucionar el problema, y aqu\u00ed LeCun respond\u00eda<\/a> que lo har\u00eda si tuvi\u00e9semos datos infinitos para pulir el comportamiento del modelo, cosa que no tenemos.<\/p>\n

<\/p>\n

M\u00e1s que agentes, multiagentes<\/strong>. En Anthropic demostraron recientemente<\/a> c\u00f3mo hay una forma de mitigar a\u00fan m\u00e1s esos errores (y los posteriores errores acumulados): usar sistemas multiag\u00e9nticos. Esto es: que m\u00faltiples agentes de IA trabajen en paralelo para luego confrontar sus resultados y determinar el camino o soluci\u00f3n \u00f3ptima.<\/p>\n

<\/p>\n

\n
\n
\n \"Tasa
\n \"Tasa<\/p>\n

La gr\u00e1fica muestra la longitud de las tareas que los agentes de IA pueden completar de forma aut\u00f3noma a lo largo de los \u00faltimos a\u00f1os. El estudio revela que cada siete meses se dobla el tiempo que puede funcionar un agente de IA para completar tareas con una tasa de \u00e9xito del 50%. O lo que es lo mismo: los agentes est\u00e1n mejorando de forma sostenida (y notable) con el tiempo.<\/span>\n <\/div>\n<\/p><\/div>\n<\/div>\n

Pero los modelos y los agentes no paran de mejorar (\u00bfo no?)<\/strong>. El propio Todd apuntaba algo importante<\/a> y que permite ser optimistas respecto a ese problema. \u00abLa tasa de error de los modelos de IA se est\u00e1 reduciendo a la mitad aproximadamente cada cinco meses\u00bb, explicaba. Y a ese ritmo es posible que los agentes de IA puedan completar con \u00e9xito decenas de tareas encadenadas en a\u00f1o y medio y centenares en otro a\u00f1o y medio despu\u00e9s. En The New York Times<\/a> no estaban de acuerdo, y apuntaban recientemente a que aunque los modelos cada vez son m\u00e1s potentes, tambi\u00e9n \u00abalucinan\u00bb m\u00e1s que anteriores generaciones. La \u00abtarjeta de sistema<\/a>\u00bb de o3 y o4-mini precisamente apunta a que hay un problema real con la tasa de errores y \u00abalucinaciones\u00bb en ambos modelos.<\/p>\n

<\/p>\n

En Xataka | Las alucinaciones siguen siendo el tal\u00f3n de Aquiles de la IA: los \u00faltimos modelos de OpenAI inventan m\u00e1s de la cuenta<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

En el juego del \u00abtel\u00e9fono escacharrado\u00bb (o roto, o descompuesto) un grupo de personas transmite un mensaje de uno en uno en secreto. Lo que suele suceder es que el mensaje original no tiene mucho que ver con lo que recibe el \u00faltimo destinatario. Y el problema que estamos viendo es que algo similar puede […]<\/p>\n","protected":false},"author":2,"featured_media":74151,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-74150","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/74150","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=74150"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/74150\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/74151"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=74150"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=74150"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=74150"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}