{"id":107059,"date":"2025-11-19T21:38:19","date_gmt":"2025-11-19T21:38:19","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=107059"},"modified":"2025-11-19T21:38:19","modified_gmt":"2025-11-19T21:38:19","slug":"el-problema-no-es-que-la-ia-no-sea-capaz-de-leer-la-hora-el-problema-es-confirmar-que-no-razona-y-solo-repite-lo-que-ha-visto","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=107059","title":{"rendered":"El problema no es que la IA no sea capaz de leer la hora. El problema es confirmar que no razona y solo repite lo que ha visto"},"content":{"rendered":"
\n

Hace unos meses a un grupo de investigadores espa\u00f1oles se les ocurri\u00f3 poner a prueba a un chatbot de IA con una prueba curiosa. Subieron al chatbot una imagen de un reloj anal\u00f3gico y le preguntaron a la IA un simple \u00ab\u00bfQu\u00e9 hora es en ese reloj?\u00bb. La IA fall\u00f3 de forma inquietante.<\/p>\n

<\/p>\n

M\u00e1quina, \u00bfme dices la hora?<\/strong> Los investigadores de la Universidad Polit\u00e9cnica de Madrid, la Universidad de Valladolid y el Politecnico de Milano firmaron hace un mes un estudio<\/a> en el que quisieron evaluar<\/a> c\u00f3mo de inteligente era la inteligencia artificial de esos modelos. Para ello construyeron un gran conjunto de im\u00e1genes sint\u00e9ticas de relojes anal\u00f3gicos \u2014disponibles en Hugging Face<\/a>\u2014 en los que se mostraban 43.000 horas distintas.\u00a0<\/p>\n

<\/p>\n

\n
\n
\n \"Captura
\n \"Captura<\/p>\n

Antes de afinar (fine-tuning) su comportamiento los modelos de IA fallaron de forma consistente al intentar decir la hora. Tras el ajuste el comportamiento fue mucho mejor, pero aun as\u00ed imperfecto. Que no deber\u00eda ocurrir con una cuesti\u00f3n tan \u00absimple\u00bb para los humanos.<\/span>\n <\/div>\n<\/p><\/div>\n<\/div>\n

Resultado desastroso<\/strong>. A partir de ah\u00ed fueron preguntando a cuatro modelos de IA generativa qu\u00e9 hora mostraban esas im\u00e1genes de esos relojes anal\u00f3gicos. Ninguno de ellos logr\u00f3 decir la hora de forma precisa. Ese grupo de modelos estaba compuesto por GPT-4o, Gemma3-12B, LlaMa3.2-11B y QwenVL-2.5-7B, y todos ellos tuvieron serios problemas para \u00ableer\u00bb la hora y diferenciar por ejemplo las manecillas o el \u00e1ngulo y direcci\u00f3n de esas manecillas en relaci\u00f3n a los n\u00fameros marcados en el reloj.\u00a0<\/p>\n

<\/p>\n

Ajuste fino para mejorar<\/strong>. Tras esas primeras pruebas, el grupo de investigadores logr\u00f3 mejorar de forma notable el comportamiento de esos modelos tras realizar un ajuste fino: los entrenaron con 5.000 im\u00e1genes adicionales de ese conjunto de datos y luego volvieron a evaluar el comportamiento de los modelos. Sin embargo los modelos volvieron a fallar de forma consistente cuando los probaron con un conjunto distinto de im\u00e1genes de relojes anal\u00f3gicos. La conclusi\u00f3n estaba clara.<\/p>\n

\n
\n
\n
\n
\n \"Tenemos
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

No saben generalizar<\/strong>. Lo que descubrieron con esta prueba fue la confirmaci\u00f3n de lo que venimos observando desde el principio con los modelos de IA: son buenos reconociendo datos con los que est\u00e1n familiarizados (memorizados), pero a menudo fallan en escenarios a los que nunca se han enfrentado y que no forman parte de sus conjuntos de entrenamiento. O lo que es lo mismo: eran incapaces de generalizar.<\/p>\n

<\/p>\n

Dal\u00ed entra en escena<\/strong>. Para tratar de averiguar las causas de esos fallos los investigadores crearon nuevos conjuntos de im\u00e1genes en los que por ejemplo utilizaban los c\u00e9lebres relojes distorsionados de Dal\u00ed<\/a>, o en los que inclu\u00edan flechas al final de las manecillas. Los seres humanos son capaces de decir la hora en relojes anal\u00f3gicos aun estando distorsionados, pero para los modelos de IA aquello fue un problema enorme.\u00a0<\/p>\n

<\/p>\n

Si hacen esto con relojes, imagina con an\u00e1lisis m\u00e9dicos<\/strong>. El peligro de estas conclusiones es que vuelven a detonar el debate sobre si los modelos de IA generativa son ciertamente artificiales y generativos, pero no demasiado inteligentes. Si tienen estas dificultades para identificar las manecillas o sus orientaciones, la cosa es peligrosa si lo que tienen que analizar los modelos son im\u00e1genes m\u00e9dicas o, por ejemplo, im\u00e1genes en tiempo real de un coche aut\u00f3nomo circulando por una ciudad.\u00a0<\/p>\n

<\/p>\n

Las IAs son tont\u00edsimas<\/strong>. Aunque es cierto que los modelos de IA generativa son fant\u00e1sticos como ayuda en diversos escenarios como la programaci\u00f3n, la realidad es que lo que hacen es \u00abregurgitar\u00bb respuestas que ya forman parte de sus datos de entrenamiento.\u00a0Como explicaba Thomas Wolf, Chief Science Officer de Hugging Face, una IA generativa \u00abnunca va a preguntarse cosas que nadie hab\u00eda pensado o que nadie se hab\u00eda atrevido a preguntar\u00bb. Aunque gracias a su descomunal memoria y entrenamiento pueden recuperar multitud de datos y presentarlos de formas \u00fatiles, que encuentren soluciones a problemas para los que no han sido entrenados es muy complicado. Para expertos como Yann LeCun la realidad es clara: la IA generativa es tont\u00edsima<\/a> y, adem\u00e1s, un callej\u00f3n sin salida<\/a>.<\/p>\n

\n
\n
\n \"Captura
\n \"Captura<\/p>\n

Fuente: clocks.brianmoore.com<\/span>\n <\/div>\n<\/p><\/div>\n<\/div>\n

La IA tampoco dibuja relojes muy bien<\/strong>. Al experimento de esos investigadores se le suma otra peque\u00f1a prueba que vuelve a poner en entredicho la capacidad de la IA generativa. Se trata de pedirles a distintos modelos que creen el c\u00f3digo que permita mostrar un reloj anal\u00f3gico con la hora actual. Un dise\u00f1ador llamado Brian Moore ha querido compartir el resultado<\/a> de varios modelos de IA y lo cierto es que el resultado obtenido en la mayor\u00eda de ellos es terrible, aunque otros como Kimi K2 logran un buen resultado. Nosotros hemos probado con los recientes Grok 4.1 y GPT-5.1. Tras insistir un poco Grok 4.1 ha dibujado el reloj perfecto y funcionando. Con GPT-5.1 no ha habido forma, al menos en nuestras pruebas.\u00a0<\/p>\n

<\/p>\n

Una realidad preocupante<\/strong>. Esa incapacidad de resolver tareas que parecen sencillas hace que desde luego estos modelos no queden en buen lugar. Es cierto que un buen prompt puede ayudar a resolver algunas de esas limitaciones, pero lo que cada vez resulta m\u00e1s evidente es que los modelos de IA siguen cometiendo errores a pesar del paso del tiempo. La te\u00f3rica revoluci\u00f3n de esta tecnolog\u00eda necesita precisamente erradicarlos, y no parece que estemos en v\u00edas de conseguirlo. Los modelos mejoran, s\u00ed, pero no lo suficiente para que podamos fiarnos de ellos al 100%.\u00a0<\/p>\n

<\/p>\n

Imagen | Yaniv Knobel<\/a><\/p>\n

En Xataka | Por si no hab\u00eda suficientes empresas de IA, Jeff Bezos acaba de volver de las sombras para levantar otra m\u00e1s, seg\u00fan el NYT<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Hace unos meses a un grupo de investigadores espa\u00f1oles se les ocurri\u00f3 poner a prueba a un chatbot de IA con una prueba curiosa. Subieron al chatbot una imagen de un reloj anal\u00f3gico y le preguntaron a la IA un simple \u00ab\u00bfQu\u00e9 hora es en ese reloj?\u00bb. La IA fall\u00f3 de forma inquietante. M\u00e1quina, \u00bfme […]<\/p>\n","protected":false},"author":2,"featured_media":107060,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-107059","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/107059","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=107059"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/107059\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/107060"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=107059"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=107059"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=107059"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}