{"id":27292,"date":"2024-10-15T00:09:05","date_gmt":"2024-10-15T00:09:05","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/los-chatbots-de-ia-nos-hablan-como-si-fueran-capaces-de-razonar-es-una-gran-mentira\/"},"modified":"2024-10-15T00:09:05","modified_gmt":"2024-10-15T00:09:05","slug":"los-chatbots-de-ia-nos-hablan-como-si-fueran-capaces-de-razonar-es-una-gran-mentira","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=27292","title":{"rendered":"Los chatbots de IA nos hablan como si fueran capaces de razonar. Es una gran mentira"},"content":{"rendered":"
\n

Uno le pregunta algo a ChatGPT<\/a> y parece como si realmente este chatbot fuera capaz no solo de entender lo que le estamos preguntando, sino que adem\u00e1s contesta de forma humana. Como si pudiera razonar. En los \u00faltimos tiempos estamos viendo de hecho c\u00f3mo empresas como OpenAI (con o1<\/a>) o Microsoft (con Think Deeper<\/a>) presumen de modelos que razonan, pero nada m\u00e1s lejos de la realidad.<\/p>\n

<\/p>\n

Chatbots a examen<\/strong>. Seis investigadores de Apple quisieron poner a prueba tanto modelos de IA Open Source como modelos propietarios. La idea, comprobar sus limitaciones a la hora de \u00abrazonar\u00bb. En el estudio resultante<\/a> de tal proyecto analizan Llama, Phi, Gemma, Mistral, y tambi\u00e9n GPT-4o y o1.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"O1
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Los benchmarks nos enga\u00f1an<\/strong>. Entre las pruebas destaca GSM8K, un benchmark desarrollado por OpenAI y muy popular a la hora de evaluar la capacidad de razonamiento matem\u00e1tico de estos modelos de IA. GPT-3 (175B) puntu\u00f3 con un 35%, y en la actualidad modelos mucho m\u00e1s peque\u00f1os de 3B de par\u00e1metros superan el 85% y algunos de los grandes LLM llegan a superar el 95%. \u00bfSignifica eso que realmente razonan? Resulta que en realidad no.<\/p>\n

<\/p>\n

Jugando a cambiar valores<\/strong>. Mehrdad Farajtabar, uno de los responsables del estudio, \u2014otro de los que lo firman es Samy Bengio, hermano de Yoshua Bengio\u2014 explicaba en un hilo en X<\/a> (Twitter) c\u00f3mo hab\u00edan concebido su an\u00e1lisis. Desarrollaron una herramienta llamada GSM-Symbolic con la que pod\u00edan generar experimentos controlados con distintos valores y nombres para ver c\u00f3mo se comportan los modelos de IA al cambiarlos.<\/p>\n

<\/p>\n

Precisi\u00f3n discutible<\/strong>. Lo primero que descubrieron estos investigadores es que la precisi\u00f3n en el benchmark GSM8K era bastante variable<\/a>. Pero Farajtabar destacaba c\u00f3mo ese \u00abrazonamiento\u00bb era especialmente fr\u00e1gil<\/a>. \u00abLos LLM se mantienen muy sensibles a los cambios en los nombres propios (gente, comida, objetos) y m\u00e1s a\u00fan cuando se alteran los n\u00fameros. \u00bfCambiar\u00edan las notas de los estudiantes en un examen de matem\u00e1ticas en un 10% si solo cambi\u00e1ramos los nombres de las cosas que se enuncian en los problemas?\u00bb.<\/p>\n

<\/p>\n

\n
\n
\n \"Gsm
\n \"Gsm<\/p>\n

A\u00f1adir o quitar informaci\u00f3n afecta demasiado a la capacidad de \u00abrazonamiento\u00bb de los LLM, concluyeron estos investigadores.<\/span>\n <\/div>\n<\/p><\/div>\n<\/div>\n

M\u00e1s dif\u00edcil todav\u00eda<\/strong>. Si se eliminaba una frase del enunciado del problema, se a\u00f1ad\u00eda otra o se a\u00f1ad\u00edan dos, rendimiento ca\u00eda y la variabilidad de los resultados en el test GSM8K aumentaba, lo que para estos investigadores hace<\/a> que los modelos sean \u00abcada vez menos fiables\u00bb.<\/p>\n

<\/p>\n

Vamos a enga\u00f1ar a la IA<\/strong>. Para girar a\u00fan m\u00e1s la tuerca, los investigadores decidieron a\u00f1adir al problema una frase que parec\u00eda relevante<\/a> pero que en realidad no contribu\u00eda al proceso de \u00abrazonamiento\u00bb o a la conclusi\u00f3n. Lo que ocurr\u00eda era que los modelos reduc\u00edan su rendimiento de forma notable. Esa informaci\u00f3n irrelevante provocaba una ca\u00edda en su capacidad<\/a> precisamente porque intentaban tomarla en cuenta, cuando en realidad si \u00abrazonaran\u00bb descubrir\u00edan que no ten\u00eda sentido hacerlo.<\/p>\n

<\/p>\n

Tramposos al ajedrez<\/strong>. El estudio de estos investigadores es la confirmaci\u00f3n de algo que analistas y expertos llevan tiempo destacando desde hace tiempo. Pruebas sencillas como poner a un chatbot a contar erres<\/a> o a multiplicar matrices<\/a> lo demuestran, pero tambi\u00e9n lo podemos ver si le pedimos a un chatbot de IA generativa que juegue al ajedrez: lo normal es que acabe haciendo movimientos ilegales<\/a>.<\/p>\n

<\/p>\n

Cuidado con fiarte de tu chatbot<\/strong>. Una vez el mensaje es claro para quienes usan estos chatbots, pero tambi\u00e9n para quienes los desarrollan. La capacidad real de razonamiento de estos modelos es un mito, y eso hace que por ejemplo crear agentes de IA fiables que act\u00faan sobre cierta informaci\u00f3n puede ser muy contraproducente.<\/p>\n

<\/p>\n

En Xataka | Uno de los pioneros de la IA ha echado un vistazo a la IA generativa actual y ha llegado a una conclusi\u00f3n: es tont\u00edsima<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Uno le pregunta algo a ChatGPT y parece como si realmente este chatbot fuera capaz no solo de entender lo que le estamos preguntando, sino que adem\u00e1s contesta de forma humana. Como si pudiera razonar. En los \u00faltimos tiempos estamos viendo de hecho c\u00f3mo empresas como OpenAI (con o1) o Microsoft (con Think Deeper) presumen […]<\/p>\n","protected":false},"author":2,"featured_media":27293,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-27292","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/27292","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=27292"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/27292\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/27293"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=27292"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=27292"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=27292"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}