{"id":74906,"date":"2025-06-23T18:34:24","date_gmt":"2025-06-23T18:34:24","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=74906"},"modified":"2025-06-23T18:34:24","modified_gmt":"2025-06-23T18:34:24","slug":"los-chatbots-no-son-mas-que-maquinas-de-plagiar","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=74906","title":{"rendered":"Los chatbots no son m\u00e1s que m\u00e1quinas de plagiar"},"content":{"rendered":"
\n

En 2021 el mundo a\u00fan no se hab\u00eda enterado de lo que se le ven\u00eda encima, pero Emily Bender \u2014ling\u00fcista y profesora de la Universidad de Washington\u2014 lo tuvo muy claro. Fue entonces cuando copublic\u00f3 un famoso estudio<\/a> en el que calific\u00f3 a los modelos de IA existentes como \u00abloros estoc\u00e1sticos<\/a>\u00ab. Aquella expresi\u00f3n se convirti\u00f3 desde entonces en una de las mejores formas de definir el funcionamiento b\u00e1sico de ChatGPT. Y cuatro a\u00f1os despu\u00e9s esta experta se reafirma en su posici\u00f3n: es una esc\u00e9ptica con argumentos.<\/p>\n

<\/p>\n

Loros estoc\u00e1sticos<\/strong>. La idea fundamental de su analog\u00eda era la de comparar a los modelos que hab\u00eda entonces (entre ellos GPT-3, precursor del usado en ChatGPT) como loros estoc\u00e1sticos. Lo de \u00abloros\u00bb est\u00e1 claro, ya que los modelos b\u00e1sicamente repiten lo que se les dice a trav\u00e9s del entrenamiento. Lo de \u00abestoc\u00e1sticos\u00bb, un t\u00e9rmino no tan conocido, se refiere a que los LLM no repiten de forma determinista o fija, sino que predice probabil\u00edsticamente cu\u00e1l es la siguiente palabra m\u00e1s probable en una secuencia bas\u00e1ndose en el contexto.<\/p>\n

<\/p>\n

\n
\n
\n \"Captura
\n \"Captura
\n <\/a><\/p><\/div>\n<\/div>\n

\u00bfNo lo somos los humanos?<\/strong> Sam Altman recogi\u00f3 el guante un a\u00f1o despu\u00e9s, cuando la expresi\u00f3n ya era conocida. Lo hizo el 4 de diciembre de 2022, cuatro d\u00edas despu\u00e9s de que ChatGPT saliera al mercado. Quiso as\u00ed tratar de hacernos ver que seg\u00fan \u00e9l al final los seres humanos tambi\u00e9n \u00e9ramos loros estoc\u00e1sticos. En cierto sentido lo somos: aprendemos patrones del lenguaje<\/a> y repetimos frases que o\u00edmos adem\u00e1s de predecir lo que viene a continuaci\u00f3n en una conversaci\u00f3n. Sin embargo hay diferencias cr\u00edticas con los modelos de IA.<\/p>\n

<\/p>\n

    \n
  1. Entendemos lo que decimos, mientras que los LLM no<\/li>\n
  2. Tenemos conciencia e intencionalidad al hablar, no solo producimos secuencias probables<\/li>\n
  3. Tenemos razonamiento abstracto y somos capaces de adaptar razonar, generalizar y corregir nuestros errores de forma flexible: nuestro pensamiento no es puramente estad\u00edstico<\/li>\n<\/ol>\n

    Esc\u00e9ptica declarada<\/strong>. Emily Bender no ha cambiado de parecer en todos estos a\u00f1os. De hecho, acaba de publicar su libro, ‘The AI Con<\/a>‘ (algo as\u00ed como ‘El timo de la IA’) en el que precisamente desarrolla los argumentos en los que basa sus reservas y su escepticismo respecto a la inteligencia artificial. En una reciente entrevista con Financial Times<\/a>, Bender destacaba que los chatbots de IA no son m\u00e1s que \u00abm\u00e1quinas de plagiar\u00bb y que los grandes modelos de lenguaje (LLMs) en los que se basan \u00abhan nacido siendo una mierda\u00bb.<\/p>\n

    <\/p>\n

    \n
    \n
    \n
    \n
    \n \"Sam
    \n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

    Nos han vendido una mentira<\/strong>. Esta experta cree que las empresas de IA generativa nos han vendido una mentira. Sus modelos, afirma, no cumplir\u00e1n esas promesas<\/a>, pero tampoco acabar\u00e1n con la raza humana, como algunos han querido advertir. A pesar de toda la expectaci\u00f3n generada, en su opini\u00f3n los chatbots son malos en la mayor\u00eda de tareas e incluso los mejores modelos de la actualidad siguen sin contar con algo parecido a la inteligencia.<\/p>\n

    <\/p>\n

    Y de \u00abrazonar\u00bb, nada<\/strong>. Los nuevos modos de \u00abrazonamiento\u00bb que plantean modelos como o1, o3 o DeepSeek R1 son en su opini\u00f3n otra mentira<\/a>, y esa afirmaci\u00f3n de que entienden el mundo no tiene sentido. Estamos \u00abimaginando una mente tras los textos [generados]\u00bb, explica, \u00abpero todo ese entendimiento viene de nuestro lado\u00bb, no del de la IA.<\/p>\n

    <\/p>\n

    No es inteligencia, es automatizaci\u00f3n<\/strong>. Bender, que en la actualidad tiene 51 a\u00f1os, pas\u00f3 sus primeros a\u00f1os acad\u00e9micos en Stanford y Berkeley, y acab\u00f3 trabajando como profesora<\/a> en la Universidad de Washington, donde se ha especialziado en c\u00f3mo las computadoras modelan en lenguaje humano. En su opini\u00f3n el propio nombre de inteligencia artificial es exagerado \u2014un viejo debate\u2014, y deber\u00eda llamarse simplemente automatizaci\u00f3n.<\/p>\n

    <\/p>\n

    Los chatbots controlados por el poder<\/strong>. En su libro ‘The AI Con’ ella y su coautor, Alex Hanna, advierten del peligro de los modelos de IA actuales. Sobre todo porque est\u00e1n controlados por grandes empresas con ciertos intereses. \u00abGracias a las enormes sumas invertidas, una min\u00fascula camarilla de hombres tiene la capacidad de influir en lo que sucede a grandes franjas de la sociedad, explica.<\/p>\n

    <\/p>\n

    Demasiado <\/strong>hype<\/strong><\/em>. Y frente a los discursos y promesas de Altman o Amodei, que prometen que llegaremos a la AGI pronto<\/a> o que la IA reemplaz\u00e1 a millones de trabajadores<\/a>, la visi\u00f3n de Bender es mucho m\u00e1s esc\u00e9ptica. Para ella no es m\u00e1s que un \u00abbonito envoltorio para las hojas de c\u00e1lculo\u00bb, pero ni hay magia ni tampoco una mente emergente.<\/p>\n

    <\/p>\n

    Una bola 8 m\u00e1gica con pretensiones<\/strong>. Su visi\u00f3n esc\u00e9ptica va en contra de la de personalidades como Sam Altman o Elon Musk, que no paran de prometer todo tipo de revoluciones. \u00abQue todo el mundo crea que esto [la IA] sea una entidad pensante va en su beneficio<\/a> y muy potente\u00bb, explica, \u00aben lugar de lograr que la gente piense que esto no es m\u00e1s que una bola 8 m\u00e1gica con pretensiones\u00bb, apuntando a este juguete que agitas realizando una pregunta y te contesta con un \u00abs\u00ed\u00bb, \u00abno\u00bb, \u00abdepende\u00bb o algunas opciones m\u00e1s.<\/p>\n

    <\/p>\n

    Imagen | Wikimedia<\/a> | Village Global<\/a><\/p>\n

    En Xataka | ChatGPT est\u00e1 llevando a algunas personas al borde de la locura. La realidad es menos alarmista y mucho m\u00e1s compleja<\/a><\/p>\n<\/p><\/div>\n

    Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

    En 2021 el mundo a\u00fan no se hab\u00eda enterado de lo que se le ven\u00eda encima, pero Emily Bender \u2014ling\u00fcista y profesora de la Universidad de Washington\u2014 lo tuvo muy claro. Fue entonces cuando copublic\u00f3 un famoso estudio en el que calific\u00f3 a los modelos de IA existentes como \u00abloros estoc\u00e1sticos\u00ab. Aquella expresi\u00f3n se convirti\u00f3 […]<\/p>\n","protected":false},"author":2,"featured_media":74907,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-74906","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/74906","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=74906"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/74906\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/74907"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=74906"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=74906"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=74906"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}