{"id":65017,"date":"2025-05-06T02:05:36","date_gmt":"2025-05-06T02:05:36","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=65017"},"modified":"2025-05-06T02:05:36","modified_gmt":"2025-05-06T02:05:36","slug":"anthropic-todavia-no-sabe-como-funcionan-sus-ia-revela-su-ceo","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=65017","title":{"rendered":"Anthropic todav\u00eda no sabe c\u00f3mo funcionan sus IA, revela su CEO"},"content":{"rendered":"<div>\n<p>El funcionamiento de los modelos de inteligencia artificial es tan asombroso como misterioso. Y <strong>Dario Amodei<\/strong>, CEO de <strong>Anthropic<\/strong>, la empresa responsable de Claude, ha sido bastante franco respecto de lo mucho que todav\u00eda les queda por aprender. A trav\u00e9s de <a href=\"https:\/\/www.darioamodei.com\/post\/the-urgency-of-interpretability#the-utility-of-interpretability\" target=\"_blank\" rel=\"noopener\">su blog<\/a>, el empresario reconoci\u00f3 que <strong>a\u00fan no saben c\u00f3mo funcionan sus IA<\/strong>, y que el p\u00fablico hace bien en <strong>alarmarse por ello<\/strong>.<\/p>\n<p>En un extenso escrito, Amodei se refiri\u00f3 a los veloces avances que se logran d\u00eda a d\u00eda en el campo de la inteligencia artificial generativa, y a la necesidad de enfocarse en un punto crucial de cara al futuro: <strong>la interpretabilidad de esos sistemas<\/strong>. De acuerdo con el jefe de Anthropic, es necesario que las empresas se enfoquen en comprender c\u00f3mo es el funcionamiento interno de sus IA antes de que se vuelvan extremadamente poderosas.<\/p>\n<p>\u00abLas personas ajenas al sector suelen sorprenderse y alarmarse al descubrir que no comprendemos c\u00f3mo funcionan nuestras propias creaciones de IA. Y tienen raz\u00f3n en estar preocupadas: esta falta de comprensi\u00f3n no tiene precedentes en la historia de la tecnolog\u00eda\u00bb, explic\u00f3 el susodicho.<\/p>\n<p>Pese a que sus comentarios pueden sonar innecesariamente alarmistas, el l\u00edder de Anthropic explica que ya se est\u00e1n logrando avances muy importantes en la b\u00fasqueda de la interpretabilidad de los modelos de IA. De todos modos, reconoce que la inteligencia artificial generativa est\u00e1 bastante m\u00e1s avanzada que cualquier intento de comprensi\u00f3n de su funcionamiento interno. Y que es por ello mismo que todas las empresas de la industria deben pisar el acelerador en sus esfuerzos por crear el equivalente a una \u00abresonancia magn\u00e9tica de la inteligencia artificial\u00bb.<\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_81 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Tabla de Contenido<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/enfoquenoticioso.com\/?p=65017\/#Anthropic_quiere_comprender_como_funcionan_los_modelos_de_IA\" >Anthropic quiere comprender c\u00f3mo funcionan los modelos de IA<\/a><\/li><\/ul><\/nav><\/div>\n<h2 class=\"wp-block-heading\" id=\"h-anthropic-quiere-comprender-como-funcionan-los-modelos-de-ia\"><span class=\"ez-toc-section\" id=\"Anthropic_quiere_comprender_como_funcionan_los_modelos_de_IA\"><\/span>Anthropic quiere comprender c\u00f3mo funcionan los modelos de IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<figure class=\"wp-block-image alignwide size-large\"><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"1500\" height=\"844\" onerror=\"if (typeof newspackHandleImageError === 'function') newspackHandleImageError(this);\" alt=\"Anthropic quiere comprender c\u00f3mo funcionan los modelos de IA\" class=\"wp-image-1767293 perfmatters-lazy\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-1500x844.jpg?resize=1500%2C844&amp;quality=70&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=1500%2C844&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=800%2C450&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=768%2C432&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=1536%2C864&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=2048%2C1152&amp;quality=70&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=1200%2C675&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=1024%2C576&amp;quality=70&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=1568%2C882&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=400%2C225&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-1500x844.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 1500px) 100vw, 1500px\"\/><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"1500\" height=\"844\" onerror=\"if (typeof newspackHandleImageError === 'function') newspackHandleImageError(this);\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-1500x844.jpg?resize=1500%2C844&amp;quality=70&amp;strip=all&amp;ssl=1\" alt=\"Anthropic quiere comprender c\u00f3mo funcionan los modelos de IA\" class=\"wp-image-1767293\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=1500%2C844&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=800%2C450&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=768%2C432&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=1536%2C864&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=2048%2C1152&amp;quality=70&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=1200%2C675&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=1024%2C576&amp;quality=70&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=1568%2C882&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-scaled.jpg?resize=400%2C225&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/11\/Anthropic-2-1500x844.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 1500px) 100vw, 1500px\"\/><\/figure>\n<p>A primera vista puede sonar il\u00f3gico que empresas como Anthropic, OpenAI o Google no sepan c\u00f3mo funcionan las IA generativas que ellos mismos crean. Sin embargo, Dario Amodei tiene una explicaci\u00f3n <strong>bastante contundente<\/strong> sobre por qu\u00e9 ocurre esto:<\/p>\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p>\u00abCuando un sistema de IA generativa realiza una acci\u00f3n, como resumir un documento financiero, desconocemos, a un nivel espec\u00edfico o preciso, por qu\u00e9 toma ciertas decisiones: por qu\u00e9 elige ciertas palabras en lugar de otras, o por qu\u00e9 ocasionalmente comete un error a pesar de ser generalmente preciso. <\/p>\n<p>Como suele decir mi amigo y cofundador Chris Olah, los sistemas de IA generativa se desarrollan m\u00e1s que se construyen: sus mecanismos internos son &#8216;emergentes&#8217; en lugar de estar dise\u00f1ados directamente. Es similar al cultivo de una planta o una colonia bacteriana: establecemos las condiciones generales que dirigen y moldean el crecimiento, pero la estructura exacta que emerge es impredecible y dif\u00edcil de comprender o explicar. <\/p>\n<p>Al observar el interior de estos sistemas, observamos vastas matrices de miles de millones de n\u00fameros. Estas, de alguna manera, computan tareas cognitivas importantes, pero no resulta evidente c\u00f3mo lo hacen exactamente. Muchos de los riesgos y preocupaciones asociados con la IA generativa son, en \u00faltima instancia, consecuencias de esta opacidad, y ser\u00edan mucho m\u00e1s f\u00e1ciles de abordar si los modelos fueran interpretables\u00bb.<\/p>\n<p><cite>Dario Amodei, CEO de Anthropic<\/cite><\/p><\/blockquote>\n<p>El jefe de Anthropic estima que la interpretabilidad de las IA m\u00e1s avanzadas podr\u00eda estar lista dentro de los pr\u00f3ximos <strong>5 a 10 a\u00f1os<\/strong>. Sin embargo, considera que se necesita de mucho trabajo y dedicaci\u00f3n para lograrlo. Amodei sostiene que las empresas deben destinar m\u00e1s recursos a la interpretabilidad, y hasta hizo un llamado p\u00fablico a rivales como OpenAI y Google para que le presten m\u00e1s atenci\u00f3n a esa \u00e1rea.<\/p>\n<p>\u00abLa interpretabilidad recibe menos atenci\u00f3n que el diluvio constante de lanzamientos de modelos, pero podr\u00eda decirse que es m\u00e1s importante\u00bb, explic\u00f3. Asimismo, inst\u00f3 a los gobiernos a implementar reglas flexibles que fomenten la investigaci\u00f3n de la interpretabilidad de los modelos de IA. Y propuso que usen las restricciones de exportaci\u00f3n para darle tiempo a estas investigaciones a avanzar lo suficiente para alcanzar a los modelos m\u00e1s potentes.<\/p>\n<p>Anthropic ya ha presentado avances importantes en materia de interpretabilidad. En marzo pasado, investigadores <a href=\"https:\/\/hipertextual.com\/2025\/03\/anthropic-descifra-como-piensan-modelos-ia\" target=\"_blank\" rel=\"noopener\">revelaron sus descubrimientos<\/a> al tratar de identificar c\u00f3mo \u00abpiensan\u00bb sus IA. No obstante, a\u00fan queda mucho trabajo por hacer para identificar todo lo que est\u00e1 dentro de esa <strong>caja negra<\/strong>. Ya veremos c\u00f3mo avanza esta iniciativa.<\/p>\n<section id=\"block-152\" class=\"below-content widget widget_block\"\/>\t<\/div>\n<p><a href=\"https:\/\/hipertextual.com\/2025\/05\/anthropic-todavia-no-sabe-como-funcionan-sus-ia-revela-su-ceo\" class=\" target=\" title=\"Anthropic todav\u00eda no sabe c\u00f3mo funcionan sus IA, revela su CEO\" target=\"_blank\" rel=\"noopener\">Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>El funcionamiento de los modelos de inteligencia artificial es tan asombroso como misterioso. Y Dario Amodei, CEO de Anthropic, la empresa responsable de Claude, ha sido bastante franco respecto de lo mucho que todav\u00eda les queda por aprender. A trav\u00e9s de su blog, el empresario reconoci\u00f3 que a\u00fan no saben c\u00f3mo funcionan sus IA, y [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":65018,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-65017","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/65017","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=65017"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/65017\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/65018"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=65017"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=65017"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=65017"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}