{"id":12621,"date":"2024-07-19T01:20:18","date_gmt":"2024-07-19T01:20:18","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/openai-revela-un-nuevo-algoritmo-para-sus-ias-que-hara-mucho-mas-facil-entenderlas\/"},"modified":"2024-07-19T01:20:18","modified_gmt":"2024-07-19T01:20:18","slug":"openai-revela-un-nuevo-algoritmo-para-sus-ias-que-hara-mucho-mas-facil-entenderlas","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=12621","title":{"rendered":"OpenAI revela un nuevo algoritmo para sus IAs que har\u00e1 mucho m\u00e1s f\u00e1cil entenderlas"},"content":{"rendered":"<div>\n<p>OpenAI ha lanzado <strong>un nuevo algoritmo para entender mejor a sus IAs<\/strong>, y m\u00e1s espec\u00edficamente, a sus modelos de lenguaje peque\u00f1os \u2014tales como ChatGT\u2014 que se nutren de otros modelos de lenguaje de mayor tama\u00f1o \u2014como <a href=\"https:\/\/hipertextual.com\/2024\/03\/gpt-4-turbo-gratis\" target=\"_blank\" rel=\"noopener\">GPT-4<\/a>\u2014 para responder las dudas o cualquier consulta que realiza el usuario. El objetivo, seg\u00fan la compa\u00f1\u00eda, es que los modelos m\u00e1s d\u00e9biles puedan crear textos que los humanos puedan entender de una manera m\u00e1s efectiva y, por ende, mejorar la legibilidad de los mismos. <\/p>\n<p>En un art\u00edculo <a href=\"https:\/\/openai.com\/index\/prover-verifier-games-improve-legibility\/\" target=\"_blank\" rel=\"noopener\">publicado<\/a> por la propia OpenAI y titulado <strong>\u201cLos juegos de comprobaci\u00f3n y verificaci\u00f3n mejoran la legibilidad de los resultados de los LLM\u201d<\/strong>, la compa\u00f1\u00eda destaca que hasta ahora han optimizado \u201cel proceso de resoluci\u00f3n de problemas de modelos s\u00f3lidos\u201d con el objetivo de \u00fanicamente obtener una respuesta correcta. Pero que, sin embargo, en la mayor\u00eda de ocasiones estas soluciones pueden ser dif\u00edciles de entender. <\/p>\n<p>La soluci\u00f3n para este problema es crear <strong>un sistema de juegos de comprobaci\u00f3n y verificaci\u00f3n<\/strong>, donde, por un lado, se garantiza que la respuesta que ofrece la IA sea correcta, a la vez que f\u00e1cil de entender por el usuario y f\u00e1cilmente verificable por otros sistemas de IA. <\/p>\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p>\u00abComprender y abordar el equilibrio entre rendimiento y legibilidad puede conducir a aplicaciones de IA m\u00e1s efectivas y confiables, beneficiando una amplia gama de campos donde la comunicaci\u00f3n precisa y clara es esencial\u00bb.<\/p>\n<\/blockquote>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_81 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Tabla de Contenido<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/enfoquenoticioso.com\/?p=12621\/#Como_funciona_el_juego_de_probador_y_verificador_de_OpenAI\" >C\u00f3mo funciona el juego de probador y verificador de OpenAI<\/a><ul class='ez-toc-list-level-4' ><li class='ez-toc-heading-level-4'><ul class='ez-toc-list-level-4' ><li class='ez-toc-heading-level-4'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/enfoquenoticioso.com\/?p=12621\/#Tambien_en_Hipertextual\" >Tambi\u00e9n en Hipertextual:<\/a><\/li><\/ul><\/li><\/ul><\/li><\/ul><\/nav><\/div>\n<h2 class=\"wp-block-heading has-text-align-center\" id=\"h-como-funciona-el-juego-de-probador-y-verificador-de-openai\"><span class=\"ez-toc-section\" id=\"Como_funciona_el_juego_de_probador_y_verificador_de_OpenAI\"><\/span>C\u00f3mo funciona el juego de probador y verificador de OpenAI<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<figure class=\"wp-block-image alignwide size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"438\" alt=\"ChatGPT, el chatbot de OpenAI\" class=\"wp-image-1748548 perfmatters-lazy\" data-recalc-dims=\"1\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5-1500x843.jpg?resize=780%2C438&amp;quality=55&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=1500%2C843&amp;quality=55&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=800%2C450&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=768%2C432&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=1536%2C864&amp;quality=55&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=2048%2C1152&amp;quality=55&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=1200%2C675&amp;quality=55&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=1568%2C882&amp;quality=55&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=400%2C225&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5-1500x843.jpg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"438\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5-1500x843.jpg?resize=780%2C438&amp;quality=55&amp;strip=all&amp;ssl=1\" alt=\"ChatGPT, el chatbot de OpenAI\" class=\"wp-image-1748548\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=1500%2C843&amp;quality=55&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=800%2C450&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=768%2C432&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=1536%2C864&amp;quality=55&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=2048%2C1152&amp;quality=55&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=1200%2C675&amp;quality=55&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=1568%2C882&amp;quality=55&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5.jpg?resize=400%2C225&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/08\/OpenAI-ChatGPT-GPT-5-1500x843.jpg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\" data-recalc-dims=\"1\"\/><\/figure>\n<p>Lo cierto es que este sistema de IA que est\u00e1 empezando a usar OpenAI para entrenar a sus modelos no es algo nuevo. De hecho, lo descubrieron <a href=\"https:\/\/arxiv.org\/pdf\/2108.12099\" target=\"_blank\" rel=\"noopener\">en 2021<\/a> varios investigadores de aprendizaje autom\u00e1tico de la Universidad de Toronto y el Instituto Vector de Inteligencia Artificial. Consiste en combinar dos modelos de IA: <strong>uno m\u00e1s potente que se encarga de probar, y otro menos avanzado; el verificador<\/strong>, cuyo cometido es \u2014tal y como su propio nombre indica\u2014 verificar que el probador ha lanzado la respuesta correcta. <\/p>\n<p>Despu\u00e9s, el probador <strong>se dedica a ofrecer soluciones<\/strong>, tanto correctas como incorrectas, que intenten convencer al verificador, mientras que el objetivo del verificador es seleccionar la respuesta correcta, pese a que el probador, para distraerle, intente convencerle de que no lo es. <\/p>\n<p>OpenAI, sin embargo, <strong>ha usado este sistema cambiando un poco las reglas<\/strong>: configuraron el modelo m\u00e1s avanzado para que fuera \u201c\u00fatil\u201d y diera la respuesta correcta al verificador (un modelo m\u00e1s simple) o, en cambio, \u201castuto\u201d para que pudiese convencer al verificador de que su respuesta era correcta sin importar si lo era. El modelo menos inteligente no sab\u00eda si estaba tratando con un comprobador \u00fatil o astuto y ten\u00eda que evaluar las respuestas bas\u00e1ndose solo en su propio entrenamiento sobre si eran correctas o no. <\/p>\n<p>OpenAI, adem\u00e1s, <strong>realizaba diferentes rondas con los datos de desempe\u00f1o de las anteriores<\/strong>, para as\u00ed mejorar todav\u00eda m\u00e1s las habilidades de cada modelo. El resultado ha hecho que el modelo verificador pueda ser capaz de resistir las t\u00e9cnicas de persuasi\u00f3n del modelo probador m\u00e1s astuto, mientras que este tambi\u00e9n es capaz de ofrecer respuestas m\u00e1s entendibles para el ser humano. <\/p>\n<p>La compa\u00f1\u00eda asegura que este tipo de sistemas son fundamentales para desarrollar modelos de IA tanto correctos como verificables de forma transparente, lo que permitir\u00e1 mejorar su uso y confianza en aplicaciones en el mundo real.<\/p>\n<section id=\"block-138\" class=\"below-content widget widget_block\">\n<div class=\"wp-block-group hiper-newsletter-box is-style-border has-primary-color has-text-color has-link-color wp-elements-0ed801534744c4072a1fbdfcb3b02d4e\" style=\"padding-top:15px;padding-right:15px;padding-bottom:15px;padding-left:15px\">\n<div class=\"wp-block-group__inner-container is-layout-constrained wp-container-core-group-is-layout-1 wp-block-group-is-layout-constrained\">\n<p class=\"has-primary-color has-text-color\">Recibe cada ma\u00f1ana nuestra <a href=\"https:\/\/hipertextual.com\/newsletter\" target=\"_blank\" rel=\"noreferrer noopener\">newsletter<\/a>. Una gu\u00eda para entender lo que importa en relaci\u00f3n con la tecnolog\u00eda, la ciencia y la cultura digital. <\/p>\n<p><iframe width=\"480\" height=\"150\" style=\"border:none; background:transparent; text-align:center; display:block; margin:auto;\" frameborder=\"0\" scrolling=\"no\" class=\"perfmatters-lazy\" data-src=\"https:\/\/hipertextual.substack.com\/embed\"><\/iframe><noscript><iframe loading=\"lazy\" src=\"https:\/\/hipertextual.substack.com\/embed\" width=\"480\" height=\"150\" style=\"border:none; background:transparent; text-align:center; display:block; margin:auto;\" frameborder=\"0\" scrolling=\"no\"><\/iframe><\/noscript>\n<\/div>\n<\/div>\n<\/section>\n<section id=\"block-74\" class=\"below-content widget widget_block\">\n<\/section>\n<section id=\"block-71\" class=\"below-content widget widget_block\">\n<h4 class=\"wp-block-heading tambien-en-hipertextual\" id=\"h-tambien-en-hipertextual\" style=\"padding-top:0.8em;padding-right:0px;padding-bottom:0px;padding-left:0px\"><span class=\"ez-toc-section\" id=\"Tambien_en_Hipertextual\"><\/span>Tambi\u00e9n en Hipertextual:<span class=\"ez-toc-section-end\"><\/span><\/h4>\n<\/section>\n<section id=\"block-32\" class=\"below-content widget widget_block\">\n<nav class=\"jp-relatedposts-i2 jp-related-hipertextual wp-block-jetpack-related-posts has-normal-font-size\" style=\"padding-bottom:0px;padding-left:0px;padding-top:0px;padding-right:1.5em;\" data-layout=\"list\" aria-label=\"Entradas relacionadas\"\/><\/section>\n<\/p><\/div>\n<p><a href=\"https:\/\/hipertextual.com\/2024\/07\/nuevo-algoritmo-openai-ias-mas-faciles-de-entender\" class=\" target=\" title=\"OpenAI revela un nuevo algoritmo para sus IAs que har\u00e1 mucho m\u00e1s f\u00e1cil entenderlas\" target=\"_blank\" rel=\"noopener\">Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>OpenAI ha lanzado un nuevo algoritmo para entender mejor a sus IAs, y m\u00e1s espec\u00edficamente, a sus modelos de lenguaje peque\u00f1os \u2014tales como ChatGT\u2014 que se nutren de otros modelos de lenguaje de mayor tama\u00f1o \u2014como GPT-4\u2014 para responder las dudas o cualquier consulta que realiza el usuario. El objetivo, seg\u00fan la compa\u00f1\u00eda, es que [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":12622,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-12621","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/12621","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=12621"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/12621\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/12622"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=12621"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=12621"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=12621"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}