{"id":8567,"date":"2024-06-28T18:38:19","date_gmt":"2024-06-28T18:38:19","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/de-los-creadores-de-sam-altman-lidera-el-comite-que-vigila-las-acciones-de-sam-altman-llega-gpt-4-supervisando-a-gpt-4\/"},"modified":"2024-06-28T18:38:19","modified_gmt":"2024-06-28T18:38:19","slug":"de-los-creadores-de-sam-altman-lidera-el-comite-que-vigila-las-acciones-de-sam-altman-llega-gpt-4-supervisando-a-gpt-4","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=8567","title":{"rendered":"De los creadores de \u00abSam Altman lidera el comit\u00e9 que vigila las acciones de Sam Altman\u00bb, llega GPT-4 supervisando a GPT-4"},"content":{"rendered":"<div>\n<p>\u201c<a href=\"https:\/\/www.xataka.com\/basics\/gpt-4o-que-que-se-diferencia-gpt-4\" target=\"_blank\" rel=\"noopener\">GPT-4<\/a> para detectar los errores de GPT-4\u201d, con estas palabras <a rel=\"noopener, noreferrer\" href=\"https:\/\/x.com\/gdb\/status\/1806374634641838196\">ha presentado<\/a> el presidente de OpenAI, Greg Brockman, la m\u00e1s reciente propuesta de la compa\u00f1\u00eda de inteligencia artificial para <strong>mejorar su modelo insignia<\/strong> en el campo de la programaci\u00f3n. Estamos hablando de CriticGPT, un modelo basado en GPT-4 dise\u00f1ado espec\u00edficamente para detectar errores en la salida de c\u00f3digo de <a href=\"https:\/\/www.xataka.com\/basics\/chatgpt-que-como-usarlo-que-puedes-hacer-este-chat-inteligencia-artificial\" target=\"_blank\" rel=\"noopener\">ChatGPT<\/a>.<\/p>\n<p><!-- BREAK 1 --> <\/p>\n<p>La firma respaldada por Microsoft asegura que CriticGPT ha demostrado ser muy efectivo para ayudar a las personas a detectar errores en las respuestas del famoso chatbot. En pruebas internas, explican, los resultados de las personas que recibieron la ayuda de CriticGPT superaron en un 60% a las que hicieron el trabajo en solitario. Ahora, este modelo est\u00e1 listo para pasar a la siguiente etapa.<\/p>\n<p><!-- BREAK 2 --><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_81 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Tabla de Contenido<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/enfoquenoticioso.com\/?p=8567\/#Una_nueva_herramienta_para_el_aprendizaje_por_refuerzo\" >Una nueva herramienta para el aprendizaje por refuerzo<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Una_nueva_herramienta_para_el_aprendizaje_por_refuerzo\"><\/span>Una nueva herramienta para el aprendizaje por refuerzo<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>En las tareas de entrenamiento de modelos como GPT-4 entra en escena lo que se conoce como aprendizaje por refuerzo a partir de la retroalimentaci\u00f3n humana (RLHF). Se trata de una t\u00e9cnica de machine learning que, en l\u00edneas generales, utiliza <strong>respuestas creadas por humanos<\/strong>, los llamados entrenadores de la IA, para mejorar la precisi\u00f3n del modelo para determinadas tareas.<\/p>\n<p><!-- BREAK 3 --> <\/p>\n<p>OpenAI comenzar\u00e1 a desplegar modelos similares a CriticGPT entre sus entrenadores para ayudarles a detectar los errores cada vez m\u00e1s sutiles que suele reproducir GPT-4 a trav\u00e9s de ChatGPT. \u201cEste es un paso para poder evaluar los resultados de los sistemas avanzados de IA que pueden ser dif\u00edciles de calificar para las personas sin mejores herramientas\u201d, <a rel=\"noopener, noreferrer\" href=\"https:\/\/openai.com\/index\/finding-gpt4s-mistakes-with-gpt-4\/\" target=\"_blank\">ha dicho la compa\u00f1\u00eda en su blog<\/a>.<\/p>\n<p><!-- BREAK 4 --><\/p>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\">\n                   <img class=\"centro_sinmarco\" height=\"642\" width=\"1284\" loading=\"lazy\" decoding=\"async\" sizes=\"auto, 100vw\" fetchpriority=\"high\" srcset=\"https:\/\/i.blogs.es\/846a56\/code_desktop_light\/450_1000.jpeg 450w, https:\/\/i.blogs.es\/846a56\/code_desktop_light\/650_1200.jpeg 681w,https:\/\/i.blogs.es\/846a56\/code_desktop_light\/1024_2000.jpeg 1024w, https:\/\/i.blogs.es\/846a56\/code_desktop_light\/1366_2000.jpeg 1366w\" src=\"https:\/\/i.blogs.es\/846a56\/code_desktop_light\/450_1000.jpeg\" alt=\"Code Desktop Light\"\/><br \/>\n   <img decoding=\"async\" alt=\"Code Desktop Light\" class=\"centro_sinmarco\" src=\"https:\/\/i.blogs.es\/846a56\/code_desktop_light\/450_1000.jpeg\"\/><\/p><\/div>\n<\/div>\n<p>Pero, \u00bfc\u00f3mo funciona CriticGPT? Como podemos ver en la imagen de arriba, el modelo escribe \u201ccr\u00edticas\u201d a las respuestas de ChatGPT. Estas cr\u00edticas no siempre son correctas, pero pueden ayudar a los entrenadores humanos a <strong>visibilizar problemas <\/strong>que podr\u00edan haber pasado desapercibidos. OpenAI describe a esta mec\u00e1nica como una \u201casistencia\u201d para el proceso de RLHF.<\/p>\n<p><!-- BREAK 5 --><\/p>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\">\n                   <img class=\"centro_sinmarco\" height=\"1823\" width=\"2400\" loading=\"lazy\" decoding=\"async\" sizes=\"auto, 100vw\" fetchpriority=\"high\" srcset=\"https:\/\/i.blogs.es\/fb2fe8\/gpt-4\/450_1000.jpeg 450w, https:\/\/i.blogs.es\/fb2fe8\/gpt-4\/650_1200.jpeg 681w,https:\/\/i.blogs.es\/fb2fe8\/gpt-4\/1024_2000.jpeg 1024w, https:\/\/i.blogs.es\/fb2fe8\/gpt-4\/1366_2000.jpeg 1366w\" src=\"https:\/\/i.blogs.es\/fb2fe8\/gpt-4\/450_1000.jpeg\" alt=\"Gpt 4\"\/><br \/>\n   <img decoding=\"async\" alt=\"Gpt 4\" class=\"centro_sinmarco\" src=\"https:\/\/i.blogs.es\/fb2fe8\/gpt-4\/450_1000.jpeg\"\/><\/p><\/div>\n<\/div>\n<p>CriticGPT, al estar basado en GPT-4, tambi\u00e9n pas\u00f3 por el proceso de aprendizaje por refuerzo a partir de la retroalimentaci\u00f3n humana. Por curioso que parezca, a la luz de las pruebas, parece ser una buena idea para que ChatGPT basado en GPT-4 mejore en tareas de programaci\u00f3n, campo donde <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/creiamos-que-chatgpt-era-genial-para-programar-han-hecho-estudio-mitad-sus-respuestas-incorrectas\" target=\"_blank\" rel=\"noopener\">algunos estudios han alertado el importante porcentaje de respuestas incorrectas del modelo<\/a>.<\/p>\n<p><!-- BREAK 6 --> <\/p>\n<div class=\"article-asset article-asset-normal article-asset-center\">\n<div class=\"desvio-container\">\n<div class=\"desvio\">\n<div class=\"desvio-figure js-desvio-figure\">\n    <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/cadena-jugueterias-acaba-publicar-primer-spot-publicitario-creado-sora-realismo-se-queda-a-medio-camino\" target=\"_blank\" rel=\"noopener\"><br \/>\n     <img loading=\"lazy\" decoding=\"async\" alt=\"Una cadena de jugueter\u00edas acaba de publicar el primer spot publicitario creado con Sora: el realismo se queda a medio camino\" width=\"375\" height=\"142\" src=\"https:\/\/i.blogs.es\/12b7b8\/spot-sora-jugueteria-portada\/375_142.jpeg\"\/><br \/>\n    <\/a>\n   <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n<p>La compa\u00f1\u00eda tambi\u00e9n est\u00e1 tratando de mejorar la seguridad de sus modelos despu\u00e9s de la <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/nueva-crisis-sacude-a-openai-su-equipo-superalineacion-temor-a-largo-plazo-ia-fuera-control\" target=\"_blank\" rel=\"noopener\">disoluci\u00f3n de su equipo de \u00absuperalineaci\u00f3n\u00bb<\/a>. Para ello tiene <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/sam-altman-liderara-comite-seguridad-openai-que-vigila-desarrollos-sam-altman-no-parece-gran-idea\" target=\"_blank\" rel=\"noopener\">un comit\u00e9 que est\u00e1 liderado por Sam Altman<\/a>. Una de las misiones de este comit\u00e9 es <strong>presentar recomendaciones <\/strong>al consejo de administraci\u00f3n presidido por Greg Brockman, pero de la compa\u00f1\u00eda que tiene como CEO a <a href=\"https:\/\/www.xataka.com\/empresas-y-economia\/quien-sam-altman-mente-empresarial-openai-chatgpt-dall-e-hombre-negocios-precoz-ia\" target=\"_blank\" rel=\"noopener\">Sam Altman<\/a>.<\/p>\n<p><!-- BREAK 7 --><\/p>\n<p>Im\u00e1genes | <a rel=\"noopener, noreferrer\" href=\"https:\/\/openai.com\/es-ES\/\" target=\"_blank\">OpenAI<\/a> | <a rel=\"noopener, noreferrer\" href=\"https:\/\/unsplash.com\/es\/fotos\/pluma-de-pavo-real-azul-y-verde-58Z17lnVS4U\" target=\"_blank\">Milad Fakurian<\/a> | <a rel=\"noopener, noreferrer\" href=\"https:\/\/flickr.com\/photos\/villageglobal\/52530764101\/in\/photolist-2o2XU2k-4GH1bL-2o31hop-2pidiLz-2n5Dq2G-2mHKtJg-dLXTpB-6dg5Xo-2oD1gme-2nx1gMq-gazzSf-2nhmVNS-2jHfhCi-2kU62Hg-2kU6KvC-2kJC2cm-2m2FkNX-2ku9Fue-2oCZ59q-2kv9h7u-2oCZ58U-2kskvNK-2kobVpZ-2koyQVF-2oD1gmQ-2hZuZ7b-2nYvEHp-KnymdQ-2kNPtpQ-2kEq94g-24v16G2-Sn2w88-2kv5AWD-2kRAhPQ-2kn7kqg-2oC7syw-2kuwzn9-2kt4Mzu-2kG9TLR-2kA4CsV-R4yA7C-2kDewi4-2kysEwN-2kyNKcT-2kwtWUw-2krvSTk-2kpiH7C-2kSVP1M-2kCqwYB-2oDUuqL\" target=\"_blank\">Village Global<\/a><\/p>\n<p>En Xataka | <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/youtube-ve-futuro-que-ia-clonara-musica-actual-convencer-a-discograficas-no-va-a-ser-nada-facil\" target=\"_blank\" rel=\"noopener\">YouTube ve un futuro en el que la IA clonar\u00e1 la m\u00fasica actual. Convencer a las discogr\u00e1ficas no va a ser nada f\u00e1cil<\/a><\/p>\n<\/p><\/div>\n<p><a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/creadores-sam-altman-lidera-comite-que-vigila-desarrollos-sam-altman-llega-gpt-4-supervisara-a-gpt-4\" class=\" target=\" title=\"De los creadores de \" Sam Altman lidera el que vigila las acciones de llega GPT-4 supervisando target=\"_blank\" rel=\"noopener\">Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u201cGPT-4 para detectar los errores de GPT-4\u201d, con estas palabras ha presentado el presidente de OpenAI, Greg Brockman, la m\u00e1s reciente propuesta de la compa\u00f1\u00eda de inteligencia artificial para mejorar su modelo insignia en el campo de la programaci\u00f3n. Estamos hablando de CriticGPT, un modelo basado en GPT-4 dise\u00f1ado espec\u00edficamente para detectar errores en la [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":8568,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-8567","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/8567","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8567"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/8567\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/8568"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8567"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8567"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8567"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}