{"id":40209,"date":"2024-12-24T08:06:19","date_gmt":"2024-12-24T08:06:19","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/se-han-gastado-un-pastizal-en-entrenarlo-y-aun-asi-no-es-muchisimo-mejor-que-gpt-4\/"},"modified":"2024-12-24T08:06:19","modified_gmt":"2024-12-24T08:06:19","slug":"se-han-gastado-un-pastizal-en-entrenarlo-y-aun-asi-no-es-muchisimo-mejor-que-gpt-4","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=40209","title":{"rendered":"se han gastado un pastizal en entrenarlo y aun as\u00ed no es much\u00edsimo mejor que GPT-4"},"content":{"rendered":"
\n

La reciente hondanada de anuncios por parte de OpenAI ha demostrado el ritmo fren\u00e9tico al que la empresa est\u00e1 trabajando. En los \u00faltimos d\u00edas hemos conocido grandes novedades sobre Sora<\/a>, ChatGPT Search<\/a>, \u00a0ChatGPT en WhatsApp<\/a>, la disponibilidad masiva de o1<\/a> o el reciente o3<\/a> como grandes protagonistas. Todo parece irle de perlas a la empresa dirigida por Sam Altman, pero hay algo que probablemente le est\u00e9 quitando el sue\u00f1o: GPT-5.<\/p>\n

<\/p>\n

GPT-5 y Orion<\/strong>. La empresa lleva meses trabajando en su pr\u00f3ximo gran modelo de lenguaje, con nombre en clave Orion<\/a> pero que te\u00f3ricamente ser\u00e1 GPT-5. Se supone que el salto en prestaciones respecto a GPT-4 ser\u00e1 sensiblemente m\u00e1s grande que el que vimos de GPT-4 a GPT-4o, pero ah\u00ed est\u00e1 el problema. De momento, no lo es.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"He
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Retrasos y coste colosal<\/strong>. Como se\u00f1alan en The Wall Street Journal<\/a>, este proyecto no para de retrasarse, y por ejemplo Microsoft esperaba poder tener acceso a \u00e9l a mediados de 2024<\/a>. Hay algo a\u00fan peor: su desarrollo est\u00e1 teniendo un coste colosal que no para de crecer. Se estima que cada ronda de entrenamiento dura unos seis meses y cuesta 500 millones de d\u00f3lares. Seg\u00fan el diario, Altman ya indic\u00f3 en el pasado que entrenar GPT-4 cost\u00f3 m\u00e1s de 100 millones de d\u00f3lares.<\/p>\n

<\/p>\n

Dos entrenamientos que no acaban de cuajar<\/strong>. Orion ha sido entrenado con enormes cantidades de datos no una, sino dos veces. A pesar de ello no han parado de surgir problemas: en el segundo intento de entrenamiento se dieron cuenta de que el conjunto de datos no era tan diverso como pensaban. OpenAI hab\u00eda perdido mucho dinero y tiempo para volver a empezar ese proceso, y no est\u00e1 claro si ese segundo entrenamiento acab\u00f3 siendo encauzado con datos m\u00e1s ricos y \u00fatiles.<\/p>\n

<\/p>\n

Esto no compensa de momento<\/strong>. Los investigadores parecen haber quedado decepcionados con el rendimiento del modelo, seg\u00fan fuentes cercanas al proyecto. Aunque se comporta mejor que el actual modelo, sus prestaciones no justifican el enorme coste de desarrollo y ejecuci\u00f3n de Orion.<\/p>\n

<\/p>\n

\n
\n

Se supone que el salto en prestaciones de GPT-5 respecto a GPT-4 ser\u00e1 notable, pero ah\u00ed est\u00e1 el problema. De momento, no lo es.<\/p>\n<\/p><\/div>\n<\/div>\n

Sutskever ya avis\u00f3<\/strong>. Ilya Sutskever, cofundador de OpenAI que dej\u00f3 la empresa hace meses, declar\u00f3 en noviembre que entrenar modelos de IA con m\u00e1s y m\u00e1s GPUs y datos ya no sirve de mucho<\/a>. Las expectativas con respecto a GPT-5 se unen a las de los esfuerzos de otras compa\u00f1\u00edas que te\u00f3ricamente tambi\u00e9n est\u00e1n desarrollando chatbots cada vez m\u00e1s potentes. La sensaci\u00f3n es que la IA generativa, al menos de este tipo, se est\u00e1 estancando<\/a>.<\/p>\n

<\/p>\n

Altman y el peligro de las promesas<\/strong>. En julio de 2025 afirm\u00f3 que GPT-5 podr\u00eda llegar a finales de 2024 y principios de 2025. De hecho, prometi\u00f3 que el nuevo modelo supondr\u00eda \u00abun salto significativo\u00bb<\/a> en todo tipo de tareas y tem\u00e1ticas. La expectativa es que GPT-5 podr\u00eda convertirse en una herramienta tanto cient\u00edfica como cotidiana; una que adem\u00e1s cometer\u00eda menos errores que GPT-4\/ChatGPT.<\/p>\n

<\/p>\n

Generando datos de calidad<\/strong>. En OpenAI se encontraron con el problema de que ya no ten\u00edan muchos m\u00e1s datos de calidad con los que entrenar el modelo, as\u00ed que se propusieron crearlos de cero. Contrataron gente para escribir nuevos programas o solucionar problemas matem\u00e1ticos y luego \u00abconversar\u00bb con Orion para explicar esos resultados. Esas explicaciones son tambi\u00e9n te\u00f3ricamente valiosas para el desarrollo de un LLM, ya que pueden servir como un \u00abmapa\u00bb que permita a los modelos solucionar problemas similares en el futuro. No solo se trata de dar el resultado, sino de revisar c\u00f3mo se ha llegado hasta \u00e9l.<\/p>\n

<\/p>\n

Agentes de AI y chatbots que \u00abrazonan\u00bb al rescate<\/strong>. A pesar de estas dificultades, tanto OpenAI como sus competidores tienen en estos momentos dos grandes tendencias que vuelven a animar este segmento. La primera, la de los agentes de IA<\/a> que har\u00e1n cosas por nosotros de forma aut\u00f3noma. La segunda, la de los modelos que \u00abrazonan\u00bb<\/a> y que aun tardando m\u00e1s tiempo logran dar respuestas m\u00e1s correctas. La esperanza es que ambas propuestas acaben desplazando a los chatbots actuales, al menos en parte.<\/p>\n

<\/p>\n

En Xataka | Copilot, ChatGPT y GPT-4 han cambiado el mundo de la programaci\u00f3n para siempre. Esto opinan los programadores<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

La reciente hondanada de anuncios por parte de OpenAI ha demostrado el ritmo fren\u00e9tico al que la empresa est\u00e1 trabajando. En los \u00faltimos d\u00edas hemos conocido grandes novedades sobre Sora, ChatGPT Search, \u00a0ChatGPT en WhatsApp, la disponibilidad masiva de o1 o el reciente o3 como grandes protagonistas. Todo parece irle de perlas a la empresa […]<\/p>\n","protected":false},"author":2,"featured_media":40210,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-40209","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/40209","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=40209"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/40209\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/40210"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=40209"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=40209"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=40209"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}