{"id":40904,"date":"2024-12-28T07:45:10","date_gmt":"2024-12-28T07:45:10","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/china-sigue-pisando-el-acelerador-con-la-ia-lo-demuestra-el-nuevo-y-gigantesco-modelo-de-deepseek\/"},"modified":"2024-12-28T07:45:10","modified_gmt":"2024-12-28T07:45:10","slug":"china-sigue-pisando-el-acelerador-con-la-ia-lo-demuestra-el-nuevo-y-gigantesco-modelo-de-deepseek","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=40904","title":{"rendered":"China sigue pisando el acelerador con la IA. Lo demuestra el nuevo y gigantesco modelo de DeepSeek"},"content":{"rendered":"
\n

Una startup china llamada DeepSeek acaba de lanzar DeepSeek V3<\/a>, un LLM absolutamente gigantesco que est\u00e1 disponible con una licencia MIT \u00ababierta\u00bb que permite a los desarrolladores descargarlo de GitHub<\/a> y modificarlo para diversos escenarios, incluyendo algunos comerciales.<\/p>\n

<\/p>\n

Rendimiento prometedor<\/strong>. Seg\u00fan las pruebas internas, DeepSeek V3 supera a modelos de IA Open Source como a otros propietarios y que solo pueden usarse a trav\u00e9s de una API. En pruebas como la de programaci\u00f3n de Codeforces el modelo chino logr\u00f3 superar a Llama 3.1 405B, a GPT-4o y a Qwen 2.5 72B, aunque todos ellos tienen muchos menos par\u00e1metros y eso puede influir en el rendimiento y las comparaciones. Solo Claude 3.5 Sonnet parece resistir<\/a> su capacidad, y super\u00f3 o igual\u00f3 al modelo chino en varias pruebas.<\/p>\n

<\/p>\n

\n
\n
\n \"Captura
\n \"Captura
\n <\/a><\/p><\/div>\n<\/div>\n

Entrenamiento eficiente y barato pero voraz<\/strong>. Seg\u00fan sus responsables, DeepSeek V3 \u00absolo\u00bb necesit\u00f3 2,788 millones de horas de entrenamiento en 2.048 GPUs H800, las versiones capadas de las H100 de NVIDIA<\/a>. Seg\u00fan sus responsables el entrenamiento cost\u00f3 tan solo 5,5 millones de d\u00f3lares, y se estima<\/a> que para entrenar GPT-4 OpenAI invirti\u00f3 cerca de 80 millones de d\u00f3lares. Para entrenarlo utilizaron un conjunto de datos (dataset) con 14,8 billones de tokens, una cifra igualmente enorme: un mill\u00f3n de tokens equivale aproximadamente a 750.000 palabras. Andrej Karpathy, cofundador de OpenAI (desde hace meses fuera de la empresa) se mostr\u00f3 sorprendido<\/a> por esa eficiencia y reducido coste del entrenamiento.<\/p>\n

<\/p>\n

Un 60% m\u00e1s grande que Llama 3.1 405B<\/strong>. Meta ten\u00eda hasta ahora uno de los modelos de IA m\u00e1s grandes del mercado con 405.000 millones de par\u00e1metros (405B). El modelo de DeepSeek llega a los 671B, casi un 66% m\u00e1s. La pregunta, claro, es si tantos par\u00e1metros sirven de algo.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"China
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Cuantos m\u00e1s par\u00e1metros, (normalmente) mejor<\/strong>. El n\u00famero de par\u00e1metros suele tener una fuerte relaci\u00f3n con la capacidad de los modelos. Los modelos de IA que corren localmente en nuestros PCs o m\u00f3viles suelen tener muchos menos (3B, 7B, 14B suelen ser sus tama\u00f1os) y los que se ejecutan en centros de datos son capaces de ser mucho m\u00e1s grandes y capaces tanto en precisi\u00f3n como en opciones y potencia, como ocurre con DeepSeek V3. Pero claro, cuanto m\u00e1s grandes son m\u00e1s recursos de computaci\u00f3n necesitan para ser usados con cierta fluidez.<\/p>\n

<\/p>\n

Dos innovaciones para lograr mejorar<\/strong>. DeepSeek V3 hace uso de una arquitectura Mixture-of-Experts<\/a> que solo activa algunos par\u00e1metros de forma \u00f3ptima para procesar diversas tareas de forma eficiente. Sus responsables han introducido dos mejoras llamativas en este nuevo modelo. La primera, una estrategia de balanceo de carga que monitoriza y ajusta la carga en los \u00abexpertos\u00bb. La segunda, un sistema de predicci\u00f3n de tokens. La combinaci\u00f3n de ambas permite que la generaci\u00f3n de tokens triplique la de DeepSeek V2: ahora llega a 60 tokens por segundo al usar el mismo hardware que su predecesor.<\/p>\n

<\/p>\n

China coge carrerilla<\/strong>. Este nuevo modelo \u00ababierto\u00bb es la \u00faltima demostraci\u00f3n del gran avance que China est\u00e1 haciendo a pesar<\/a> de los cortapisas<\/a> de la guerra comercial con Estados Unidos. DeepSeek ya nos sorprendi\u00f3 hace poco m\u00e1s de un mes con su modelo DeepSeek-R1<\/a>, capaz de competir con o1 de OpenAI en el \u00e1mbito del \u00abrazonamiento\u00bb por IA<\/a>. Y otras startups<\/a> y grandes empresas de tecnolog\u00eda chinas siguen trabajando de forma fren\u00e9tica, y los frutos son visibles<\/a> y prometedores. Y adem\u00e1s, con un enfoque Open Source que los hace especialmente interesantes para investigadores y acad\u00e9micos.<\/p>\n

<\/p>\n

Imagen | Xataka con Freepik Pikasso<\/p>\n

En Xataka | China iba a la zaga en IA, pero no para de lanzar modelos cada vez m\u00e1s avanzados. Y muy socialistas<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Una startup china llamada DeepSeek acaba de lanzar DeepSeek V3, un LLM absolutamente gigantesco que est\u00e1 disponible con una licencia MIT \u00ababierta\u00bb que permite a los desarrolladores descargarlo de GitHub y modificarlo para diversos escenarios, incluyendo algunos comerciales. Rendimiento prometedor. Seg\u00fan las pruebas internas, DeepSeek V3 supera a modelos de IA Open Source como a […]<\/p>\n","protected":false},"author":2,"featured_media":40905,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-40904","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/40904","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=40904"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/40904\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/40905"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=40904"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=40904"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=40904"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}