{"id":26367,"date":"2024-10-09T21:25:55","date_gmt":"2024-10-09T21:25:55","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/estos-investigadores-han-logrado-que-la-ia-consuma-un-95-menos-de-energia-solo-hay-que-multiplicar-mejor\/"},"modified":"2024-10-09T21:25:55","modified_gmt":"2024-10-09T21:25:55","slug":"estos-investigadores-han-logrado-que-la-ia-consuma-un-95-menos-de-energia-solo-hay-que-multiplicar-mejor","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=26367","title":{"rendered":"Estos investigadores han logrado que la IA consuma un 95% menos de energ\u00eda. Solo hay que multiplicar mejor"},"content":{"rendered":"
\n

Cada vez que hacemos uso de ChatGPT o Midjourney estamos contribuyendo a un consumo de energ\u00eda (\u00a1y agua!<\/a>) excepcional. Ese es precisamente uno de los problemas del auge de la IA, y las empresas ya est\u00e1n pensando incluso en utilizar centrales nucleares<\/a> para satisfacer esa demanda. Mientras muchos se esfuerzan en pensar en m\u00e9todos de solucionar esas necesidades energ\u00e9ticas otros van justo a lo contrario: a lograr que la IA consuma mucho menos.<\/p>\n

<\/p>\n

IA a dieta<\/strong>. Como se\u00f1alan en Decrypt<\/a>, unos investigadores de la firma BitEnergy AI han desarrollado una nueva t\u00e9cnica para reducir el consumo de energ\u00eda por parte de estos modelos Seg\u00fan sus estimaciones, su m\u00e9todo permite ahorrar hasta un 95% de consumo energ\u00e9tico sin comprometer la calidad de estos sistemas.<\/p>\n

<\/p>\n

Multiplicar mejor<\/strong>. La clave de esta \u00abdieta\u00bb est\u00e1 en la forma de multiplicar n\u00fameros de coma flotante, una operaci\u00f3n intensiva en c\u00e1lculos de IA. En lugar de multiplicar, los investigadores aplican sumas de enteros, lo que seg\u00fan sus an\u00e1lisis permite reducir de forma dr\u00e1stica las necesidades energ\u00e9ticas de la operaci\u00f3n.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Hemos
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

N\u00fameros con coma<\/strong>. La coma flotante es un concepto matem\u00e1tico que permite a los ordenadores gestionar n\u00fameros enormes y muy peque\u00f1os de forma eficiente con una sencilla operaci\u00f3n: la colocaci\u00f3n de la coma (o, para pa\u00edses con otra notaci\u00f3n, el punto) decimal. Cuanto mayor es el n\u00famero (\u00abanchura\u00bb) de bits, mayor precisi\u00f3n obtenemos en los c\u00e1lculos, pero tambi\u00e9n mayor es el gasto de energ\u00eda (o las necesidades de memoria del sistema). De ah\u00ed que por ejemplo FP32 (usado en algoritmos de aprendizaje profundo) ofrezca mayor precisi\u00f3n que FP8 (usado en el entrenamiento e inferencia, donde no se exige tanta precisi\u00f3n).<\/p>\n

<\/p>\n

L-Mul<\/strong>. El algoritmo desarrollado por estos investigadores cambia multiplicaciones por sumas de enteros. Descompone esas multiplicaciones haciendo uso de sumas, lo que acelera los c\u00e1lculos y reduce el consumo energ\u00e9tico sin que eso impacte en la precisi\u00f3n del resultado.<\/p>\n

<\/p>\n

Necesita hardware especial<\/strong>. Sacar provecho de este m\u00e9todo no obstante tiene un inconveniente: es necesario contar ocn un tipo de hardware espec\u00edfico, y los sistemas actuales no est\u00e1n optimizados para lograr dichas reducciones. Aun as\u00ed los investigadores aseguran que sus algoritmos est\u00e1n siendo implementados con chips hardware, y es de esperar que en un futuro pr\u00f3ximo esa opci\u00f3n est\u00e9 disponible de forma pr\u00e1ctica.<\/p>\n

<\/p>\n

Prometedor<\/strong>. Los desarrolladores del m\u00e9todo afirman que esta t\u00e9cnica permite que los sistemas de IA \u00abpuede reducir potencialmente en un 95% el coste energ\u00e9tico de las multiplicaciones tensor en coma flotante por elementos y en un 80% el de los productos punto\u00bb. Los tensores son matrices multidimensionales de n\u00fameros que representan datos en redes neuronales.<\/p>\n

<\/p>\n

Multiplicar matrices es un reto<\/strong>. Encontrar formas mejores de multiplicar matrices se ha convertido en un singular reto matem\u00e1tico para todo tipo de entidades y empresas. DeepMind ya desvel\u00f3 su propio sistema<\/a> para mejorar la multiplicaci\u00f3n de matrices a finales de 2022, y apenas un a\u00f1o despu\u00e9s un equipo de la Universidad Polit\u00e9cnica de Valencia tambi\u00e9n ofrecieron una alternativa igualmente prometedora<\/a>.<\/p>\n

<\/p>\n

En Xataka | Los f\u00edsicos tienen algo incre\u00edble: un m\u00e9todo muy preciso para simular agujeros negros en su laboratorio<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Cada vez que hacemos uso de ChatGPT o Midjourney estamos contribuyendo a un consumo de energ\u00eda (\u00a1y agua!) excepcional. Ese es precisamente uno de los problemas del auge de la IA, y las empresas ya est\u00e1n pensando incluso en utilizar centrales nucleares para satisfacer esa demanda. Mientras muchos se esfuerzan en pensar en m\u00e9todos de […]<\/p>\n","protected":false},"author":2,"featured_media":26368,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-26367","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/26367","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=26367"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/26367\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/26368"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=26367"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=26367"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=26367"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}