{"id":26362,"date":"2024-10-09T20:52:55","date_gmt":"2024-10-09T20:52:55","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/un-experto-en-inteligencia-artificial-advierte-de-sus-riesgos\/"},"modified":"2024-10-09T20:52:55","modified_gmt":"2024-10-09T20:52:55","slug":"un-experto-en-inteligencia-artificial-advierte-de-sus-riesgos","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=26362","title":{"rendered":"Un experto en inteligencia artificial advierte de sus riesgos"},"content":{"rendered":"<div>\n<p>Muchos anticiparon que este a\u00f1o el <strong>premio Nobel de f\u00edsica <\/strong>podr\u00eda ir dirigido a la <strong>Inteligencia Artificial<\/strong>. <a href=\"https:\/\/hipertextual.com\/2024\/10\/premio-nobel-de-fisica-2024\" target=\"_blank\" rel=\"noopener\">As\u00ed ha sido<\/a>. El galard\u00f3n ha ca\u00eddo en las manos de <strong>John Hopfield y Geoffrey Hinton<\/strong>, por sus importantes descubrimientos en el \u00e1rea de las redes neuronales. Ambos tuvieron un papel esencial, aunque el segundo ha sido el que ha estado m\u00e1s al pie del ca\u00f1\u00f3n en esta \u00e1rea con el paso de los a\u00f1os. Tanto como para llegar durante un tiempo a arrepentirse de sus descubrimientos, por el riesgo que pueden llegar a entra\u00f1ar para la humanidad.<\/p>\n<p>Son muchas las entrevistas en las que declar\u00f3 haberse sentido arrepentido por la deriva que ha tomado la inteligencia artificial con el paso de los a\u00f1os. En una de las m\u00e1s recientes, <a href=\"https:\/\/www.abc.es\/xlsemanal\/a-fondo\/geoffrey-hinton-padrino-inteligencia-artificial-deja-silicon-valley-amenaza.html\" target=\"_blank\" rel=\"noopener\">publicada por<em> XLSemanal<\/em><\/a>, se\u00f1ala que no siente un arrepentimiento culpable. Sabe que si no hubiese sido \u00e9l el responsable del hallazgo, m\u00e1s tarde habr\u00eda sido otra persona. No obstante, le preocupa lo que puede llegar a ocurrir si la IA <strong>no se regula adecuadamente.<\/strong><\/p>\n<p>Y es que la Inteligencia Artificial (IA) es una herramienta apasionante. Puede hacer nuestra vida infinitamente m\u00e1s f\u00e1cil, pero tambi\u00e9n tiene la capacidad de truncarla por completo. Es precisamente ese potencial el que la hace tan atractiva como para merecer un premio Nobel de F\u00edsica. \u00bfPero por qu\u00e9 han sido Hopfield y Hinton los afortunados? \u00bfCu\u00e1les son esos riesgos que tanto preocupan a Hinton? Sobre esto y mucho m\u00e1s hemos hablado con <strong>Francisco Herrera<\/strong>, director del <a href=\"https:\/\/dasci.es\/es\/medios\/noticias\/nobel-de-fisica-para-los-trabajos-fundacionales-sobre-el-aprendizaje-profundo-con-redes-neuronales-artificiales\/\" target=\"_blank\" rel=\"noopener\">Instituto Andaluz Interuniversitario de Data Science and Artificial Intelligence (DaSCI)<\/a>.\u00a0<\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_81 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Tabla de Contenido<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/enfoquenoticioso.com\/?p=26362\/#Los_primeros_pasos_de_una_ciencia_que_cambiaria_el_mundo\" >Los primeros pasos de una ciencia que cambiar\u00eda el mundo<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/enfoquenoticioso.com\/?p=26362\/#Una_ventana_al_futuro\" >Una ventana al futuro<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/enfoquenoticioso.com\/?p=26362\/#Llega_la_primavera_de_la_Inteligencia_Artificial\" >Llega la primavera de la Inteligencia Artificial<\/a><ul class='ez-toc-list-level-3' ><li class='ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/enfoquenoticioso.com\/?p=26362\/#El_Deep_Learning_gana_la_partida\" >El Deep Learning gana la partida<\/a><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/enfoquenoticioso.com\/?p=26362\/#Luces_y_sombras_de_la_Inteligencia_Artificial\" >Luces y sombras de la Inteligencia Artificial<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/enfoquenoticioso.com\/?p=26362\/#Cuando_la_IA_toma_el_control\" >Cuando la IA toma el control<\/a><\/li><\/ul><\/nav><\/div>\n<h2 class=\"wp-block-heading\" id=\"h-los-primeros-pasos-de-una-ciencia-que-cambiaria-el-mundo\"><span class=\"ez-toc-section\" id=\"Los_primeros_pasos_de_una_ciencia_que_cambiaria_el_mundo\"><\/span>Los primeros pasos de una ciencia que cambiar\u00eda el mundo<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Las investigaciones de Hopfield y Hinton se llevaron a cabo en la d\u00e9cada de 1980. Sin embargo, para ver el nacimiento de la IA debemos retroceder a los a\u00f1os 50. El inform\u00e1tico John McCarthy propuso el t\u00e9rmino de IA para hacer referencia a la ciencia e ingenier\u00eda para el desarrollo de artefactos con comportamiento inteligente en tareas que lo requieren si las hiciesen los humanos. Por otro lado, el psic\u00f3logo Frank Rosemblatt desarroll\u00f3 el modelo del perceptr\u00f3n en el a\u00f1o 1958 bas\u00e1ndose en ideas introducidas por McCulloch y Pitts en 1943. Fue entonces cuando hablaron por primera vez sobre la posibilidad de crear redes neuronales como si fueran ordenadores.<\/p>\n<p>Con este modelo se intent\u00f3 por primera vez desarrollar una serie de conexiones entre resistencias el\u00e9ctricas que funcionan como las neuronas y sus sinapsis. Rosemblatt consigui\u00f3 obtener <strong>una sola capa de neuronas artificiales<\/strong>. Lamentablemente, este modelo no lleg\u00f3 muy lejos, pues no desarroll\u00f3 las capacidades que se esperaba de \u00e9l. Como explica Herrera, \u201cno ten\u00eda capacidad de llegar a alcanzar <strong>cualidades cognitivas potentes de aprendizaje<\/strong>\u201d.<\/p>\n<p>En los a\u00f1os 70, ante la imposibilidad de avanzar con el modelo del perceptr\u00f3n, entramos en lo que se conoce como el<strong> invierno de la Inteligencia Artificial<\/strong>. No ten\u00eda potencial para avanzar y cay\u00f3 pr\u00e1cticamente en desuso. Fue entonces cuando llegaron Hopfield y Hinton con esos rompedores hallazgos que acaban de valer un premio Nobel.<\/p>\n<aside class=\"scaip scaip-1    \">\n<aside id=\"newspack-ads-widget-52\" class=\"widget_newspack-ads-widget clearfix\"\/>\n<aside id=\"block-140\" class=\"widget_block clearfix\">\n<div class=\"wp-block-group has-white-color has-text-color has-background has-link-color has-normal-font-size wp-elements-8b59c1c3ac741e322c38063c7fe76880\" style=\"background:linear-gradient(171deg,rgb(238,0,0) 0%,rgb(125,23,220) 100%)\">\n<div class=\"wp-block-group__inner-container is-layout-constrained wp-block-group-is-layout-constrained\">\n<h2 class=\"wp-block-heading has-text-align-center\" id=\"h-no-te-quedes-atras\"><span class=\"ez-toc-section\" id=\"Una_ventana_al_futuro\"><\/span>Una ventana al futuro<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p class=\"has-text-align-center\">Inf\u00f3rmate cada ma\u00f1ana con nuestra <a href=\"https:\/\/hipertextual.con\/newsletter\" target=\"_blank\" rel=\"noopener\">newsletter<\/a>, descubre lo m\u00e1s importante de la tecnolog\u00eda, la ciencia, series de TV y pel\u00edculas.<\/p>\n<\/div>\n<\/div>\n<\/aside>\n<aside id=\"block-123\" class=\"widget_block clearfix\"\/><\/aside>\n<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-llega-la-primavera-de-la-inteligencia-artificial\"><span class=\"ez-toc-section\" id=\"Llega_la_primavera_de_la_Inteligencia_Artificial\"><\/span>Llega la primavera de la Inteligencia Artificial<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>En realidad, durante el invierno de la IA esta no cay\u00f3 en desuso por completo. Se estuvo realizando lo que se conoce como <strong>IA simb\u00f3lica<\/strong>. Sin embargo, esta no se basaba en redes neuronales capaces de aprender, sino en normas regidas por la l\u00f3gica. Esto, l\u00f3gicamente, restring\u00eda mucho sus aplicaciones. Por eso, fue necesaria la irrupci\u00f3n en escena de Hinton y Hopfield para dar un vuelco a la situaci\u00f3n.\u00a0<\/p>\n<p>Hinton fue el padre del llamado <strong>modelo de entrenamiento de retropropagaci\u00f3n. <\/strong>Gracias a esto, <a href=\"https:\/\/www.cs.toronto.edu\/~fritz\/absps\/fahlmanBM.pdf\" target=\"_blank\" rel=\"noopener\">se consegu\u00eda<\/a> que m\u00faltiples capas de neuronas pudieran <strong>entrenarse y <em>aprender<\/em><\/strong>. El perceptr\u00f3n solo permit\u00eda el aprendizaje con una capa, por lo que este fue un avance revolucionario.<\/p>\n<figure class=\"wp-block-image alignwide size-large\"><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"780\" height=\"553\" alt=\"premio nobel de f\u00edsica\" class=\"wp-image-1815250 perfmatters-lazy\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB-1500x1063.jpg?resize=780%2C553&amp;quality=70&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=1500%2C1063&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=800%2C567&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=768%2C544&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=1536%2C1089&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=1200%2C851&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=1024%2C726&amp;quality=70&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=1568%2C1112&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=400%2C284&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?w=1611&amp;quality=70&amp;strip=all&amp;ssl=1 1611w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB-1500x1063.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"780\" height=\"553\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB-1500x1063.jpg?resize=780%2C553&amp;quality=70&amp;strip=all&amp;ssl=1\" alt=\"premio nobel de f\u00edsica\" class=\"wp-image-1815250\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=1500%2C1063&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=800%2C567&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=768%2C544&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=1536%2C1089&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=1200%2C851&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=1024%2C726&amp;quality=70&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=1568%2C1112&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?resize=400%2C284&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB.jpg?w=1611&amp;quality=70&amp;strip=all&amp;ssl=1 1611w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/10\/GZW9tFIW0AAMOPB-1500x1063.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\"\/><figcaption class=\"wp-element-caption\">Los ganadores del Nobel acabaron con el invierno de la IA. Cr\u00e9dito: Asamblea del Nobel<\/figcaption><\/figure>\n<p>Mientras tanto, Hopefield <a href=\"https:\/\/www.ncbi.nlm.nih.gov\/pmc\/articles\/PMC346238\/\" target=\"_blank\" rel=\"noopener\">public\u00f3 un art\u00edculo muy importante en <em>PNAS<\/em><\/a> donde propuso un modelo que introduce redes artificiales recurrentes, capaces de volver hacia atr\u00e1s en el razonamiento. Estas, junto a la capacidad de entrenamiento de los modelos de Hinton son los dos elementos bases del actual <strong>Deep learning<\/strong>. \u201cEllos son los que rompen el invierno de la IA con sus resultados, porque la IA conexionista estaba en un punto muerto\u201d.<\/p>\n<p>Llegados aqu\u00ed, si bien la IA simb\u00f3lica se sigui\u00f3 usando durante los a\u00f1os 80, con los sistemas expertos como tecnolog\u00eda de IA referente, \u00e9sta fue dejando hueco poco a poco a todos los modelos de Deep Learning que surgir\u00edan despu\u00e9s.<\/p>\n<h3 class=\"wp-block-heading\" id=\"h-el-deep-learning-gana-la-partida\"><span class=\"ez-toc-section\" id=\"El_Deep_Learning_gana_la_partida\"><\/span>El Deep Learning gana la partida<span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p>Tanto la IA simb\u00f3lica como el Deep Learning han ganado muchas partidas. Literalmente.<\/p>\n<p>En los a\u00f1os 1996 y 1997, un algoritmo basado en la IA simb\u00f3lica, <strong>Deep Blue<\/strong>, <a href=\"https:\/\/www.chessgames.com\/perl\/chess.pl?pid=29912&amp;pid2=15940\" target=\"_blank\" rel=\"noopener\">gan\u00f3 varias partidas de ajedrez<\/a> al entonces campe\u00f3n del mundo, <strong>Garri Kasparov.<\/strong> En la primera ocasi\u00f3n, la IA logr\u00f3 ganar solo 1 de las 6 partidas, mientras que Kasparov venci\u00f3 en 3 y otras 2 quedaron en tablas. Sin embargo, tras mejorar el algoritmo en 1997, Deep Blue venci\u00f3 en dos ocasiones y empat\u00f3 en otras 3. Kasparov solo pudo ganar una de las partidas.\u00a0<\/p>\n<p>Esto ya fue un gran hito, pero la situaci\u00f3n se volvi\u00f3 a\u00fan m\u00e1s revolucionaria con la llegada de los modelos de Hinton y Hopfield. \u201cActualmente hay modelos de redes neuronales que han dado un salto cualitativo en el \u00e1mbito del ajedrez y la teor\u00eda de juegos\u201d, se\u00f1ala Herrera. \u201cEs el caso de <strong>AlphaZero<\/strong>, por ejemplo\u201d.<\/p>\n<figure class=\"wp-block-image alignwide size-large\"><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"780\" height=\"511\" alt=\"ajedrez\" class=\"wp-image-1044937 perfmatters-lazy\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=780%2C511&amp;quality=70&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=1500%2C983&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=800%2C524&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=768%2C503&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=1536%2C1007&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=2048%2C1342&amp;quality=70&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=1200%2C787&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=1568%2C1028&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=400%2C262&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=275%2C180&amp;quality=70&amp;strip=all&amp;ssl=1 275w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?w=2340&amp;quality=70&amp;strip=all&amp;ssl=1 2340w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled-1500x983.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"780\" height=\"511\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=780%2C511&amp;quality=70&amp;strip=all&amp;ssl=1\" alt=\"ajedrez\" class=\"wp-image-1044937\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=1500%2C983&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=800%2C524&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=768%2C503&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=1536%2C1007&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=2048%2C1342&amp;quality=70&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=1200%2C787&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=1568%2C1028&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=400%2C262&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?resize=275%2C180&amp;quality=70&amp;strip=all&amp;ssl=1 275w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled.jpg?w=2340&amp;quality=70&amp;strip=all&amp;ssl=1 2340w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2017\/12\/luiz-hanfilaque-342635-scaled-1500x983.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\"\/><figcaption class=\"wp-element-caption\">La IA tiene un estilo de juego muy agresivo. Nunca busca las tablas, solo ganar. Cr\u00e9dito: Luiz Hanfilaque(Unsplash)<\/figcaption><\/figure>\n<p>Aqu\u00ed, surge inevitablemente una pregunta. \u00bfQui\u00e9n ganar\u00eda una partida de ajedrez entre Deep Blue y AlphaZero? El experto en inteligencia artificial entrevistado por este medio lo tiene claro: AlphaZero.<\/p>\n<p>De hecho, Herrera nos cuenta que hoy en d\u00eda han surgido en la India much\u00edsimos j\u00f3venes ajedrecistas que <a href=\"https:\/\/www.chess.com\/es\/terms\/modulos-de-ajedrez#lc0\" target=\"_blank\" rel=\"noopener\">se entrenan<\/a> con m\u00f3dulo de inteligencia artificial y con apenas <strong>16 o 17 a\u00f1os <\/strong>son ya verdaderos campeones. \u201cJuegan igual que la Inteligencia Artificial\u201d, relata el director del DaSCI. \u201cTienen un juego muy agresivo, pues van siempre a ganar. No buscan las tablas\u201d.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-luces-y-sombras-de-la-inteligencia-artificial\"><span class=\"ez-toc-section\" id=\"Luces_y_sombras_de_la_Inteligencia_Artificial\"><\/span>Luces y sombras de la Inteligencia Artificial<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>L\u00f3gicamente, el \u00fanico papel de la Inteligencia Artificial no es ganar partidas de ajedrez. Este es un buen ejemplo de c\u00f3mo ha logrado igualar primero y superar despu\u00e9s las capacidades del propio ser humano. Pero hoy en d\u00eda su potencial va much\u00edsimo m\u00e1s all\u00e1.<\/p>\n<p>Durante la presentaci\u00f3n del premio Nobel de f\u00edsica, la directora del comit\u00e9 del Nobel en esta materia coment\u00f3 que una de las aplicaciones de la Inteligencia Artificial es la <strong>obtenci\u00f3n de nuevos materiales.\u00a0<\/strong><\/p>\n<p>Esto es posible gracias a la capacidad de explorar en todas las posibles opciones y escoger los candidatos con las mejores propiedades para un fin determinado. Por ejemplo, los <strong>materiales cristalinos inorg\u00e1nicos<\/strong> <a href=\"https:\/\/puertoie.com\/la-inteligencia-artificial-deepmind-impulsa-800-anos-hacia-el-futuro-la-ciencia-de-los-materiales\/\" target=\"_blank\" rel=\"noopener\">tienen un gran n\u00famero de aplicaciones<\/a>, sobre todo en el \u00e1rea de la electr\u00f3nica. Sin embargo, sintetizarlos puede ser muy costoso y el resultado no siempre es el esperado. Es posible que uno de estos cristales mejore el rendimiento de las bater\u00edas, pero a la hora de la verdad sea muy fr\u00e1gil y se degrade f\u00e1cilmente.<\/p>\n<figure class=\"wp-block-image alignwide size-large\"><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"780\" height=\"531\" alt=\"alternativas antibi\u00f3ticos, nolotil\" class=\"wp-image-1788551 perfmatters-lazy\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-1500x1021.jpg?resize=780%2C531&amp;quality=70&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=1500%2C1021&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=800%2C545&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=768%2C523&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=1536%2C1046&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=2048%2C1394&amp;quality=70&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=1200%2C817&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=1024%2C697&amp;quality=70&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=1568%2C1068&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=2000%2C1362&amp;quality=70&amp;strip=all&amp;ssl=1 2000w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=400%2C272&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?w=2340&amp;quality=70&amp;strip=all&amp;ssl=1 2340w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-1500x1021.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"780\" height=\"531\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-1500x1021.jpg?resize=780%2C531&amp;quality=70&amp;strip=all&amp;ssl=1\" alt=\"alternativas antibi\u00f3ticos, nolotil\" class=\"wp-image-1788551\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=1500%2C1021&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=800%2C545&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=768%2C523&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=1536%2C1046&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=2048%2C1394&amp;quality=70&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=1200%2C817&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=1024%2C697&amp;quality=70&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=1568%2C1068&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=2000%2C1362&amp;quality=70&amp;strip=all&amp;ssl=1 2000w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?resize=400%2C272&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-scaled.jpg?w=2340&amp;quality=70&amp;strip=all&amp;ssl=1 2340w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/ksenia-yakovleva-YT6COuf1gY0-unsplash-1500x1021.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\"\/><figcaption class=\"wp-element-caption\">La IA nos puede ayudar a obtener antibi\u00f3ticos mucho m\u00e1s deprisa. Cr\u00e9dito: Ksenia Yakileva (Unsplash)<\/figcaption><\/figure>\n<p>Por eso, se han desarrollado<strong> algoritmos de Inteligencia Artificial<\/strong> que buscan r\u00e1pidamente todos los candidatos con las<strong> propiedades adecuadas<\/strong>. As\u00ed, los cient\u00edficos pueden centrarse en sintetizar solo esos y no perder el tiempo con los que finalmente no servir\u00e1n.\u00a0<\/p>\n<p>Algo similar se hace con sustancias que pueden ser principios activos para multitud de f\u00e1rmacos. O incluso se pueden analizar <strong>f\u00e1rmacos que ya est\u00e1n en el mercado<\/strong>, pero que podr\u00edan aportar beneficios frente a enfermedades muy diferentes a esas para las que se desarrollaron. Por ejemplo, la IA <a href=\"https:\/\/hipertextual.com\/2024\/04\/inteligencia-artificial-alternativas-antibioticos\" target=\"_blank\" rel=\"noopener\">es capaz<\/a> de encontrar medicamentos con actividad bactericida que puedan usarse para combatir las bacterias resistentes a antibi\u00f3ticos. Al tratarse de f\u00e1rmacos que ya est\u00e1n en el mercado, la burocracia y los an\u00e1lisis cl\u00ednicos podr\u00edan avanzar mucho m\u00e1s deprisa.<\/p>\n<p>En el \u00e1rea de la biolog\u00eda tambi\u00e9n es destacable el sistema AlphaFold de DeepMind, que predice la estructura tridimensional de las prote\u00ednas, acelerando el progreso en medicina y biotecnolog\u00eda. <strong>Demis Hassabis<\/strong>, investigador director de DeepMing <a href=\"https:\/\/hipertextual.com\/2024\/10\/premio-nobel-de-quimica-estructura-proteinas\" target=\"_blank\" rel=\"noopener\">ha recibido el Nobel de Qu\u00edmica<\/a> por revelar los secretos de las prote\u00ednas con IA y computaci\u00f3n (junto a John Jumper y David Baker).<\/p>\n<p>Y, \u00bfc\u00f3mo no?, la inteligencia artificial tiene aplicaciones en una infinidad de \u00e1reas m\u00e1s. Eso s\u00ed. Siempre con la <strong>supervisi\u00f3n de un ser humano.<\/strong> Y es que, si esto no se hace adecuadamente, podemos salir de las luces para entrar de lleno en sus sombras.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-cuando-la-ia-toma-el-control\"><span class=\"ez-toc-section\" id=\"Cuando_la_IA_toma_el_control\"><\/span>Cuando la IA toma el control<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>En 2014, el fil\u00f3sofo <strong>Nick Bostrom<\/strong> <a href=\"https:\/\/hipertextual.com\/2023\/04\/inteligencia-artificial-disenada-para-fabricar-clips-podria-destruir-humanidad\" target=\"_blank\" rel=\"noopener\">explic\u00f3<\/a> con un ejemplo sencillo el motivo por el que la Inteligencia Artificial podr\u00eda llegar a ser muy peligrosa.<\/p>\n<p>Imaginemos que tenemos una IA dise\u00f1ada para <strong>fabricar la mayor cantidad posible de clips. <\/strong>No se le da ninguna otra directriz. Solo esa. Esta buscar\u00e1 la forma m\u00e1s eficiente de fabricar la mayor cantidad de clips, tal y como se le pidi\u00f3.\u00a0<\/p>\n<figure class=\"wp-block-image alignwide size-large\"><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"780\" height=\"585\" alt=\"clips, inteligencia artificial\" class=\"wp-image-1728623 perfmatters-lazy\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-1500x1125.jpg?resize=780%2C585&amp;quality=70&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=1500%2C1125&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=800%2C600&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=768%2C576&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=1536%2C1152&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=2048%2C1536&amp;quality=70&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=1200%2C900&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=600%2C450&amp;quality=70&amp;strip=all&amp;ssl=1 600w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=400%2C300&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=200%2C150&amp;quality=70&amp;strip=all&amp;ssl=1 200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=1568%2C1176&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?w=2340&amp;quality=70&amp;strip=all&amp;ssl=1 2340w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-1500x1125.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"780\" height=\"585\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-1500x1125.jpg?resize=780%2C585&amp;quality=70&amp;strip=all&amp;ssl=1\" alt=\"clips, inteligencia artificial\" class=\"wp-image-1728623\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=1500%2C1125&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=800%2C600&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=768%2C576&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=1536%2C1152&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=2048%2C1536&amp;quality=70&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=1200%2C900&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=600%2C450&amp;quality=70&amp;strip=all&amp;ssl=1 600w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=400%2C300&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=200%2C150&amp;quality=70&amp;strip=all&amp;ssl=1 200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?resize=1568%2C1176&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled.jpg?w=2340&amp;quality=70&amp;strip=all&amp;ssl=1 2340w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-1500x1125.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\"\/><figcaption class=\"wp-element-caption\">Seg\u00fan un fil\u00f3sofo, una IA encargada de fabricar clips podr\u00eda aniquilar a la humanidad. Cr\u00e9dito: Dan Cristian Padure (Unsplash)<\/figcaption><\/figure>\n<p>Llegar\u00eda un momento en el que la IA podr\u00eda percibir a los humanos como <strong>un estorbo.<\/strong> En cualquier momento, alguien podr\u00eda apagar la m\u00e1quina e impedirle realizar su tarea. Adem\u00e1s, los humanos cuentan con \u00e1tomos de materia que se pueden usar para fabricar m\u00e1s clips. La soluci\u00f3n ser\u00eda <strong>aniquilarlos.<\/strong><\/p>\n<p>L\u00f3gicamente, este es un ejemplo extremo. No obstante, no se aleja tanto de lo que los expertos, incluidos Geoffrey Hilton y Francisco Herrera, avisan que podr\u00eda pasar.\u00a0<\/p>\n<p>\u201cAhora, una de las \u00e1reas m\u00e1s importantes en la IA es el<strong><em> Safety<\/em><\/strong>, que tiene dos traducciones en castellano, tanto la seguridad ante ataques externos como el comportamiento seguro frente a los usuarios\u201d, explica Herrera. \u201cHablamos de seguridad en un doble sentido, que no sea atacado y que tampoco ataque\u201d. Solo as\u00ed se consigue ese necesario alineamiento con los seres humanos.<\/p>\n<p>Ahora bien, \u00bfpor qu\u00e9 es tan importante ese alineamiento? Herrera nos lo explica de una forma muy sencilla.\u00a0<\/p>\n<p>\u201cLa IA, cuando<strong> trabaja por metas<\/strong>, puede seguir para obtenerla un recorrido que no va a ser adecuado desde la perspectiva \u00e9tica humana\u201d. Busca la forma m\u00e1s eficiente de llegar, aunque en el camino eso implique realizar acciones que un humano no considerar\u00eda \u00e9ticas.\u00a0<\/p>\n<p>Para que esto no ocurra, debe haber siempre un ser humano al tim\u00f3n. \u201cDentro de la <strong>regulaci\u00f3n europea<\/strong> ya hay un requisito fundamental que es el control humano\u201d, relata el experto en IA. \u201cUn sistema inteligente nunca debe tomar decisiones aut\u00f3nomamente en todas las decisiones que afecten a los derechos fundamentales y la seguridad humana\u201d.<\/p>\n<p>Esto es algo en lo que tambi\u00e9n incide el propio Hinton en la entrevista para XL Semanal. Y es que dejar a la IA a su libre albedr\u00edo es imposible porque no hay manera de predecir lo que har\u00e1. As\u00ed lo ha explicado el ganador del premio Nobel de F\u00edsica:<\/p>\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p>\u201cImagina una hoja que cae de un \u00e1rbol. Sabemos que desciende describiendo peque\u00f1os arcos hacia el suelo, pero nadie puede predecir exactamente d\u00f3nde caer\u00e1 ni de qu\u00e9 lado. Hay demasiadas variables en juego: podr\u00eda haber una r\u00e1faga de viento, otra hoja, un perro. Lo que sea. As\u00ed ocurre con la IA moderna: pondera sus respuestas bas\u00e1ndose en las analog\u00edas que hace. No hay reglas. As\u00ed como nunca podremos saber d\u00f3nde termina la hoja del \u00e1rbol, nunca podremos explicar por qu\u00e9 la IA toma ciertas decisiones\u201d.<\/p>\n<p>Geoffrey Hinton, ganador del premio Nobel de F\u00edsica<\/p>\n<\/blockquote>\n<p>Esa inteligencia artificial tan parecida a la humana que podr\u00eda sumirnos en las sombras no ha llegado a\u00fan. Sin embargo, Hinton opina que, a este ritmo, podr\u00edamos tenerla aqu\u00ed dentro de 5 a\u00f1os. <strong>20 como mucho.\u00a0<\/strong><\/p>\n<p>M\u00e1s nos vale estar prevenidos. Como bien dec\u00eda el t\u00edo de Spiderman, un gran poder conlleva una gran responsabilidad. La IA es uno de los poderes m\u00e1s inmensos que han ca\u00eddo nunca en manos del ser humano. M\u00e1s nos vale ser responsables cuando la usemos.\u00a0<\/p>\n<\/div>\n<p><a href=\"https:\/\/hipertextual.com\/2024\/10\/experto-inteligencia-artificial-riesgos\" class=\" target=\" title=\"Un experto en inteligencia artificial advierte de sus riesgos\" target=\"_blank\" rel=\"noopener\">Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Muchos anticiparon que este a\u00f1o el premio Nobel de f\u00edsica podr\u00eda ir dirigido a la Inteligencia Artificial. As\u00ed ha sido. El galard\u00f3n ha ca\u00eddo en las manos de John Hopfield y Geoffrey Hinton, por sus importantes descubrimientos en el \u00e1rea de las redes neuronales. Ambos tuvieron un papel esencial, aunque el segundo ha sido el [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":26363,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-26362","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/26362","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=26362"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/26362\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/26363"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=26362"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=26362"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=26362"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}