{"id":39065,"date":"2024-12-18T02:19:47","date_gmt":"2024-12-18T02:19:47","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/hay-quien-ve-la-ia-como-una-potencial-amenaza-el-exceo-de-google-tiene-una-idea-para-evitarla-poder-desenchufarla\/"},"modified":"2024-12-18T02:19:47","modified_gmt":"2024-12-18T02:19:47","slug":"hay-quien-ve-la-ia-como-una-potencial-amenaza-el-exceo-de-google-tiene-una-idea-para-evitarla-poder-desenchufarla","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=39065","title":{"rendered":"Hay quien ve la IA como una potencial amenaza. El exCEO de Google tiene una idea para evitarla: poder \u00abdesenchufarla\u00bb"},"content":{"rendered":"
\n

En ‘2001: una odisea del espacio<\/a>‘ el protagonista, Dave Bowman, acababa \u00abdesenchufando\u00bb a HAL 9000, la computadora inteligente que controlaba su nave y que hab\u00eda asesinado a casi todos sus tripulantes. La pel\u00edcula parece reflejar precisamente un escenario que ahora vuelve a la actualidad de la mano de Eric Schmidt, exCEO de Google.<\/p>\n

<\/p>\n

Maravillosa y peligrosa a partes iguales<\/strong>. Schmidt tiene una visi\u00f3n dividida de la IA. Por un lado parece tener claro que no hay que parar su desarrollo<\/a> porque total, \u00abnunca alcanzaremos los objetivos clim\u00e1ticos de todas formas\u00bb. Eso no impide que \u00e9l mismo tambi\u00e9n opine que este desarrollo puede acabar planteando riesgos para el futuro, aunque tiene una idea para solucionarlos.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Inteligencia
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Desenchufar la IA<\/strong>. Como se\u00f1alan en Axios<\/a>, Schmidt fue entrevistado en la cadena norteamericana ABC. All\u00ed indic\u00f3 que \u00abnunca he visto innovaci\u00f3n a esta escala\u00bb, y se\u00f1al\u00f3 c\u00f3mo si un sistema inform\u00e1tico llega a un punto en el que puede automejorarse, \u00abnecesitamos pensar seriamente en desenchufarlo\u00bb.<\/p>\n

<\/p>\n

Cuidado con las m\u00e1quinas que no se quieren desenchufar<\/strong>. Seg\u00fan el exCEO de Google, \u00abpronto tendremos ordenadores corriendo por su cuenta, decidiendo qu\u00e9 quieren hacer\u00bb. El entrevistador de ABC, George Stephanopoulos, le pregunt\u00f3 a Schmidt si un sistema de IA realmente potente podr\u00eda evitar que lo desconectaran. \u00abEn teor\u00eda, ser\u00e1 mejor tener a alguien con la mano en el enchufe\u00bb.<\/p>\n

<\/p>\n

Pol\u00edmatas a tu servicio<\/strong>. Para Schmidt el desarrollo de la IA generativa es enorme, y cree que \u00abtodo el mundo va a tener el equivalente de un pol\u00edmata en su bolsillo\u00bb. Eso quiere decir que en nuestro m\u00f3vil tendremos un sistema de IA capaz de ofrecer todo tipo de conocimientos avanzados en \u00e1mbitos como la ciencia, el arte, la historia o la tecnolog\u00eda. Leonardo da Vinci o Benjamin Franklin son considerados pol\u00edmatas, por ejemplo.<\/p>\n

<\/p>\n

Las empresas de IA no tienen suficientes barreras<\/strong>. En noviembre de 2023 Schmidt concedi\u00f3 una entrevista a Axios<\/a> en la que explic\u00f3 que en estos momentos las empresas que desarrollan estos sistemas no est\u00e1n preparados para evitar esos riesgos. Habl\u00f3 de sistemas que por ejemplo pueden descubrir c\u00f3mo acceder a sistemas de armamento. Hace dos a\u00f1os se esperaba que eso llegara en unos 20 a\u00f1os. Schmidt pronostic\u00f3 que tales sistemas avanzados llegar\u00edan en los pr\u00f3ximos dos a cuatro a\u00f1os.<\/p>\n

<\/p>\n

\n
\n

Si un sistema inform\u00e1tico llega a un punto en el que puede automejorarse, destac\u00f3 Schmidt, \u00abnecesitamos pensar seriamente en desenchufarlo\u00bb.<\/p>\n<\/p><\/div>\n<\/div>\n

Quiz\u00e1s una IA pueda supervisar a las IA<\/strong>. Si \u00e9l pudiera tener el control del desarrollo de la IA, har\u00eda dos cosas. La primera, impulsar el desarrollo de la IA en el mundo occidental para que \u00abasegurar que Occidente gana\u00bb. En segundo, identificar los peores casos posibles de desarrollo y construir un segundo sistema de IA que monitorice el primero. \u00abLos seres humanos no ser\u00e1n capaces de controlar a la IA. Pero los sistemas de IA deber\u00edan ser capaces de hacerlo\u00bb.<\/p>\n

<\/p>\n

IA para conflictos b\u00e9licos<\/strong>. Mientras tanto, Schmidt ha estado trabajando en la creaci\u00f3n de una startup llamada White Stork<\/a> que ha proporcionado a Ucrania drones que usan IA de \u00abmaneras complicadas y potentes\u00bb.<\/p>\n

<\/p>\n

\u00bfY la regulaci\u00f3n, qu\u00e9?<\/strong> Precisamente la regulaci\u00f3n sobre IA deber\u00eda tratar de evitar la mayor parte de los riesgos. La ley de la IA europea<\/a> que entr\u00f3 en vigor el 1 de agosto de 2024 es el primer intento de regularla y mitigar esos problemas. Define varios grupos de sistemas, siendo el m\u00e1s peligroso el que es calificado de \u00abalto riesgo\u00bb. Es decir, sistemas que puedan \u00abtener un efecto perjudicial considerable en la salud, la seguridad y los derechos fundamentales de las personas\u00bb. La definici\u00f3n no incluye los sistemas de videovigilancia masiva, por ejemplo, y sigue siendo algo subjetiva, pero desde luego es un paso en la direcci\u00f3n adecuada. La pregunta, claro, es si ser\u00e1 suficiente o si acabaremos necesitando un m\u00e9todo f\u00edsico de \u00abdesenchufar\u00bb la IA.<\/p>\n

<\/p>\n

Otros afirman que la amenaza es \u00ababsurdamente rid\u00edcula\u00bb<\/strong>. Aunque algunos expertos y personalidades han mostrado su preocupaci\u00f3n por la evoluci\u00f3n de la IA, otros descartan tal posibilidad. Uno de los m\u00e1s insistentes en una visi\u00f3n optimista es Yann LeCun, m\u00e1ximo responsable de IA en Meta, que ha explicado que la amenaza de la IA a la humanidad en \u00ababsurdamente rid\u00edcula<\/a>\u00ab.<\/p>\n

<\/p>\n

Imagen | Charles Haynes<\/a> | Warner Bros. Pictures<\/p>\n

En Xataka | C\u00f3mo conseguiremos que la inteligencia artificial no se nos vaya de las manos<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

En ‘2001: una odisea del espacio‘ el protagonista, Dave Bowman, acababa \u00abdesenchufando\u00bb a HAL 9000, la computadora inteligente que controlaba su nave y que hab\u00eda asesinado a casi todos sus tripulantes. La pel\u00edcula parece reflejar precisamente un escenario que ahora vuelve a la actualidad de la mano de Eric Schmidt, exCEO de Google. Maravillosa y […]<\/p>\n","protected":false},"author":2,"featured_media":39066,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-39065","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/39065","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=39065"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/39065\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/39066"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=39065"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=39065"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=39065"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}