{"id":21572,"date":"2024-09-13T06:02:33","date_gmt":"2024-09-13T06:02:33","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/que-la-ia-no-controle-el-boton-rojo-nuclear\/"},"modified":"2024-09-13T06:02:33","modified_gmt":"2024-09-13T06:02:33","slug":"que-la-ia-no-controle-el-boton-rojo-nuclear","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=21572","title":{"rendered":"que la IA no controle el bot\u00f3n rojo nuclear"},"content":{"rendered":"
\n

Si el futuro en clave belicista est\u00e1 marcado por la tecnolog\u00eda y el avance de la IA<\/a>, es factible pensar que la llamada \u201cguerra aut\u00f3noma\u201d que ve\u00edamos en pel\u00edculas como ‘Terminator’<\/a> no est\u00e1 tan lejos como pens\u00e1bamos. Eso es preocupante en el escenario actual, donde no existe una regulaci\u00f3n clara que delimite las l\u00edneas rojas en el campo de batalla. Sin supervisi\u00f3n humana, el terreno abonado para darle las llaves a un algoritmo lleva a imaginar escenarios dantescos. De eso ha tratado un encuentro entre 90 pa\u00edses, y todos han llegado a la misma conclusi\u00f3n menos uno<\/a>.<\/p>\n

<\/p>\n

Que la IA no apriete el bot\u00f3n. <\/strong>La historia tuvo lugar hace muy poco durante la cumbre sobre Inteligencia Artificial Responsable en el Dominio Militar<\/a> (REAIM) celebrada en Se\u00fal. La cuesti\u00f3n de fondo no era tanto regular, de hecho, la firma final no es vinculante, pero s\u00ed era una primera e importante aproximaci\u00f3n t\u00e1cita entre pa\u00edses ante un problema que tenemos casi tocando la punta de los dedos.<\/p>\n

<\/p>\n

\u00bfDeber\u00edan las m\u00e1quinas tomar decisiones sobre el uso de armas nucleares? Esta fue la gran pregunta y el debate, y todos menos China parecieron tenerlo bastante claro<\/a>: los humanos, no la inteligencia artificial, deber\u00edan tomar las decisiones clave sobre el uso de armas nucleares, seg\u00fan se acord\u00f3 el martes en una declaraci\u00f3n.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"El
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

El acuerdo. <\/strong>Este casi centenar de pa\u00edses, entre los que se encontraban Estados Unidos, China, Reino Unido, Pa\u00edses Bajos o Ucrania, adoptaron el \u00abPlan de Acci\u00f3n\u00bb despu\u00e9s de dos d\u00edas de conversaciones. Como dec\u00edamos, el acuerdo, que no es jur\u00eddicamente vinculante y no fue firmado por China, constataba que era esencial \u00abmantener el control y la participaci\u00f3n humana en todas las acciones… relativas al empleo de armas nucleares\u00bb.<\/p>\n

<\/p>\n

\n
\n
\n
\n \"Te
\n <\/a><\/p>\n

Te esperamos en Territorio Samsung<\/p>\n

\n

\u00bfTe gusta Samsung? Tenemos un nuevo medio especializado en Samsung y sus productos con trucos, ofertas, tutoriales y todas las noticias sobre la marca.<\/p>\n


\n Ir a Territorio Samsung<\/a>
\n <\/span>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Adem\u00e1s, en el acuerdo se a\u00f1adi\u00f3<\/a> que las capacidades de IA en el \u00e1mbito militar \u00abdeben aplicarse de conformidad con el derecho nacional e internacional aplicable. Las aplicaciones de IA deben ser \u00e9ticas y centradas en el ser humano\u00bb.<\/p>\n

<\/p>\n

El no de China. <\/strong>La respuesta de China es un s\u00edntoma del largo camino que queda por recorrer y de las tensiones geopol\u00edticas que se viven en la actualidad. Tampoco hay respuesta de Rusia, que debido a la guerra de Ucrania estaba vetada de la cumbre. Sea como fuere, el r\u00e1pido uso de sistemas militares basados \u200b\u200ben IA en conflictos recientes, as\u00ed como su creciente importancia en los planes de futuro, ha subrayado la urgente necesidad de evaluar las posibles consecuencias no deseadas del mal uso de esta tecnolog\u00eda.<\/p>\n

<\/p>\n

Un ejemplo de ello es el desarrollo y uso no regulados de drones en el campo de batalla, donde la \u00fanica limitaci\u00f3n real es el miedo a errores algor\u00edtmicos, como los que resultan en fuego amigo.<\/p>\n

<\/p>\n

Incentivos a vincularse.<\/strong> Esta es otra de las patas a tratar. Los pa\u00edses directamente involucrados en conflictos tienen pocos incentivos para frenar este desarrollo, como se muestra en la guerra entre Rusia y Ucrania<\/a>, donde ambos bandos est\u00e1n aprovechando<\/a> cada vez m\u00e1s los drones mejorados con IA<\/a> para acciones con una m\u00ednima supervisi\u00f3n humana<\/a>.<\/p>\n

<\/p>\n

Seg\u00fan explic\u00f3 en la cumbre Kateryna Bondar<\/a>, experta en tecnolog\u00edas avanzadas del Centro de Estudios Estrat\u00e9gicos e Internacionales, \u201cestos pa\u00edses son reacios a imponer restricciones, ya que consideran que la IA militar es una ventaja cr\u00edtica. En cuestiones de supervivencia nacional, ninguna declaraci\u00f3n o acuerdo, por bien intencionado que sea, impedir\u00e1 que un pa\u00eds haga lo que sea necesario para garantizar su propia seguridad\u201d, aseguraba.<\/p>\n

<\/p>\n

La tecnolog\u00eda siempre por delante. <\/strong>Otro de los problemas que se trat\u00f3 en la cumbre fue la problem\u00e1tica de poner leyes a la IA<\/a>. A este respecto, Manoj Harjani, coordinador del Programa de Transformaciones Militares en la Escuela de Estudios Internacionales, coment\u00f3 que<\/a> \u201ces un juego constante de ponerse al d\u00eda, en el que la tecnolog\u00eda evoluciona a un ritmo mucho m\u00e1s r\u00e1pido que el proceso de regulaci\u00f3n gubernamental, que a menudo avanza lentamente\u201d.<\/p>\n

<\/p>\n

De fondo: otra vez China. <\/strong>Si bien Estados Unidos ha disfrutado de superioridad en tecnolog\u00eda militar desde el final de la Guerra Fr\u00eda, esta ventaja ya no lo es tanto en la carrera por convertirse en el l\u00edder mundial en IA y tecnolog\u00edas de machine learning que podr\u00edan revolucionar la guerra, y aqu\u00ed China vuelve a aparecer en el horizonte<\/a>.<\/p>\n

<\/p>\n

De hecho, hay datos que respaldan su posici\u00f3n de liderazgo. Seg\u00fan un informe publicado en agosto<\/a> por el Instituto Australiano de Pol\u00edtica Estrat\u00e9gica, China ha ampliado su liderazgo como la naci\u00f3n l\u00edder en investigaci\u00f3n del mundo<\/a>, copando en casi el 90%, de las 64 categor\u00edas examinadas por el grupo de expertos, incluyendo an\u00e1lisis avanzado de datos, algoritmos de IA, aprendizaje autom\u00e1tico e IA adversaria. A ello hay que a\u00f1adir que empresas chinas como Tencent Holdings, Alibaba Group Holdings y Huawei Technologies est\u00e1n entre las 10 principales firmas que realizan investigaci\u00f3n en IA.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"El
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Conclusi\u00f3n. <\/strong>La cumbre nunca fue vinculante, ni se pretend\u00eda. Fue una aproximaci\u00f3n a modo de tablero donde cada naci\u00f3n movi\u00f3 ficha dejando ver parte de sus cartas. Los expertos sostienen que, a pesar de las escasas posibilidades de alcanzar un acuerdo internacional vinculante para regular la IA militar a corto plazo, tal logro deber\u00eda ser<\/a> en el futuro \u201cprofundamente importante, si es posible\u201d.<\/p>\n

<\/p>\n

Como afirmaba Bondar<\/a>, la IA es, en esencia, un producto del dise\u00f1o humano, \u201cun software que se puede programar para cumplir normas y reglamentos\u201d. El problema est\u00e1 en que esas normas y reglamentos bien podr\u00edan traducirse en las taras y\/o venganzas de unos y otros. De nuestra mano est\u00e1 lograr alcanzar un consenso para minimizar y adelantarnos a cualquier cat\u00e1strofe innecesaria.<\/p>\n

<\/p>\n

Imagen | w\u0142odi<\/a><\/p>\n

En Xataka | China es el pa\u00eds que m\u00e1s ha aumentado su arsenal nuclear. Ahora pide contenci\u00f3n a EEUU y sus aliados<\/a><\/p>\n

En Xataka | China recurre a la energ\u00eda nuclear para estimular su econom\u00eda. Invertir\u00e1 28.000 millones de d\u00f3lares en 11 reactores<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Si el futuro en clave belicista est\u00e1 marcado por la tecnolog\u00eda y el avance de la IA, es factible pensar que la llamada \u201cguerra aut\u00f3noma\u201d que ve\u00edamos en pel\u00edculas como ‘Terminator’ no est\u00e1 tan lejos como pens\u00e1bamos. Eso es preocupante en el escenario actual, donde no existe una regulaci\u00f3n clara que delimite las l\u00edneas rojas […]<\/p>\n","protected":false},"author":2,"featured_media":21573,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-21572","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/21572","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=21572"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/21572\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/21573"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=21572"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=21572"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=21572"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}