{"id":94746,"date":"2025-09-24T02:01:59","date_gmt":"2025-09-24T02:01:59","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=94746"},"modified":"2025-09-24T02:01:59","modified_gmt":"2025-09-24T02:01:59","slug":"la-ironia-mas-amarga-de-la-ia-es-que-quienes-ayudaron-a-crearla-quieren-ahora-ponerle-freno","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=94746","title":{"rendered":"La iron\u00eda m\u00e1s amarga de la IA es que quienes ayudaron a crearla quieren ahora ponerle freno"},"content":{"rendered":"
\n

El lunes m\u00e1s de 200 personalidades y m\u00e1s de 70 organizaciones se unieron en una nueva iniciativa llamada Global Call for AI Red Lines<\/a> (Llamamiento Mundial para establecer L\u00edneas Rojas en la IA). El objetivo: tratar de establecer l\u00edmites claros que la IA jam\u00e1s deber\u00eda cruzar.\u00a0<\/p>\n

Por qu\u00e9 es importante<\/strong>. Los avances en IA generativa son fren\u00e9ticos pero una vez m\u00e1s lo que se prioriza es ese desarrollo y la comercializaci\u00f3n de estos modelos sin que haya demasiadas reservas a la hora de hacerlo. Seg\u00fan los firmantes de la iniciativa,\u00a0<\/p>\n

\u00abAlgunos sistemas avanzados de IA ya han mostrado un comportamiento enga\u00f1oso y da\u00f1ino, y sin embargo, a estos sistemas se les est\u00e1 dando m\u00e1s autonom\u00eda para actuar y tomar decisiones en el mundo. Si no se controla, muchos expertos, incluidos los que est\u00e1n a la vanguardia del desarrollo, advierten que ser\u00e1 cada vez m\u00e1s dif\u00edcil ejercer un control humano significativo en los pr\u00f3ximos a\u00f1os\u00bb.<\/p><\/blockquote>\n

<\/p>\n

\n
\n
\n
\n
\n \"Geoffrey
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Qu\u00e9 se pide<\/strong>. La iniciativa, iniciada durante la 80\u00aa Asamblea General de Naciones Unidas, pide que los gobiernos act\u00faen \u00abcon decisi\u00f3n\u00bb y lleguen a \u00abun acuerdo internacional sobre l\u00edneas rojas claras y verificables para evitar riesgos universalmente inaceptables\u00bb.\u00a0\u00a0<\/p>\n

Cu\u00e1les son esas l\u00edneas rojas<\/strong>. Lo que se propone es prohibir espec\u00edficamente algunos usos y comportamientos de la IA que pueden acabar siendo peligrosas. Entre ellas estar\u00edan por ejemplo prohibir:<\/p>\n

Los que est\u00e1n<\/strong>. En ese grupo de m\u00e1s de 200 personalidades est\u00e1n diez premios Nobel, expertos de IA, cient\u00edficos, diplom\u00e1ticos e incluso jefes de estado. Entre ellos est\u00e1n nombres muy conocidos como los de los cient\u00edficos Geoffrey Hinton y Yoshua Bengio que ya llevan<\/a> tiempo alertando<\/a> de estos peligros. La lista es notable y en ella tambi\u00e9n est\u00e1n expertos como el cofundaor de OpenAI, Wojciech Zarema, o uno de los principales cient\u00edficos de DeepMind, Ian Goodfellow.<\/p>\n

Y los que no<\/strong>. Aunque en dicha lista de personalidades hay nombres muy relevantes, es tambi\u00e9n significativo comprobar que dicha iniciativa no ha sido firmada por ning\u00fan CEO de alguna de las grandes empresas tecnol\u00f3gicas implicadas en el \u00e1mbito de la IA. Aunque en ocasiones ha habido discursos que apuntaban a que ellos tambi\u00e9n estaban preocupados por este tema y hab\u00eda que regular la IA<\/a>, en este caso no han participado en la iniciativa.\u00a0<\/p>\n

Mejor prevenir que curar<\/strong>. Charbel-Rapha\u00ebl Segerie, responsable de un organismo franc\u00e9s llamado Centro \u00a0para la Seguridad en IA (CeSIA), \u00abel objetivo no es reaccionar despu\u00e9s de que se produzca un incidente importante, sino el de evitar riesgos a gran escala y potencialmente irreversibles antes de que ocurran\u00bb.\u00a0<\/p>\n

La AI Act europea va en esa l\u00ednea<\/strong>. La Uni\u00f3n Europea ya cre\u00f3 su regulaci\u00f3n y la puso en marcha<\/a> en agosto de 2024, y la idea era establecer una serie de restricciones en base a niveles de riesgo<\/a>. De momento el impacto de esta regulaci\u00f3n ha sido negativo, sobre todo porque ha restringido el uso y desarrollo de modelos de IA en la UE<\/a>. Tanto es as\u00ed que la UE ha decidido dar marcha atr\u00e1s<\/a> y suavizar su normativa.<\/p>\n

<\/p>\n

Y ya tenemos un precedente<\/strong>. Apenas unos meses despu\u00e9s del lanzamiento de ChatGPT varios expertos hicieron una petici\u00f3n similar. Entre ellos estaban Elon Musk \u2014que no ha firmado esta iniciativa\u2014 o Steve Wozniak, que ped\u00edan que se pausara durante seis meses el entrenamiento<\/a> de modelos de IA. Aquello no lleg\u00f3 a ning\u00fan lado, y sin una prohibici\u00f3n expl\u00edcita ese desarrollo de modelos de IA ha continuado de forma imparable.<\/p>\n

En Xataka | \u00abEstimados pasajeros: cumplan las normas para evitar puntos negativos\u00bb, as\u00ed est\u00e1 implementando China su cr\u00e9dito social<\/a><\/p>\n

<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

El lunes m\u00e1s de 200 personalidades y m\u00e1s de 70 organizaciones se unieron en una nueva iniciativa llamada Global Call for AI Red Lines (Llamamiento Mundial para establecer L\u00edneas Rojas en la IA). El objetivo: tratar de establecer l\u00edmites claros que la IA jam\u00e1s deber\u00eda cruzar.\u00a0 Por qu\u00e9 es importante. Los avances en IA generativa […]<\/p>\n","protected":false},"author":2,"featured_media":94747,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-94746","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/94746","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=94746"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/94746\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/94747"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=94746"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=94746"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=94746"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}