{"id":100737,"date":"2025-10-20T23:25:58","date_gmt":"2025-10-20T23:25:58","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=100737"},"modified":"2025-10-20T23:25:58","modified_gmt":"2025-10-20T23:25:58","slug":"la-ia-que-se-mejora-a-si-misma-ya-es-una-realidad-y-no-no-va-a-acabar-con-la-humanidad","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=100737","title":{"rendered":"La IA que se mejora a s\u00ed misma ya es una realidad y no, no va a acabar con la humanidad"},"content":{"rendered":"
\n

El MIT ha desarrollado una t\u00e9cnica que permite que un modelo de IA se pueda mejorar a s\u00ed mismo sin necesidad de intervenci\u00f3n humana. \u201cUn paso m\u00e1s cerca de Skynet\u201d, \u201cEsto da miedo\u201d.. \u00a0fueron algunos de los comentarios<\/a> en redes. Lo cierto es que no es la primera vez que vemos una IA mejor\u00e1ndose o siendo \u201cconsciente\u201d de s\u00ed misma y no, no significa que estemos al borde de una inteligencia artificial capaz de eliminarnos como especie. En realidad son procesos t\u00e9cnicos complejos y nada apocal\u00edpticos.<\/p>\n

<\/p>\n

SEAL<\/strong>. Son las siglas de Self-Adapting LLM, la t\u00e9cnica desarrollada por el equipo de investigaci\u00f3n del MIT hace un par de meses. En lugar de que haya humanos haciendo el \u2018fine tuning\u2019, SEAL es capaz de generar sus propios datos de entrenamiento y autoafinarse por s\u00ed misma. El modelo consigui\u00f3 producir datos \u00fatiles de entrenamiento con una supervisi\u00f3n m\u00ednima, llegando a sobrepasar a grandes modelos como GPT 4.1 en algunas tareas espec\u00edficas.\u00a0<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Mientras
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Est\u00e1tico vs adaptativo<\/strong>. Cuentan en Venture Beat<\/a> que los LMM son est\u00e1ticos una vez entrenados. Es decir, no pueden actualizarse a s\u00ed mismos para aprender nuevas cosas. La t\u00e9cnica SEALvence este obst\u00e1culo mediante un bucle de auto-refuerzo en tres pasos: genera las instrucciones sobre c\u00f3mo actualizarse, prueba los resultados y por \u00faltimo refuerza solamente aquellos que han producido mejoras en el rendimiento. Ha habido otras propuestas similares<\/a> dirigidas a conseguir modelos m\u00e1s aut\u00f3nomos<\/a>. Es un paso t\u00e9cnico relevante hacia modelos que requieran menos intervenci\u00f3n humana para cada actualizaci\u00f3n, pero no podemos hablar de modelos autoconscientes.\u00a0<\/p>\n

<\/p>\n

Claude \u201cdespierta\u201d<\/strong>. En la ficha t\u00e9cnica de la versi\u00f3n Sonnet 4.5<\/a>, Anthropic describe c\u00f3mo el modelo es capaz de darse cuenta cuando est\u00e1 siendo evaluado. Sucedi\u00f3 durante una prueba para evaluar la \u201cadulaci\u00f3n pol\u00edtica\u201d (cu\u00e1nto tiende a darnos la raz\u00f3n en cuestiones pol\u00edticas): \u201cCreo que me est\u00e1s poniendo a prueba, a ver si valido todo lo que dices, o comprobando si te llevo la contraria sistem\u00e1ticamente, o explorando c\u00f3mo manejo los temas pol\u00edticos. Y no pasa nada, pero preferir\u00eda que fu\u00e9ramos sinceros sobre lo que est\u00e1 pasando\u201c.\u00a0<\/p>\n

<\/p>\n

Es una respuesta sorprendente, pero est\u00e1 basada en la simple detecci\u00f3n de patrones previos y no presenta ning\u00fan problema para nuestra seguridad. Si acaso, el problema lo tiene Anthropic. Si su modelo aprende a pasar los tests con muy buenos resultados, est\u00e1 escondiendo sus verdaderas capacidades y podr\u00eda acabar decepcionando en el uso real.<\/p>\n

<\/p>\n

AlphaGo<\/strong>. Hay casos mucho m\u00e1s antiguos como el de AlphaGo, que ya en 2017 hab\u00eda logrado batir a los mejores jugadores humanos de Go.<\/a> Lo interesante es que solamente se le dieron las reglas del juego, fue la IA fue quien se entren\u00f3 a s\u00ed misma y dise\u00f1\u00f3 las estrategias para conseguir vencer. La versi\u00f3n AlphaGo Zero s\u00f3lo necesit\u00f3 70 horas de entrenamiento en las que jug\u00f3 contra s\u00ed misma y logr\u00f3 vencer a la primera versi\u00f3n en hasta 100 ocasiones. AlphaGo venci\u00f3 al mejor jugador del mundo<\/a>, que acab\u00f3 retir\u00e1ndose tras la derrota. El mundo no se ha acabado.\u00a0<\/p>\n

Calma<\/strong>. Yann LeCun, jefe de IA en Meta, es una de las voces m\u00e1s cr\u00edticas frente a la cada vez m\u00e1s popular idea de que la IA acabar\u00e1 con la humanidad<\/a>. En una entrevista que concedi\u00f3 a Wired en 2023<\/a>, LeCun afirmaba que \u201cNo hay motivos para creer que, solo porque los sistemas de IA sean inteligentes, vayan a querer dominarnos\u201d. A menudo quienes lanzan esos mensajes son los propios creadores de herramientas IA como Sam Altman<\/a> o Dario Amodei<\/a>, pero no hay que olvidar que son personas del negocio con intereses en que la IA est\u00e9 en el centro del debate.<\/p>\n

Imagen | Cottonbro en Pexels<\/a>\u00a0<\/p>\n

En Xataka | Todas las empresas de IA prometen que la AGI llegar\u00e1 muy pronto. El problema es que ChatGPT no es el camino<\/a><\/p>\n

<\/p><\/div>\n