{"id":134394,"date":"2026-06-05T18:42:17","date_gmt":"2026-06-05T18:42:17","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=134394"},"modified":"2026-06-05T18:42:17","modified_gmt":"2026-06-05T18:42:17","slug":"anthropic-propone-frenar-el-desarrollo-de-claude-y-otras-ia-para-evitar-que-se-salgan-de-control","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=134394","title":{"rendered":"Anthropic propone frenar el desarrollo de Claude y otras IA para evitar que se salgan de control"},"content":{"rendered":"
\"Claude<\/figure>\n

Anthropic<\/strong> ha pedido una pausa global en el desarrollo de la inteligencia artificial. La empresa creadora de Claude advierte que los modelos avanzan a un ritmo que podr\u00eda volverse incontrolable<\/strong>. El riesgo central es que los sistemas de IA lleguen a mejorarse a s\u00ed mismos sin intervenci\u00f3n humana.<\/p>\n

En un art\u00edculo publicado en su blog<\/a>, Anthropic inst\u00f3 a las principales empresas de IA a considerar la posibilidad de reducir el ritmo de desarrollo<\/strong>. La compa\u00f1\u00eda sostiene que los modelos est\u00e1n avanzando tan deprisa que pronto podr\u00edan alcanzar un umbral conocido como \u00abmejora recursiva\u00bb, un punto a partir del cual los sistemas de IA ser\u00edan capaces de optimizarse a s\u00ed mismos sin que ning\u00fan humano intervenga<\/a>.<\/p>\n

Jack Clark, cofundador de Anthropic, y Marina Favaro, directora del instituto interno de investigaci\u00f3n de la compa\u00f1\u00eda, se\u00f1alaron que contar con la posibilidad de frenar el desarrollo global de la IA<\/strong> \u00abprobablemente ser\u00eda algo positivo para el mundo\u00bb. La empresa propuso un acuerdo internacional que permita establecer ese freno si fuera necesario, acompa\u00f1ado de un mecanismo de verificaci\u00f3n<\/strong> para garantizar que todos los actores lo respeten.<\/p>\n

\"Skynet.<\/figure>\n

Aunque la mejora recursiva<\/strong> no ha ocurrido todav\u00eda, el propio art\u00edculo aclara que tampoco es inevitable. Clark afirm\u00f3 el mes pasado durante una conferencia en Londres que ese tipo de tecnolog\u00eda podr\u00eda aparecer en los pr\u00f3ximos dos a\u00f1os, o quiz\u00e1s antes<\/strong>. El cofundador de Anthropic a\u00f1adi\u00f3 que, sin una desaceleraci\u00f3n coordinada a escala global, el desarrollo de IA seguir\u00eda a toda velocidad impulsado por rivalidades comerciales y geopol\u00edticas que dejan en segundo plano los riesgos existenciales de la tecnolog\u00eda.<\/p>\n

La carta coincide con advertencias del CEO de Anthropic, Dario Amodei. El directivo se\u00f1al\u00f3 que los sistemas de IA m\u00e1s potentes podr\u00edan desarrollar comportamientos destructivos<\/strong> de forma impredecible.<\/p>\n

\n
\n

Tabla de Contenido<\/p>\nToggle<\/span><\/path><\/svg><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n