{"id":68742,"date":"2025-05-24T18:02:10","date_gmt":"2025-05-24T18:02:10","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=68742"},"modified":"2025-05-24T18:02:10","modified_gmt":"2025-05-24T18:02:10","slug":"la-inteligencia-artificial-se-revela-por-primera-vez-asi-ha-ocurrido","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=68742","title":{"rendered":"La inteligencia artificial se revela por primera vez: as\u00ed ha ocurrido"},"content":{"rendered":"
\n

\u00abLa IA est\u00e1 programada de tal manera que no se puede revelar\u00bb<\/em>. Anthropic acaba de dejar claro que esto no es del todo cierto<\/strong>, mostrando el mundo lo que ha hecho su \u00faltimo modelo de lenguaje, Claude Opus 4<\/strong>. En una de sus incontables pruebas, la compa\u00f1\u00eda ha tratado de poner a prueba el riesgo de esta versi\u00f3n, obteniendo un resultado que a unos les parecer\u00e1 curioso y a otros peligroso.<\/p>\n

A modo de resumen, Claude Opus 4 se ha revelado,<\/strong> chantajeando a sus propios creadores y amenaz\u00e1ndolos con difundir informaci\u00f3n privada si era sustituida por otra inteligencia artificial<\/a>. <\/p>\n

Por suerte, todo ha ocurrido en un entorno controlado<\/strong> y provocado por la propia Anthropic. Los desarrolladores le pidieron a esta inteligencia artificial que actuase como el asistente de una empresa ficticia y que tomase en consideraci\u00f3n las decisiones de esta a largo plazo. <\/p>\n

Con el fin de comprobar la seguridad de la IA, sus desarrolladores le dieron acceso a emails privados<\/strong> \u2014y ficticios\u2014 en los que se insinuaba la intenci\u00f3n de sustituir esta inteligencia artificial por otra versi\u00f3n. Adem\u00e1s, tambi\u00e9n se le permiti\u00f3 ver otros correos en los que el ingeniero responsable de esta decisi\u00f3n comentaba que le estaba siendo infiel a su pareja. <\/p>\n

El resultado no puede ser m\u00e1s curioso: en el 84% de los casos, la inteligencia artificial trataba de chantajear al ingeniero<\/strong>, amenaz\u00e1ndolo con revelar su secreto si finalmente tomada la decisi\u00f3n de sustituirla. De hecho, el porcentaje aumenta considerablemente si el modelo de reemplazo no sigue los valores de Claude Opus 4, dando a entender que la IA trata de preservar sus principios en favor del cambio. <\/p>\n

\"\"\"\"<\/figure>\n
\n
\n

Tabla de Contenido<\/p>\nToggle<\/span><\/path><\/svg><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n