{"id":115488,"date":"2026-01-22T20:08:03","date_gmt":"2026-01-22T20:08:03","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=115488"},"modified":"2026-01-22T20:08:03","modified_gmt":"2026-01-22T20:08:03","slug":"claude-actualiza-su-constitucion-para-no-desatar-el-caos-ni-destruir-la-humanidad","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=115488","title":{"rendered":"Claude actualiza su constituci\u00f3n para no desatar el caos ni destruir la humanidad"},"content":{"rendered":"
\n

El temor a que los modelos de inteligencia artificial generativa desaten la rebeli\u00f3n de las m\u00e1quinas siempre ha sido bastante exagerado. Aunque eso no significa que no existan personas capaces de explotar estos sistemas con fines maliciosos. Es por ello que, adem\u00e1s de las salvaguardas habituales, Anthropic ha dotado a Claude<\/strong> de una \u00abconstituci\u00f3n\u00bb, un documento que delinea las intenciones sobre valores y comportamientos que debe perseguir. Y ahora dicho documento se ha actualizado a una nueva y m\u00e1s amplia versi\u00f3n.<\/p>\n

La primera constituci\u00f3n de Claude se public\u00f3 en 2023, pero en los \u00faltimos dos a\u00f1os el campo de la IA generativa ha evolucionado lo suficiente como para requerir su renovaci\u00f3n. Anthropic no solo ha anunciado<\/a> la actualicaci\u00f3n del documento en cuesti\u00f3n, sino que tambi\u00e9n lo ha divulgado al completo<\/a> para que todos puedan leerlo.<\/p>\n

Lo interesante de esta propuesta es que se trata de un documento creado para que Claude lo lea y modele su comportamiento us\u00e1ndolo como guia. Si bien el mismo incluye algunas restricciones duras<\/strong> que estipulan cu\u00e1les son las acciones que nunca debe hacer ni asistir, tambi\u00e9n explica qu\u00e9 debe poner la IA en la balanza al generar una respuesta, como el contexto y las intenciones, as\u00ed como el costo y el beneficio de una acci\u00f3n, entre otros par\u00e1metros.<\/p>\n

Desde Anthropic explican que la primera constituci\u00f3n de Claude abarcaba una serie de lineamientos espec\u00edficos. No obstante, esta segunda versi\u00f3n es diferente. Sus autores han optado por explicarle a su inteligencia artificial por qu\u00e9 pretenden que se comporte o desempe\u00f1e de tal o cual manera<\/strong>. La empresa cree que esta es la v\u00eda m\u00e1s apropiada (al menos hoy en d\u00eda) para lograr los mejores resultados.<\/p>\n

\n

\u00abCreemos que, para ser buenos actores en el mundo, los modelos de IA como Claude necesitan comprender por qu\u00e9 queremos que se comporten de cierta manera, y debemos explic\u00e1rselo en lugar de simplemente especificar qu\u00e9 queremos que hagan. Si queremos que los modelos ejerzan un buen juicio en una amplia gama de situaciones novedosas, necesitan ser capaces de generalizar; aplicar principios generales en lugar de seguir reglas espec\u00edficas mec\u00e1nicamente\u00bb.<\/p>\n

Anthropic, sobre la nueva constituci\u00f3n de Claude<\/cite><\/p><\/blockquote>\n

\n
\n

Tabla de Contenido<\/p>\nToggle<\/span><\/path><\/svg><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n