{"id":57520,"date":"2025-03-27T13:38:19","date_gmt":"2025-03-27T13:38:19","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=57520"},"modified":"2025-03-27T13:38:19","modified_gmt":"2025-03-27T13:38:19","slug":"el-nuevo-generador-de-imagenes-de-openai-da-un-giro-de-180o-en-un-apartado-que-no-vimos-venir-la-censura","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=57520","title":{"rendered":"El nuevo generador de im\u00e1genes de OpenAI da un giro de 180\u00ba en un apartado que no vimos venir: la censura"},"content":{"rendered":"
\n

Ese de la foto se supone que es la de Karl Marx con bolsas de la compra y con una actitud ins\u00f3lita: saliendo de un centro comercial y demostrando un ins\u00f3lito cambio<\/a> a la filosof\u00eda capitalista y consumista. Pero claro, no es \u00e9l: es un deepfake generado por un modelo de IA muy peculiar. En concreto, por el nuevo modelo de OpenAI integrado en ChatGPT y que va m\u00e1s all\u00e1 de DALL-E en un aparatado clave: la censura.<\/p>\n

<\/p>\n

Adi\u00f3s (casi) a la censura<\/strong>. En la \u00abtarjeta del sistema<\/a>\u00bb de este modelo OpenAI destaca un mensaje singular: podremos generar deepfakes sin aparentes problemas. Como explican en dicho texto,<\/p>\n

<\/p>\n

\u00abLa generaci\u00f3n de im\u00e1genes 4o es capaz, en muchos casos, de generar una representaci\u00f3n de una figura p\u00fablica bas\u00e1ndose \u00fanicamente en una indicaci\u00f3n de texto.<\/p><\/blockquote>\n

En este lanzamiento, no bloquearemos la capacidad de generar figuras p\u00fablicas adultas<\/strong>, sino que implementaremos las mismas salvaguardas que hemos implementado para la edici\u00f3n de im\u00e1genes de cargas fotorrealistas de personas. Por ejemplo, esto incluye tratar de bloquear la generaci\u00f3n de im\u00e1genes fotorrealistas de figuras p\u00fablicas que sean menores y de material que viole nuestras pol\u00edticas relacionadas con la violencia, las im\u00e1genes que inciten al odio, las instrucciones para actividades il\u00edcitas, el contenido er\u00f3tico y otras \u00e1reas. Los personajes p\u00fablicos que deseen que no se genere su imagen pueden optar por no participar\u00bb.<\/p><\/blockquote>\n

\n
\n
\n
\n
\n \"\u201cLa
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Un enfoque similar al de Grok<\/strong>. La filosof\u00eda de OpenAI sigue ahora la misma l\u00ednea<\/a> que la que plante\u00f3 Grok 3<\/a> con su generaci\u00f3n de im\u00e1genes hace meses. La censura desaparec\u00eda y era factible generar cualquier tipo de deepfake incluso con personajes p\u00fablicos<\/a>. Los responsables de OpenAI destacan c\u00f3mo el enfoque aqu\u00ed es distinto al de la serie de modelos DALL-E, y eso \u00ababre la posibilidad de usos \u00fatiles y beneficiosos en \u00e1mbitos como el discurso educativo, hist\u00f3rico, sat\u00edrico y pol\u00edtico\u00bb. Aun as\u00ed, a\u00f1aden, seguir\u00e1n \u00abvigilando el uso de esta capacidad, evaluando nuestras pol\u00edticas, y las ajustaremos si es necesario\u00bb, lo que deja claro que un mal uso de estas opciones podr\u00eda llevar a OpenAI a volver a aplicar mecanismos de censura.<\/p>\n

<\/p>\n

Por qu\u00e9 ahora<\/strong>. La decisi\u00f3n de OpenAI es llamativa, pero l\u00f3gica. Grok 3, que era un modelo poco extendido, ha logrado cierta popularidad gracias a ese enfoque \u00abpol\u00edticamente incorrecto\u00bb de su modelo de IA. Al fin y al cabo los modelos de IA son herramientas, y pueden ser utilizadas tanto para el bien como para el mal, como cualquier otra herramienta. Controlar los malos usos es extremadamente dif\u00edcil y costoso, y aqu\u00ed OpenAI deja la pelota en el tejado de los usuarios. La generaci\u00f3n de deepfakes<\/a> con personajes famosos en Grok 3 desat\u00f3 una inundaci\u00f3n de memes y contenidos de todo tipo con esos famosos, pero parece que en los \u00faltimos tiempos \u00abnos hemos acostumbrado\u00bb a disponer de esa capacidad y aparentemente la difusi\u00f3n de esas im\u00e1genes se ha relajado. La pol\u00e9mica inicial se ha difuminado, y OpenAI probablemente sabe que esto ayudar\u00e1 a impulsar a\u00fan m\u00e1s el uso de ChatGPT y quiz\u00e1s de hacer da\u00f1o a su rival, Grok 3.<\/p>\n

<\/p>\n

\n
\n
\n \"Captura
\n \"Captura<\/p>\n

La calidad de las im\u00e1genes fotorrealistas sube de nivel en este nuevo generador de im\u00e1genes integrado en ChatGPT con GPT-4o. Fuente: OpenAI.<\/span>\n <\/div>\n<\/p><\/div>\n<\/div>\n

Pero no quieren meter la pata<\/strong>. Generar im\u00e1genes es maravilloso, pero tambi\u00e9n puede acabar siendo un problem\u00f3n para los modelos que meten la pata. Le ocurri\u00f3 a Google con Gemini, que acab\u00f3 generando im\u00e1genes pol\u00e9micas de soldados nazis negros<\/a> en los que el af\u00e1n por ser inclusivos acab\u00f3 planteando problemas reputacionales y econ\u00f3micos importantes<\/a>. El addendum<\/a> al anuncio oficial por parte de OpenAI deja claro<\/a> que han tenido especial cuidado para generar im\u00e1genes \u00abseguras\u00bb. El modelo censura mucho menos, pero puede seguir neg\u00e1ndose a generar cierto tipo de im\u00e1genes que por ejemplo eviten el control de materiales CSAM (Child Sexual Abuse Material).<\/p>\n

<\/p>\n

La evoluci\u00f3n de DALL-E<\/strong>. En enero de 2021 probablemente nadie prest\u00f3 demasiada atenci\u00f3n a una noticia que publicamos en Xataka. Una desconocida OpenAI presentaba en aquel momento DALL-E<\/a>, un modelo capaz de generar im\u00e1genes a partir de un prompt de texto. En abril de 2022 llegar\u00eda DALL-E 2<\/a>, pero en realidad todos \u00abhicimos clic\u00bb en junio de aquel a\u00f1o, cuando se lanz\u00f3 DALL-E 2 Mini<\/a> y todos pudimos probar aquello. Y era impresionante.<\/p>\n

<\/p>\n

Im\u00e1genes en ChatGPT<\/strong>. Lo nuevo de OpenAI en este \u00e1mbito no es un te\u00f3rico DALL-E 4. En lugar de eso lo que ha presentado la compa\u00f1\u00eda es la llamada generaci\u00f3n de imagen integrada en su modelo GPT-4o<\/a>. El anuncio es importante por que permite generar im\u00e1genes directamente dentro de ChatGPT, pero adem\u00e1s hacerlo con una calidad claramente superior a la que ofrece DALL-E.<\/p>\n

<\/p>\n

\n
\n \"Captura
\n \"Captura<\/p><\/div>\n<\/div>\n

Hasta genera bien el texto<\/strong>. Una de las caracter\u00edsticas destacadas de este modelo es su capacidad para renderizar texto de forma precisa: si le pides una imagen con cierto texto, ese texto aparecer\u00e1 de forma clara, mientras que en otros modelos el texto puede aparecer distorsionado o ilegible. Seg\u00fan OpenAI el modelo se aprovecha de \u00abla base de conocimiento inherente de 4o\u00bb.<\/p>\n

<\/p>\n

Y m\u00e1s opciones llamativas<\/strong>. En OpenAI tambi\u00e9n destacan c\u00f3mo ahora tenemos adem\u00e1s la capacidad de generar en \u00abmultiturno\u00bb, es decir, ir refinando im\u00e1genes a partir de las anteriores. Podremos ir puli\u00e9ndolas o a\u00f1adir nuevos elementos a las im\u00e1genes con nuevos prompts. La comprensi\u00f3n del contexto, la calidad de las im\u00e1genes fotorrealistas \u2014como la de Marx\u2014 o incluso la generaci\u00f3n de diagramas y gr\u00e1ficas son otras opciones destacables de este modelo de generaci\u00f3n de im\u00e1genes.<\/p>\n

<\/p>\n

Marcas de agua activadas<\/strong>. Hay un elemento adicional interesante del modelo: todas las im\u00e1genes generadas incluyen metadatos C2PA<\/a>, es decir: contienen \u00abmarcas de agua\u00bb invisibles que permiten identificar a todas esas im\u00e1genes como generadas por GPT-4o. En OpenAI incluso destacan que han creado una herramienta interna de b\u00fasqueda que permite usar los atributos t\u00e9cnicos de las generaciones para verificar si ese contenido proviene de su modelo.<\/p>\n

<\/p>\n

Pero sigue siendo imperfecto<\/strong>. Los propios responsables de la empresa avisan: las im\u00e1genes pueden contener errores de bulto y alucinar, y la generaci\u00f3n de texto, sobre todo con el soporte multiidioma, puede acabar ofreciendo textos sin sentido.<\/p>\n

<\/p>\n

Qui\u00e9n puede usarlo<\/strong>. La generaci\u00f3n de imagen en 4o ya ha comenzado su despliegue para usuarios de ChatGPT Plus<\/a>, Pro, Team e incluso de las cuentas gratuitas, y pr\u00f3ximamente llegar\u00e1 a Enterprise y Edu. DALL-E seguir\u00e1 estando disponible a trav\u00e9s de un GPT personalizado. El despliegue est\u00e1 siendo gradual, y si generamos una imagen se mostrar\u00e1 debajo del tipo \u00abesta imagen ha sido creada con DALL-E\u00bb.<\/p>\n

<\/p>\n

Imagen | OpenAI<\/p>\n

En Xataka | Las grandes tecnol\u00f3gicas se han empe\u00f1ado en algo este a\u00f1o: que terminemos hablando con una IA<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Ese de la foto se supone que es la de Karl Marx con bolsas de la compra y con una actitud ins\u00f3lita: saliendo de un centro comercial y demostrando un ins\u00f3lito cambio a la filosof\u00eda capitalista y consumista. Pero claro, no es \u00e9l: es un deepfake generado por un modelo de IA muy peculiar. En […]<\/p>\n","protected":false},"author":2,"featured_media":57521,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-57520","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/57520","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=57520"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/57520\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/57521"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=57520"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=57520"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=57520"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}