{"id":13605,"date":"2024-07-24T05:26:24","date_gmt":"2024-07-24T05:26:24","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/tenemos-un-nuevo-metodo-para-detectar-deepfakes-uno-basado-en-como-medimos-las-galaxias\/"},"modified":"2024-07-24T05:26:24","modified_gmt":"2024-07-24T05:26:24","slug":"tenemos-un-nuevo-metodo-para-detectar-deepfakes-uno-basado-en-como-medimos-las-galaxias","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=13605","title":{"rendered":"Tenemos un nuevo m\u00e9todo para detectar deepfakes. Uno basado en c\u00f3mo medimos las galaxias"},"content":{"rendered":"
\n

La foto principal de Scarlett Johansson es real. La de la persona de la derecha no. Es un deepfake generado por IA<\/a>, y aunque est\u00e1 realmente lograda, ha sido posible detectar que hab\u00eda sido creada por una m\u00e1quina. El m\u00e9todo para lograr esa detecci\u00f3n es especialmente curioso.<\/p>\n

<\/p>\n

El secreto de sus ojos<\/strong>. Investigadores de la Universidad de Hull han desarrollado<\/a> un novedoso m\u00e9todo para detectar im\u00e1genes creadas por modelos de IA generativa. La clave, aseguran, est\u00e1 en los ojos de esas im\u00e1genes de personas. Y en concreto, en la forma en la que reflejan la luz.<\/p>\n

<\/p>\n

Una t\u00e9cnica astron\u00f3mica<\/strong>. La forma de detectar esas im\u00e1genes falsas est\u00e1 sorprendentemente basada en herramientas usadas por los astr\u00f3nomos para estudiar galaxias. En este caso esas t\u00e9cnicas permiten analizar la consistencia de la luz reflejada en los globos oculares.<\/p>\n

<\/p>\n

El fallo<\/strong>. Seg\u00fan ese estudio, liderado por el estudiante Adejumoke Owolabi y tutelado por su profesor de astrof\u00edsica, el Dr. Kevin Pimbblet, estudiar los reflejos de la luz en los ojos ayuda a detectar deepfakes. Normalmente los dos ojos reflejan de la misma forma el reflejo de las fuentes de luz, pero en im\u00e1genes creadas por IA no se toma en cuenta ese hecho, y suele haber incosistencia en el reflejo en cada ojo.<\/p>\n

<\/p>\n

\n
\n \"Ojos\"\/
\n \"Ojos\"<\/p><\/div>\n<\/div>\n

Jugando a encontrar diferencias<\/strong>. Aunque en muchos casos es f\u00e1cil ver a simple vista las diferencias en la reflexi\u00f3n de la luz en los ojos, la t\u00e9cnica astron\u00f3mica ayuda a encontrar y cuantificar esas incosistencias. Owolabi desarroll\u00f3 una t\u00e9cnica para detectar autom\u00e1ticamente esas diferencias analizando las caracter\u00edsticas morfol\u00f3gicas de los reflejos mediante \u00edndices para comparar la similitud entre los globos oculares izquierdo y derecho.<\/p>\n

<\/p>\n

Coeficiente de Gini<\/strong>. La herramienta desarrollada hace uso del llamado coeficiente de Gini, que tradicionalmente se ha usado para medir la distribuci\u00f3n de luz en im\u00e1genes procedentes de galaxias, y que permite evaluar la uniformidad de las reflexiones. En el caso de esos estudios, como indicaba Pimbblet, se miden las formas de las galaxias, si son compactas, sim\u00e9tricas y la distribuci\u00f3n de la luz.<\/p>\n

<\/p>\n

\u00datil… por ahora<\/strong>. La herramienta parece \u00fatil, y se suma a otras t\u00e9cnicas que en los \u00faltimos meses tratan de ayudarnos a detectar deepfakes. El problema es que una vez se ha sabido que los modelos de IA generativa tienen este problema, sus creadores los modificar\u00e1n para corregirlo y hacer esos deepfakes a\u00fan m\u00e1s dif\u00edciles de detectar.<\/p>\n

<\/p>\n

Las marcas de agua como alternativa<\/strong>. Frente a estas t\u00e9cnicas, parece que la opci\u00f3n m\u00e1s interesante de momento es generar esas marcas de agua invisibles<\/a> que identifiquen las im\u00e1genes generadas por IA como tales. Hay diversos movimientos<\/a> diversificados en este sentido<\/a>, y queda por ver si acaban convirti\u00e9ndose en la norma.<\/p>\n

<\/p>\n

Imagen | Adejumoke Owolabi<\/a><\/p>\n

En Xataka | La IA ha avanzado tanto que el problema no son solo los deepfakes. Es que desconfiamos incluso de las fotos reales<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

La foto principal de Scarlett Johansson es real. La de la persona de la derecha no. Es un deepfake generado por IA, y aunque est\u00e1 realmente lograda, ha sido posible detectar que hab\u00eda sido creada por una m\u00e1quina. El m\u00e9todo para lograr esa detecci\u00f3n es especialmente curioso. El secreto de sus ojos. Investigadores de la […]<\/p>\n","protected":false},"author":2,"featured_media":13606,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-13605","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/13605","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=13605"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/13605\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/13606"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=13605"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=13605"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=13605"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}