{"id":29710,"date":"2024-10-27T12:10:12","date_gmt":"2024-10-27T12:10:12","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/bots-que-desnudan-a-personas-con-ia\/"},"modified":"2024-10-27T12:10:12","modified_gmt":"2024-10-27T12:10:12","slug":"bots-que-desnudan-a-personas-con-ia","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=29710","title":{"rendered":"bots que desnudan a personas con IA"},"content":{"rendered":"
\n

Corr\u00eda el a\u00f1o 2019. La IA generativa todav\u00eda estaba en pa\u00f1ales, pero ya empezaban a escucharse y hacer ruido t\u00e9rminos como redes neuronales<\/a> (para bien, por su potencial) y deepfakes<\/a> (normalmente, para mal). Uno de los esc\u00e1ndalos m\u00e1s sonados de 2019 fue el de DeepNude<\/a>, una web que permit\u00eda desnudar a cualquier mujer con solo subir una foto. Entre bambalinas, lo que hab\u00eda era una red neuronal que hab\u00eda sido entrenada con m\u00e1s de 10.000 fotos de mujeres desnudas.<\/p>\n

<\/p>\n

La web llevaba meses circulando, pero tras su descubrimiento solo dur\u00f3 unas horas<\/a>. El desarrollador, que dec\u00eda llamarse Alberto y residir en Estonia, cerr\u00f3 la plataforma alegando que \u00abla probabilidad de que la gente haga mal uso de esta\u00bb era \u00abdemasiado alta\u00bb (no se pod\u00eda saber) y que \u00abel mundo a\u00fan no est\u00e1 preparado para DeepNude\u00bb. Eso fue en 2019.<\/p>\n

<\/p>\n

Hoy, en 2024, esta tecnolog\u00eda ha evolucionado hasta ser lo que es<\/a>: un portento tecnol\u00f3gico cuya magnitud solo es igualada por el reto que supone frenar su mal uso. Porque la IA tiene infinitos casos de usos positivos, pero tambi\u00e9n puede usarse con fines menos \u00e9ticos y morales. Fines como desnudar a personas a trav\u00e9s de un bot de Telegram. Como DeepNude, pero m\u00e1s f\u00e1cil y a la vista de todos. Porque el mundo, en 2024, sigue sin estar preparado para un desaf\u00edo como este.<\/p>\n

<\/p>\n

Cuatro millones de usuarios<\/strong>. Esos son los que, de acuerdo a una investigaci\u00f3n de la revista WIRED<\/a>, re\u00fanen mensualmente al menos 50 bots de Telegram cuyo \u00fanico fin es generar im\u00e1genes o v\u00eddeos de personas reales desnudas. Dos de ellos, asegura la revista, tienen 400.000 usuarios mensuales. Otros, 14 para ser exactos, superan los 100.000 usuarios.<\/p>\n

<\/p>\n

Estamos hablando de miles de personas que (potencialmente) han generado im\u00e1genes de otras personas desnudas sin su consentimiento. Esto es, a todas luces, una violaci\u00f3n de la protecci\u00f3n de datos o privacidad, as\u00ed como de la intimidad, honor y propia imagen. Y lejos de ser algo inocente, es una pr\u00e1ctica que puede tener (y tiene) un impacto real en la vida de las personas<\/a>. Entre 2022 y 2023, el contenido pornogr\u00e1fico deepfake aument\u00f3 un 464%, seg\u00fan el estudio State of Deepfakes<\/a> de Home Security Heroes. El 99% de ese contenido est\u00e1 protagonizado por mujeres.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"As\u00ed
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

C\u00f3mo funcionan<\/strong>. Seg\u00fan detallan desde WIRED, estos bots se venden con mensajes como \u00abPuedo hacer lo que quieras con la cara o la ropa de la foto que me des\u00bb y, en su mayor\u00eda, requieren que el usuario compre tokens con dinero real o criptomonedas. Que generen el resultado prometido o sean una estafa es otra historia. Algunos de estos bots permiten subir fotos de las personas para, afirman, entrenar a la IA y generar im\u00e1genes m\u00e1s precisas. Otros no se anuncian como bots para desnudar, pero s\u00ed enlazan a bots capaces de hacerlo.<\/p>\n

<\/p>\n

El problema de fondo<\/strong>. No es que este tipo de bots se puedan encontrar y usar en Telegram, que tambi\u00e9n, sino lo complicado que es frenar este contenido. En lo que concierne a Telegram, una deep web en s\u00ed misma<\/a>, la aplicaci\u00f3n de mensajer\u00eda ya ha sido objeto de pol\u00e9mica en alguna ocasi\u00f3n por cosas como esta.<\/p>\n

<\/p>\n

El \u00faltimo caso es reciente, de hecho: la detenci\u00f3n de su fundador<\/a>. Pavel Durov fue detenido en Francia por, aparentemente, haber contribuido a cometer delitos en Telegram por la falta de moderaci\u00f3n. Desde Telegram se defendieron, alegando que es \u00ababsurdo afirmar que una plataforma o su propietario son responsables del abuso de esa plataforma\u00bb. Tras su detenci\u00f3n, Durov asegur\u00f3 que convertir\u00eda la moderaci\u00f3n<\/a> en una de las prioridades del servicio.<\/p>\n

<\/p>\n

\n
\n

El problema de fondo est\u00e1 en lo complicado que es frenar la creaci\u00f3n y difusi\u00f3n de este tipo de contenido<\/p>\n<\/p><\/div>\n<\/div>\n

No obstante, cabe destacar que, a tenor del art\u00edculo de WIRED, Telegram ha eliminado los canales y bots reportados por la revista. Ahora bien, esos canales son lo que est\u00e1n, pero seguramente no est\u00e9n todos los que son. Telegram, como indic\u00e1bamos, en una deep web en s\u00ed misma que, no obstante, pone a disposici\u00f3n del usuario todas las herramientas necesarias para encontrar contenido. Un buscador, sin ir m\u00e1s lejos.<\/p>\n

<\/p>\n

Atajarlo es complejo<\/strong>. Luchar contra los deepfakes es \u00abb\u00e1sicamente una causa perdida\u00bb. Esas fueron las palabras<\/a> de Scarlett Johansson all\u00e1 por 2019. La actriz fue una de las primeras v\u00edctimas de los deepfakes pornogr\u00e1ficos (ni la \u00fanica, desde luego<\/a>) y hoy, en 2024, lo cierto es que la situaci\u00f3n sigue m\u00e1s o menos igual. Ha habido algunos movimientos<\/a> por parte de las grandes tecnol\u00f3gicas, pero la realidad es que los deepfakes siguen campando a sus anchas.<\/p>\n

<\/p>\n

\n
\n
\n
\n \"Ejemplo
\n \"Ejemplo
\n <\/a><\/p>\n

Ejemplo de imagen falsa generada con IA durante los estragos del hurac\u00e1n Helene | Pulsa en la imagen para ver el tweet original<\/span>\n <\/div>\n<\/p><\/div>\n<\/div>\n

Es m\u00e1s, las herramientas actuales han hecho que sea todav\u00eda m\u00e1s sencillo hacerlo. \u00bfQuieres una foto de Bill Gates sujetando un arma? \u00bfA Taylor Swift en lencer\u00eda o apoyando a Donald Trump? Puedes hacerlo directamente en Grok<\/a>, la IA de X, por ejemplo. Aunque algunas plataformas como Midjourney o DALL-E bloquean las peticiones pol\u00e9micas, cualquier persona puede con una simple b\u00fasqueda en Internet, tiempo libre, muchas im\u00e1genes y mala idea entrenar su propia IA<\/a> para vete a saber qu\u00e9.<\/p>\n

<\/p>\n

Ejemplos<\/strong>. Podemos encontrar tantos como queramos. Los m\u00e1s recientes los tenemos en Estados Unidos: los deepfakes generados<\/a> a ra\u00edz de los estragos del hurac\u00e1n Helene. En Corea del Sur el problema del porno deepfake<\/a> ha llegado a las m\u00e1s altas esferas y se ha convertido en una cuesti\u00f3n de inter\u00e9s nacional<\/a>. Tanto que, hace unos d\u00edas, se aprobaron una serie de leyes que contemplan penas de c\u00e1rcel y multas por generar y hasta ver este contenido sint\u00e9tico. \u00abCualquier persona que posea, compre, almacene o mire material sexual sint\u00e9tico ilegal estar\u00e1 sujeta a una pena de prisi\u00f3n de hasta tres a\u00f1os o una multa de hasta 30 millones de wones (20.000 euros al cambio)\u00bb, recogen en la BBC<\/a>. Como dato, Telegram tambi\u00e9n ha jugado un papel importante en la difusi\u00f3n del contenido pornogr\u00e1fico sint\u00e9tico en Corea del Sur.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"La
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Qu\u00e9 se ha intentado<\/strong>. Uno de los enfoques de la industria es el marcaje del contenido generado mediante IA con marcas de agua invisibles<\/a>. De momento, marcar el contenido como sint\u00e9tico o no depende del creador (Instagram y TikTok tienen herramientas para ello, por ejemplo), pero una marca de agua evitar\u00eda, o al menos reducir\u00eda, la difusi\u00f3n de contenido falso y fake news. Adem\u00e1s, permitir\u00eda una detecci\u00f3n temprana.<\/p>\n

<\/p>\n

Sin embargo, la realidad es que su implantaci\u00f3n a nivel global no es la norma. Si hablamos de contenido pornogr\u00e1fico sint\u00e9tico<\/a>, el desaf\u00edo es mucho mayor. No solo es una cuesti\u00f3n de moderaci\u00f3n en las plataformas, sino de detecci\u00f3n precoz, de evitar que se pueda hacer el da\u00f1o. Una marca de agua no soluciona el problema per se, ya que tiene que implementarse.<\/p>\n

<\/p>\n

\n
\n
\n \"Marca
\n \"Marca<\/p>\n

Marca de agua para el contenido generado con IA propuesta por OpenAI | Imagen: OpenAI<\/span>\n <\/div>\n<\/p><\/div>\n<\/div>\n

Para que la marca de agua sea eficaz, esta deber\u00eda implementarse<\/a> en todos y cada uno de los modelos y herramientas de generaci\u00f3n de contenido sint\u00e9tico. No solo en los comerciales, sino en los que un usuario puede ejecutar en local. De esa manera, todo el contenido generado por IA estar\u00eda marcado en origen y su detecci\u00f3n por parte de los sistemas de las plataformas ser\u00eda m\u00e1s sencilla. Pero una cosa es decirlo y otra muy distinta hacerlo<\/a>.<\/p>\n

<\/p>\n

Imagen | Wikimedia Commons<\/a> y Pixabay<\/a> editada por Xataka<\/p>\n

En Xataka | Tenemos un gigantesco problema con las im\u00e1genes generadas por IA. Google cree tener la soluci\u00f3n<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Corr\u00eda el a\u00f1o 2019. La IA generativa todav\u00eda estaba en pa\u00f1ales, pero ya empezaban a escucharse y hacer ruido t\u00e9rminos como redes neuronales (para bien, por su potencial) y deepfakes (normalmente, para mal). Uno de los esc\u00e1ndalos m\u00e1s sonados de 2019 fue el de DeepNude, una web que permit\u00eda desnudar a cualquier mujer con solo […]<\/p>\n","protected":false},"author":2,"featured_media":29711,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-29710","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/29710","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=29710"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/29710\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/29711"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=29710"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=29710"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=29710"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}