{"id":9785,"date":"2024-07-04T10:24:36","date_gmt":"2024-07-04T10:24:36","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/los-modelos-de-ia-estan-entrenandose-con-fotos-de-ninos-y-da-igual-que-los-padres-traten-de-evitarlo\/"},"modified":"2024-07-04T10:24:36","modified_gmt":"2024-07-04T10:24:36","slug":"los-modelos-de-ia-estan-entrenandose-con-fotos-de-ninos-y-da-igual-que-los-padres-traten-de-evitarlo","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=9785","title":{"rendered":"Los modelos de IA est\u00e1n entren\u00e1ndose con fotos de ni\u00f1os. Y da igual que los padres traten de evitarlo"},"content":{"rendered":"
\n

El organismo Human Rights Watch (HRW) lleva tiempo vigilando c\u00f3mo la tecnolog\u00eda puede amenazar nuestros derechos y libertades, y ahora ha denunciado un nuevo problema, esta vez relacionado con la IA. Y lo m\u00e1s preocupante es qui\u00e9nes son las v\u00edctimas de esa amenaza: los ni\u00f1os.<\/p>\n

<\/p>\n

Qu\u00e9 hac\u00edan esas fotos de ni\u00f1os ah\u00ed<\/strong>. Una investigadora de HWR llamado Hye Jung Han<\/a> descubri\u00f3 el mes pasado algo inquietante. El conjunto de datos (dataset) LAION-5B, muy popular para el entrenamiento de modelos de IA, conten\u00eda una serie de 170 fotos de ni\u00f1os brasile\u00f1os<\/a>. Las im\u00e1genes proced\u00edan de blogs sobre temas parentales y personales, pero incluso hab\u00eda fotogramas de v\u00eddeos de YouTube poco vistos, posiblemente subidos para ser compartidos con amigos y familiares, indicaron en Wired<\/a>. Los t\u00e9rminos de servicio de YouTube proh\u00edben<\/a> capturar informaci\u00f3n que pueda identificar a una persona salvo en casis excepcionales, pero el da\u00f1o parece estar hecho ya, como vimos en el pasado<\/a>.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Las
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Ahora han descubierto m\u00e1s<\/strong>. La misma investigadora ha encontrado otras 190 fotos de ni\u00f1os<\/a>, esta vez procedentes de Australia. Las im\u00e1genes recorren toda la duraci\u00f3n de la etapa infantil: desde beb\u00e9s nada m\u00e1s nacer hasta ni\u00f1as en ba\u00f1ador en un carnaval, pasando por ni\u00f1os haciendo pompas. Hay fotos de ni\u00f1os tribus ind\u00edgenas australianas, pero en todas ellas hay un dato preocupante: los padres trataron de evitar que esas fotos quedaran expuestas al p\u00fablico.<\/p>\n

<\/p>\n

Fotos robadas<\/strong>. En este nuevo descubrimiento se especifica c\u00f3mo las fotos fueron vistas por poca gente y \u00abten\u00edan ciertas medidas de privacidad\u00bb. No parec\u00eda posible encontrarlas con una b\u00fasqueda online, y se publicaron en blogs personales o sitios para compartir v\u00eddeos. Otras fueron publicadas por los colegios o por fot\u00f3grafos contratados por familias. \u00abAlgunas fueron subidas a\u00f1os o incluso una d\u00e9cada antes de que LAION-5B fuera creado\u00bb, destacan en este organismo.<\/p>\n

<\/p>\n

Ni\u00f1os identicables<\/strong>. La investigaci\u00f3n destacaba c\u00f3mo las URLs en el conjunto de datos a veces revelan informaci\u00f3n sobre los ni\u00f1os, incluyendo nombres o ubicaciones donde fueron tomadas las fotos. De una foto con la descripci\u00f3n \u00abdos ni\u00f1os, de 3 y 4 a\u00f1os, sonriendo de oreja a oreja mientras sostienen pinceles frente a un colorido mural\u00bb la investigadora fue capaz de obtener \u00ablos nombres completos y edades de ambos ni\u00f1os, y el nombre de la guarder\u00eda a la que iban en Perth, en Australia Occidental\u00bb. No hab\u00eda informaci\u00f3n sobre los ni\u00f1os en otros sitios en internet, lo que parece dejar claro que lso padres tomaron medidas para tratar de evitar que los ni\u00f1os fueran identificados.<\/p>\n

<\/p>\n

Y seguramente esto sea solo la punta del iceberg<\/strong>. Como explican en HRW, sus investigadores solo han podido revisar \u00abmenos del 0,0001 % de las 5.850 millones de im\u00e1genes y descripciones de ese conjunto de datos\u00bb. Han explicaba c\u00f3mo \u00abes alucinante que eso saliera de un conjunto aleatorio de unas 5.000 im\u00e1genes, y que de ellas inmediatamente aparecieran esas 190 fotos de ni\u00f1os australianos. Uno esperar\u00eda encontrarse con m\u00e1s fotos de gatos que fotos personales de ni\u00f1os\u00bb teniend o en cuenta que LAION-5B es te\u00f3ricamente \u00abun reflejo de toda internet\u00bb.<\/p>\n

<\/p>\n

La IA no sabe guardar secretos<\/strong>. Para HRW los modelos de IA son un peligro porque ya se ha demostrado que es posible recolectar informaci\u00f3n sensible y \u00abrescatar\u00bb datos sensibles \u2014como registros m\u00e9dicos<\/a>\u2014 que acabaron en esos datasets con los que son entrenados.<\/p>\n

<\/p>\n

Qu\u00e9 dicen los creadores de LAION-5B<\/strong>. Los creadores de este conjunto de datos forman parte de LAION<\/a>, una ONG que deja claro<\/a> que tiene una \u00abpol\u00edtica de tolerancia cero con el contenido ilegal\u00bb. Uno de sus portavoces, Nathan Tyler, coment\u00f3 en Ars Technica<\/a> que est\u00e1n trabajando para resolver el problema, pero eliminar esas im\u00e1genes es un proceso lento y adem\u00e1s poco efectivo. Como dice Han, eliminar los enlaces de los conjuntos de datos no cambia los modelos de IA que ya han sido entrenados con este dataset. \u00abNo puden olvidar los datos con los que se han entrenado, incluso si esos datos se borraron despu\u00e9s del conjunto de datos [de entrenamiento]\u00bb.<\/p>\n

<\/p>\n

Imagen | Robert Collins<\/a><\/p>\n

En Xataka | YouTube considera una violaci\u00f3n de la privacidad que alguien use una IA para suplantarnos. Y lo podremos denunciar<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

El organismo Human Rights Watch (HRW) lleva tiempo vigilando c\u00f3mo la tecnolog\u00eda puede amenazar nuestros derechos y libertades, y ahora ha denunciado un nuevo problema, esta vez relacionado con la IA. Y lo m\u00e1s preocupante es qui\u00e9nes son las v\u00edctimas de esa amenaza: los ni\u00f1os. Qu\u00e9 hac\u00edan esas fotos de ni\u00f1os ah\u00ed. Una investigadora de […]<\/p>\n","protected":false},"author":2,"featured_media":9786,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-9785","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/9785","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=9785"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/9785\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/9786"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=9785"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=9785"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=9785"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}