{"id":53094,"date":"2025-02-28T17:15:17","date_gmt":"2025-02-28T17:15:17","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/hay-que-preocuparse-por-un-nuevo-problema-de-la-ia-generativa\/"},"modified":"2025-02-28T17:15:17","modified_gmt":"2025-02-28T17:15:17","slug":"hay-que-preocuparse-por-un-nuevo-problema-de-la-ia-generativa","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=53094","title":{"rendered":"Hay que preocuparse por un nuevo problema de la IA generativa"},"content":{"rendered":"<div>\n<p>Es innegable que la <a href=\"https:\/\/hipertextual.com\/2025\/02\/openai-quiere-disenar-robots-humanoides-impulsados-por-ia\" target=\"_blank\" rel=\"noopener\">IA<\/a> generativa est\u00e1 suponiendo revoluci\u00f3n para el mundo de Internet y muchas industrias. Acumula una gran cantidad de hitos incre\u00edbles a cada cu\u00e1l m\u00e1s espectacular, pero de vez en cuando tambi\u00e9n toca hablar de lo malo. De todos esos usos que, dada la naturaleza de la <a href=\"https:\/\/hipertextual.com\/2024\/12\/meta-usara-energia-nuclear-para-impulsar-su-ia\" target=\"_blank\" rel=\"noopener\">inteligencia artificial<\/a>,<strong> se utilizan para hacer el mal<\/strong>. Ya se han dado varios casos, aunque el \u00faltimo que destapa la Europol (Oficina Europea de Polic\u00eda) es especialmente espeluznante. <\/p>\n<p>De hecho, confirma que <strong>el mal uso de herramientas IA, aunque creen contenido artificial, pueden llevarte a la c\u00e1rcel<\/strong>. Es justo lo que ha ocurrido con un grupo de 25 personas en Europa, acusados de <strong>generar y distribuir pornograf\u00eda infantil generada de forma exclusiva con servicios de inteligencia artificial<\/strong>. <\/p>\n<p>La investigaci\u00f3n dio comienzo el pasado noviembre, cuando se detuvo a un individuo que generaba estas im\u00e1genes, las sub\u00eda a una web en Internet y permit\u00eda su acceso a cualquier persona con un par de euros en la tarjeta de cr\u00e9dito. Ahora, los <strong>otros 25 detenidos est\u00e1n acusados de pertenecer a esta red<\/strong> de pornograf\u00eda infantil creada con IA generativa. <\/p>\n<p>Es la primera vez que la Oficina Europea de Polic\u00eda se enfrenta a un caso de este calibre, donde <strong>las im\u00e1genes del delito no corresponden a nadie. <\/strong>Han sido creadas por una herramienta sin basarse en ninguna persona concreta y utilizando <a href=\"https:\/\/hipertextual.com\/2024\/08\/procreate-nunca-integrara-ia-generativa-a-su-app-porque-la-detesta\" target=\"_blank\" rel=\"noopener\">IA generativa<\/a>. Es decir, que esas fotograf\u00edas o v\u00eddeos, por muy realistas que parezcan, <strong>son totalmente artificiales<\/strong>. <\/p>\n<figure class=\"wp-block-image alignwide size-large\"><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"780\" height=\"465\" alt=\"Ejemplo de Sora, la IA de OpenAI. IA Generativa\" class=\"wp-image-1783993 perfmatters-lazy\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial-1500x895.jpg?resize=780%2C465&amp;quality=70&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=1500%2C895&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=800%2C477&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=768%2C458&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=1536%2C916&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=1200%2C716&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=1024%2C611&amp;quality=70&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=1568%2C935&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=400%2C239&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?w=1920&amp;quality=70&amp;strip=all&amp;ssl=1 1920w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial-1500x895.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" data-recalc-dims=\"1\" decoding=\"async\" width=\"780\" height=\"465\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial-1500x895.jpg?resize=780%2C465&amp;quality=70&amp;strip=all&amp;ssl=1\" alt=\"Ejemplo de Sora, la IA de OpenAI. IA Generativa\" class=\"wp-image-1783993\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=1500%2C895&amp;quality=70&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=800%2C477&amp;quality=70&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=768%2C458&amp;quality=70&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=1536%2C916&amp;quality=70&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=1200%2C716&amp;quality=70&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=1024%2C611&amp;quality=70&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=1568%2C935&amp;quality=70&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?resize=400%2C239&amp;quality=70&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial.jpg?w=1920&amp;quality=70&amp;strip=all&amp;ssl=1 1920w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/03\/sora-inteligencia-artificial-1500x895.jpg?w=370&amp;quality=70&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\"\/><figcaption class=\"wp-element-caption\">Frame de un v\u00eddeo creado con Sora, la IA de OpenAI.<\/figcaption><\/figure>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_81 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Tabla de Contenido<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/enfoquenoticioso.com\/?p=53094\/#Imagenes_artificiales_creadas_con_IA_generativa_delito_real\" >Im\u00e1genes artificiales creadas con IA generativa, delito real<\/a><\/li><\/ul><\/nav><\/div>\n<h2 class=\"wp-block-heading has-text-align-center\" id=\"h-imagenes-artificiales-creadas-con-ia-generativa-delito-real\"><span class=\"ez-toc-section\" id=\"Imagenes_artificiales_creadas_con_IA_generativa_delito_real\"><\/span>Im\u00e1genes artificiales creadas con IA generativa, delito real<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>En el informe que ha publicado la Europol, y como bien se han hecho eco desde <a href=\"https:\/\/elpais.com\/sociedad\/2025-02-28\/aunque-la-victima-sea-artificial-el-crimen-es-real-25-detenidos-en-una-operacion-internacional-contra-la-pornografia-infantil-creada-con-ia.html\" target=\"_blank\" rel=\"noopener\"><em>El Pa\u00eds<\/em><\/a>, queda bastante claro: <strong>a pesar de no estar basadas en personas reales, promueve<em> \u00abla cosificaci\u00f3n y sexualizaci\u00f3n de los ni\u00f1os\u00bb<\/em>. <\/strong><\/p>\n<p>De hecho, a ra\u00edz de esta investigaci\u00f3n, Europa ya est\u00e1 avanzando en una legislaci\u00f3n para que se considere <strong>abuso sexual infantil cualquier contenido de este tipo creado con IA generativa<\/strong>, y que, por lo tanto, se pueda juzgar en consecuencia a los involucrados. Es m\u00e1s, esta normativa prohibir\u00eda no solo la fabricaci\u00f3n y distribuci\u00f3n de las im\u00e1genes, sino tambi\u00e9n su posesi\u00f3n. <\/p>\n<p>La informaci\u00f3n que vierte este cuerpo policial europeo va todav\u00eda m\u00e1s all\u00e1, asegurando que un <em>\u00abporcentaje considerable\u00bb <\/em>de la pornograf\u00eda infantil detectada por las autoridades en los \u00faltimos meses <strong>est\u00e1 siendo creada con herramientas de IA generativa. <\/strong><\/p>\n<p>Y es que, al igual que es sencillo hacer una imagen graciosa o <a href=\"https:\/\/hipertextual.com\/2024\/12\/usar-sora-openai-vpn\" target=\"_blank\" rel=\"noopener\">crear un v\u00eddeo<\/a> con una simple descripci\u00f3n, <strong>todo este potencial tambi\u00e9n est\u00e1 disponible para aquellos que pretenden hacer el mal<\/strong>, incluso para los que tienen conocimientos muy limitados sobre tecnolog\u00eda. De hecho, parece que bastan un par de suscripciones a ciertas herramientas y saber qu\u00e9 <em>prompt<\/em> elegir para fabricar aberraciones como las que han motivado la detenci\u00f3n de estas 25 personas. <\/p>\n<p>Por no hablar, por supuesto, de que el hecho de <strong>estar ante im\u00e1genes artificiales dificulta hasta el extremo conocer de d\u00f3nde provienen<\/strong> y qui\u00e9n ha sido el autor del delito. <\/p>\n<section id=\"block-152\" class=\"below-content widget widget_block\"\/>\t<\/div>\n<p><a href=\"https:\/\/hipertextual.com\/2025\/02\/hay-que-preocuparse-por-un-nuevo-problema-de-la-ia-generativa-esta-forma-de-utilizarla-te-puede-llevar-a-la-carcel\" class=\" target=\" title=\"Hay que preocuparse por un nuevo problema de la IA generativa\" target=\"_blank\" rel=\"noopener\">Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Es innegable que la IA generativa est\u00e1 suponiendo revoluci\u00f3n para el mundo de Internet y muchas industrias. Acumula una gran cantidad de hitos incre\u00edbles a cada cu\u00e1l m\u00e1s espectacular, pero de vez en cuando tambi\u00e9n toca hablar de lo malo. De todos esos usos que, dada la naturaleza de la inteligencia artificial, se utilizan para [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":53095,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-53094","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/53094","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=53094"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/53094\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/53095"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=53094"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=53094"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=53094"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}