{"id":66114,"date":"2025-05-11T03:00:18","date_gmt":"2025-05-11T03:00:18","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=66114"},"modified":"2025-05-11T03:00:18","modified_gmt":"2025-05-11T03:00:18","slug":"espana-ha-fiado-a-la-ia-la-lucha-contra-la-violencia-de-genero-y-se-esta-traduciendo-en-fallos-mortales","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=66114","title":{"rendered":"Espa\u00f1a ha fiado a la IA la lucha contra la violencia de g\u00e9nero. Y se est\u00e1 traduciendo en fallos mortales"},"content":{"rendered":"
\n

Una mujer llamada Lina fue a la polic\u00eda el pasado mes de enero. Su expareja la hab\u00eda amenazada en su casa, en Benalm\u00e1dena, y en comisar\u00eda la interrogaron y registraron su caso en el Sistema de Seguimiento Integral en los casos de Violencia de G\u00e9nero, conocido como VioG\u00e9n<\/a>. Este sistema, basado en un algoritmo, determin\u00f3 que Lina era una persona de riesgo \u00abmedio\u00bb. Tres semanas despu\u00e9s fue presuntamente asesinada<\/a> por su pareja. No es la primera vez que algo as\u00ed ocurre, y muestra que tenemos un serio problema con nuestra potencial dependencia de los algoritmos.<\/p>\n

<\/p>\n

El origen de VioG\u00e9n<\/strong>. El ministerio del Interior desarroll\u00f3<\/a> en 2007 el Sistema VioG\u00e9n (Seguimiento Integral en los casos de Violencia de G\u00e9nero). Entre sus objetivos estaba el de hacer una predicci\u00f3n del riesgo y, en funci\u00f3n de esa predicci\u00f3n, realizar el seguimiento y protecci\u00f3n de las v\u00edctimas.<\/p>\n

<\/p>\n

C\u00f3mo funciona<\/strong>. El sistema se basa en la recopilaci\u00f3n y an\u00e1lisis proveniente de diversas fuentes como denuncias policiales, \u00f3rdenes de protecci\u00f3n o antecedentes penales. En la denuncia, por ejemplo, se realizan una serie de preguntas sobre el episodio de la agresi\u00f3n, la situaci\u00f3n de la v\u00edctima, los hijos, el perfil del agresor o los agravantes de vulnerabilidad, como la dependencia econ\u00f3mica.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Los
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Niveles de riesgo<\/strong>. A partir de esa evaluaci\u00f3n se asigna a cada caso uno de los cuatro niveles de riesgo (1 – Bajo, 2 – Medio, 3 – Alto, 4 – Extremo). Cada uno de ellos conlleva medidas espec\u00edficas que pueden incluir desde asignaci\u00f3n de dispositivos de teleasistencia a \u00f3rdenes de alejamiento. En el riesgo extremo la mujer cuenta con vigilancia policial las 24 horas.<\/p>\n

<\/p>\n

VioG\u00e9n 2<\/strong>. El sistema ha ido evolucionando desde su creaci\u00f3n y en estos \u00faltimos meses se ha ido implantando su segunda versi\u00f3n, VioG\u00e9n 2. Como explican en Art\u00edculo 14<\/a>, el algoritmo se actualiz\u00f3 con novedades como la de elimnar el riesgo no apreciado y dificultar la inactivaci\u00f3n de casos abiertos. As\u00ed, aparece una nueva modalidad de inactivaci\u00f3n supervisada que fija mecanismos de control policial durante un periodo de seis meses prorrogable a un a\u00f1o. Eso hace posible monitorizar casos en los que los expertos policiales no hayan apreciado la existencia de riesgo para la mujer o este sea bajo.<\/p>\n

<\/p>\n

Protocolo Cero<\/strong>. Hay tambi\u00e9n modificaciones que permitir\u00e1n que si la v\u00edctima lo solicita de manera \u00abvoluntaria, manifiesta y reiterada\u00bb se puedan inactivar casos de riesgo no apreciado, bajo o medio. Aun as\u00ed se debe activar aqu\u00ed el llamado \u00abProtocolo Cero\u00bb ideado para minimizar el riesgo de las v\u00edctimas que manifiestan su deseo de no denunciar. Seg\u00fan la macroencuesta de Igualdad<\/a>, la inmensa mayor\u00eda de las v\u00edctimas no denuncia, y por lo tanto tampoco se las protege: las instituciones solo tienen conocimiento del 21,7% de los casos seg\u00fan dicha encuesta.<\/p>\n

<\/p>\n

Tragedias por doquier<\/strong>. El problema es que el sistema no es del todo efectivo. El presunto asesinato de Lina es el \u00faltimo ejemplo de la limitada fiabilidad de VioG\u00e9n. En octubre de 2024 una mujer de 56 a\u00f1os fue asesinada<\/a> a pesar de haber pedido ayuda hasta en dos ocasiones. \u00a0Antes, en 2024, otra mujer fue asesinada por su pareja y ella tambi\u00e9n formaba parte<\/a> del sistema VioG\u00e9n.<\/p>\n

<\/p>\n

El algoritmo parece minimizar el riesgo<\/strong>. En el caso de Lina, por ejemplo, el sistema VioG\u00e9n asign\u00f3 el riesgo \u00abmedio\u00bb para ella, y eso parece ocurrir en m\u00e1s ocasiones. En septiembre de 2024, 96.644 mujeres se encontraban dentro del sistema VioG\u00e9n<\/a>, pero tan solo 12 de ellas se consideraron riesgo extremo, el 0,01% del total. Tanto la ministra de Igualdad, Ana Redondo, como el ministro de Interior, Fernando Grande-Marlaska, minimizan los errores<\/a> reconociendo que \u00abel modelo no es infalible, pero salva muchas vidas\u00bb.<\/p>\n

<\/p>\n

Nueva alarma contra la IA y los algoritmos<\/strong>. En los \u00faltimos tiempos estamos viendo c\u00f3mo hay cada vez m\u00e1s casos en los que se concede excesiva confianza a los algoritmos en temas especialmente sensibles utilizados en administraciones e instituciones p\u00fablicas.<\/p>\n

<\/p>\n

\n
\n \"Polic\u00eda\"\/
\n \"Polic\u00eda\"<\/p><\/div>\n<\/div>\n

La IA no para de equivocarse<\/strong>. \u00a0Ocurri\u00f3 con el sistema Veripol utilizando IA para detectar denuncias falsas: su fiabilidad real era muy discutible<\/a>. Algo antes, en marzo, vivimos el esc\u00e1ndalo del ‘Caso \u00c1balos’<\/a> en el que una IA usada para transcribir las declaraciones de testigos y acusados comet\u00eda errores y acaba convirtiendo algunos p\u00e1rrafos en un galimat\u00edas. El propio sistema de IA para reconocimiento facial que por ejemplo se est\u00e1 utilizando en c\u00e1maras de videovigilancia en Madrid<\/a> ha hecho tambi\u00e9n saltar las alarmas<\/a> en materia de privacidad. En el Reino Unido se us\u00f3 una IA para predecir cr\u00edmenes a lo Minority Report, y sus resultados fueron lamentables<\/a>. Los intentos por aplicar la IA en procesos judiciales y policiales<\/a> tambi\u00e9n han generado conclusiones preocupantes<\/a>.<\/p>\n

<\/p>\n

Falta de transparencia<\/strong>. Estos sistemas suelen ser criticados adem\u00e1s por su falta de transparencia. Veripol es un buen ejemplo, pero tuvimos otros. En 2024 hablamos del sistema BOSCO, utilizado por las compa\u00f1\u00edas el\u00e9ctricas para decidir qui\u00e9n y qui\u00e9n no \u00a0puede acogerse al bono social para las ayudas a la factura de la luz. El Gobierno se neg\u00f3 a compartir el c\u00f3digo fuente<\/a> alegando motivos de seguridad p\u00fablica y defensa nacional. No es un problema solo de Espa\u00f1a: hay un algoritmo que sugiere a los jueces de EEUU qu\u00e9 condenas imponer<\/a>, pero su c\u00f3digo es un secreto, por ejemplo. En temas tan delicados, la falta de transparencia sobre el funcionamiento de estos algoritmos es especialmente preocupante.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Los
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

\u00bfNo hab\u00eda agencias para esto?<\/strong> En 2021 se pact\u00f3 la creaci\u00f3n de una Agencia Espa\u00f1ola de Supervisi\u00f3n de la Inteligencia Artificial<\/a> (AESIA<\/a>). Estaba m\u00e1s centrada al parecer en vigilar el cumplimiento de la Ley de Servicios Digitales (DSA)<\/a> en plataformas como las grandes redes sociales, y de hecho en 2022 Sevilla fue la elegida<\/a> para albergar el primer Centro Europeo para la Transparencia Algor\u00edtimica (ECAT<\/a>).<\/p>\n

<\/p>\n

Qu\u00e9 pasa con AESIA<\/strong>. M\u00e1s recientemente hemos visto como la AESIA por fin quiere tomar forma con su sede de La Coru\u00f1a<\/a> y comenzar a operar en 2025 para te\u00f3ricamente centrarse en la aplicaci\u00f3n de la Ley de la IA de la UE<\/a>. Su objetivo es te\u00f3ricamente el de llevar a cabo \u00abmedidas destinadas a la minimizaci\u00f3n de riesgos significativos sobre la seguridad y salud de las personas, as\u00ed como sobre sus derechos fundamentales, que puedan derivarse del uso de sistemas de IA\u00bb. Tanto el caso de VioG\u00e9n como el de Veripol o lo sucedido en el ‘Caso \u00c1balos’ son precisamente susceptibles de entrar en ese \u00e1mbito, y queda por ver si la actividad de esta agencia logra ayudar a que tanto los algoritmos utilizados como su aplicaci\u00f3n sean \u00f3ptimos.<\/p>\n

<\/p>\n

Imagen | James Harrison<\/a> | Polic\u00eda Nacional<\/p>\n

En Xataka | Vivimos una crisis de la concentraci\u00f3n. Los expertos empiezan a pensar que el problema no son los m\u00f3viles, sino el algoritmo<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Una mujer llamada Lina fue a la polic\u00eda el pasado mes de enero. Su expareja la hab\u00eda amenazada en su casa, en Benalm\u00e1dena, y en comisar\u00eda la interrogaron y registraron su caso en el Sistema de Seguimiento Integral en los casos de Violencia de G\u00e9nero, conocido como VioG\u00e9n. Este sistema, basado en un algoritmo, determin\u00f3 […]<\/p>\n","protected":false},"author":2,"featured_media":66115,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-66114","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/66114","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=66114"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/66114\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/66115"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=66114"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=66114"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=66114"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}