{"id":7132,"date":"2024-06-21T01:39:49","date_gmt":"2024-06-21T01:39:49","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/el-audio-generado-con-ia-puede-suponer-un-gran-problema-meta-tiene-una-idea-para-detectarlo-una-marca-de-agua\/"},"modified":"2024-06-21T01:39:49","modified_gmt":"2024-06-21T01:39:49","slug":"el-audio-generado-con-ia-puede-suponer-un-gran-problema-meta-tiene-una-idea-para-detectarlo-una-marca-de-agua","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=7132","title":{"rendered":"El audio generado con IA puede suponer un gran problema. Meta tiene una idea para detectarlo: una marca de agua"},"content":{"rendered":"
\n

Imagina lo siguiente: suena tu tel\u00e9fono y la voz de tu hijo<\/a>, tu madre o quien sea conocido te dice que est\u00e1 en apuros<\/a> y que necesita que le mandes X cantidad de dinero a cierta cuenta. Si fuese una voz sint\u00e9tica \u00abtipo Loquendo\u00bb seguramente no cuele, pero una voz clonada muy fiel<\/a> te puede poner, como poco, en una tesitura. \u00bfC\u00f3mo solucionar este problema? \u00bfC\u00f3mo podemos detectar que un audio ha sido generado por inteligencia artificial?<\/p>\n

<\/p>\n

Con una marca de agua.<\/strong> Ese es el enfoque de Meta y su nueva propuesta llamada AudioSeal (PDF<\/a>). Este sistema de detecci\u00f3n consta de dos redes neuronales, una que a\u00f1ade una suerte de marcas invisibles e indetectables por el o\u00eddo humano; y una segunda que detecta estas se\u00f1ales. Es decir, un generador y un detector. La clave de AudioSeal es que funciona incluso en audios largos o en aquellos que hayan sido editados.<\/p>\n

<\/p>\n

Pero… eso ya existe<\/strong>. S\u00ed, pero el m\u00e9todo actual, WavMark<\/a>, tiene algunas fisuras. Este sistema a\u00f1ade la \u00abmarca invisible\u00bb en intervalos de un segundo, lo que significa que no funciona en audios de menos duraci\u00f3n y es m\u00e1s vulnerable a la edici\u00f3n. Adem\u00e1s, la detecci\u00f3n es bastante lenta, lo que implica que no se puede hacer en tempo real. Pensemos en un audio de una hora. Son 3.600 segundos y hay que analizarlo en tramos de un segundo en un segundo para encontrar la marca de agua.<\/p>\n

<\/p>\n

La aproximaci\u00f3n de AudioSeal<\/strong>. Como indic\u00e1bamos antes, AudioSeal funciona mediante dos redes neuronales<\/a>. La primera es un generador que inserta la marca de agua en forma de se\u00f1al en cada secci\u00f3n del audio de manera aleatoria. La segunda es un detector que determina la probabilidad de que haya una marca de agua en cada muestra del audio de entrada. Para evitar ponernos demasiado t\u00e9cnicos, qued\u00e9monos con la idea de que AudioSeal permite detectar fragmentos de audio sint\u00e9tico dentro de audios m\u00e1s largos incluso aunque sean editados. Seg\u00fan explican <\/a>desde Meta:<\/p>\n

<\/p>\n

\u00abA diferencia de los m\u00e9todos tradicionales, que dependen de complejos algoritmos de descodificaci\u00f3n, el enfoque de detecci\u00f3n localizada de AudioSeal permite una detecci\u00f3n m\u00e1s r\u00e1pida y eficaz. Este dise\u00f1o mejora la velocidad de detecci\u00f3n hasta 485 veces en comparaci\u00f3n con los m\u00e9todos anteriores, lo que lo hace adecuado para aplicaciones a gran escala y en tiempo real\u00bb.<\/p><\/blockquote>\n

\n
\n
\n
\n
\n \"Te
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Gratis, y un pero<\/strong>. AudioSeal est\u00e1 disponible en GitHub<\/a> con licencia comercial para que cualquier persona o instituci\u00f3n pueda implementarla en sus sistemas. El problema es, precisamente, ese. De nada sirve tener una marca de agua muy potente como esta si no es implementada en los sistemas de generaci\u00f3n de audio sint\u00e9tico.<\/p>\n

<\/p>\n

Por otro lado, los experimentos de Meta sugieren<\/a> que cuanto m\u00e1s se revela sobre el algoritmo de detecci\u00f3n, m\u00e1s vulnerable se vuelve el sistema. Es decir, que si un atacante tiene mucha informaci\u00f3n sobre c\u00f3mo funciona el sistema, es posible que sea capaz de evitar la detecci\u00f3n.<\/p>\n

<\/p>\n

Imagen | Pexels<\/a><\/p>\n

En Xataka | La nueva empresa de Ilya Sutskever tiene un objetivo claro: crear una superinteligencia con seguridad \u00abnuclear\u00bb<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Imagina lo siguiente: suena tu tel\u00e9fono y la voz de tu hijo, tu madre o quien sea conocido te dice que est\u00e1 en apuros y que necesita que le mandes X cantidad de dinero a cierta cuenta. Si fuese una voz sint\u00e9tica \u00abtipo Loquendo\u00bb seguramente no cuele, pero una voz clonada muy fiel te puede […]<\/p>\n","protected":false},"author":2,"featured_media":7133,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-7132","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/7132","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7132"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/7132\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/7133"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7132"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7132"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7132"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}