{"id":8846,"date":"2024-06-30T08:54:11","date_gmt":"2024-06-30T08:54:11","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/peligros-y-beneficios-de-estos-deepfakes\/"},"modified":"2024-06-30T08:54:11","modified_gmt":"2024-06-30T08:54:11","slug":"peligros-y-beneficios-de-estos-deepfakes","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=8846","title":{"rendered":"peligros y beneficios de estos &#8216;deepfakes&#8217;"},"content":{"rendered":"<div>\n<p>Los modelos de <a href=\"https:\/\/hipertextual.com\/2023\/11\/ia-generativa-mas-grande-internet-nvidia\" target=\"_blank\" rel=\"noopener\">inteligencia artificial generativa<\/a> \u2014capacitados para crear sin la asistencia directa del usuario\u2014 ofrecen beneficios evidentes. Incluso los enemigos m\u00e1s ac\u00e9rrimos de la automatizaci\u00f3n deber\u00edan admitir que la nueva IA tiene sus encantos y virtudes. En paralelo, hay que decir que esos avances profundizaron riesgos en la escena digital, entre ellos la dificultad de reconocer la legitimidad del contenido. <strong>Las falsificaciones de audio, una de las variantes de los <em>deepfakes<\/em><\/strong>, son una muestra locuaz de esa problem\u00e1tica.<\/p>\n<p>B\u00e1sicamente, son <strong>voces que se emulan mediante programas especializados, con resultados altamente realistas<\/strong>. Una primera aproximaci\u00f3n al formato exhibe un aspecto que, a priori, resulta parad\u00f3jico. Ocurre que estos <em>fakes <\/em>contienen menos est\u00edmulos en comparaci\u00f3n con las im\u00e1genes y los videos generados con herramientas de inteligencia artificial. Pero esa austeridad los vuelve m\u00e1s peligrosos. Tiene l\u00f3gica: con menos informaci\u00f3n, identificar la trampa se vuelve m\u00e1s complejo.<\/p>\n<p>En esta nota de <em>Hipertextual <\/em>analizaremos con minucia las falsificaciones de audio. Para ello, examinaremos las diferencias con aquellos <em>deepfakes <\/em>que a\u00f1aden elementos visuales, es decir, las fotos y los videos trucados con IA. Adem\u00e1s, repasaremos casos c\u00e9lebres que preocupan por su potencial para la dispersi\u00f3n de desinformaci\u00f3n, para difamar a terceros y ejecutar ataques inform\u00e1ticos. Por \u00faltimo, nos detendremos en los<strong> usos provechosos del formato, am\u00e9n del estigma que pesa sobre las falsificaciones<\/strong>.<\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_81 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Tabla de Contenido<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/enfoquenoticioso.com\/?p=8846\/#Falsificaciones_de_audio_%C2%BFel_engano_es_mas_efectivo_cuando_es_austero\" >Falsificaciones de audio: \u00bfel enga\u00f1o es m\u00e1s efectivo cuando es austero?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/enfoquenoticioso.com\/?p=8846\/#Los_gigantes_de_la_tecnologia_tambien_clonan_voces_el_caso_de_OpenAI\" >Los gigantes de la tecnolog\u00eda tambi\u00e9n clonan voces: el caso de OpenAI<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/enfoquenoticioso.com\/?p=8846\/#Un_gran_problema_%C2%BFsomos_capaces_de_reconocer_los_deepfakes\" >Un gran problema: \u00bfsomos capaces de reconocer los deepfakes?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/enfoquenoticioso.com\/?p=8846\/#Deepfakes_de_audio_los_5_riesgos_principales_y_las_posibles_medidas_para_detectarlos\" >Deepfakes de audio: los 5 riesgos principales y las posibles medidas para detectarlos<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/enfoquenoticioso.com\/?p=8846\/#El_%E2%80%9Clado_luminoso%E2%80%9D_de_las_falsificaciones_de_audio_%C2%BFque_hay_detras_de_la_mala_prensa\" >El \u201clado luminoso\u201d de las falsificaciones de audio: \u00bfqu\u00e9 hay detr\u00e1s de la mala prensa?<\/a><ul class='ez-toc-list-level-4' ><li class='ez-toc-heading-level-4'><ul class='ez-toc-list-level-4' ><li class='ez-toc-heading-level-4'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/enfoquenoticioso.com\/?p=8846\/#Tambien_en_Hipertextual\" >Tambi\u00e9n en Hipertextual:<\/a><\/li><\/ul><\/li><\/ul><\/li><\/ul><\/nav><\/div>\n<h2 class=\"wp-block-heading\" id=\"h-falsificaciones-de-audio-el-engano-es-mas-efectivo-cuando-es-austero\"><span class=\"ez-toc-section\" id=\"Falsificaciones_de_audio_%C2%BFel_engano_es_mas_efectivo_cuando_es_austero\"><\/span>Falsificaciones de audio: \u00bfel enga\u00f1o es m\u00e1s efectivo cuando es austero?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"521\" alt=\"falsificaciones de audio\" class=\"wp-image-1787042 perfmatters-lazy\" data-recalc-dims=\"1\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-1500x1001.jpg?resize=780%2C521&amp;quality=55&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=1500%2C1001&amp;quality=55&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=800%2C534&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=768%2C513&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=1536%2C1025&amp;quality=55&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=2048%2C1367&amp;quality=55&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=1200%2C801&amp;quality=55&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=740%2C494&amp;quality=55&amp;strip=all&amp;ssl=1 740w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=1024%2C683&amp;quality=55&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=1568%2C1046&amp;quality=55&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=2000%2C1335&amp;quality=55&amp;strip=all&amp;ssl=1 2000w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=400%2C267&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?w=2340&amp;quality=55&amp;strip=all&amp;ssl=1 2340w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-1500x1001.jpg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"521\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-1500x1001.jpg?resize=780%2C521&amp;quality=55&amp;strip=all&amp;ssl=1\" alt=\"falsificaciones de audio\" class=\"wp-image-1787042\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=1500%2C1001&amp;quality=55&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=800%2C534&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=768%2C513&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=1536%2C1025&amp;quality=55&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=2048%2C1367&amp;quality=55&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=1200%2C801&amp;quality=55&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=740%2C494&amp;quality=55&amp;strip=all&amp;ssl=1 740w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=1024%2C683&amp;quality=55&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=1568%2C1046&amp;quality=55&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=2000%2C1335&amp;quality=55&amp;strip=all&amp;ssl=1 2000w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?resize=400%2C267&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-scaled.jpg?w=2340&amp;quality=55&amp;strip=all&amp;ssl=1 2340w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-1-1500x1001.jpg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\" data-recalc-dims=\"1\"\/><figcaption class=\"wp-element-caption\">Las falsificaciones de audio, una problem\u00e1tica con consecuencias no deseadas. (Cr\u00e9dito: Pexels\/Seej Nguyen)<\/figcaption><\/figure>\n<p>Veamos dos ejemplos que servir\u00e1n para comprender m\u00e1s cabalmente la compleja relaci\u00f3n entre enga\u00f1o y la variedad de formatos de <em>deepfakes<\/em>. Por un lado, circul\u00f3 en enero una <strong>falsificaci\u00f3n de audio que emulaba la voz del presidente de Estados Unidos, <a href=\"https:\/\/hipertextual.com\/2024\/02\/joe-biden-es-un-hipocrita-respecto-a-tiktok\" target=\"_blank\" rel=\"noopener\">Joe Biden<\/a><\/strong>. La grabaci\u00f3n \u2014que se esparci\u00f3 trav\u00e9s de llamadas telef\u00f3nicas\u2014 intent\u00f3 confundir a los ciudadanos de New Hampshire para que no concurran a las urnas en las elecciones primarias, de cara a los comicios de noviembre. En tal contexto, las autoridades pidieron a los votantes que \u201cignoren por completo el contenido de ese mensaje\u201d, que fue generado por un <em>software<\/em>, seg\u00fan inform\u00f3 <em><a href=\"https:\/\/apnews.com\/article\/new-hampshire-primary-biden-ai-deepfake-robocall-f3469ceb6dd613079092287994663db5\" target=\"_blank\" rel=\"noreferrer noopener\">Asociated Press<\/a><\/em>.<\/p>\n<p>Otro caso reciente y problem\u00e1tico tuvo como protagonista a una de las grandes estrellas de la m\u00fasica estadounidense. \u00bfQu\u00e9 ocurri\u00f3? Hace algunas semanas, <strong>en redes sociales aparecieron numerosas <a href=\"https:\/\/hipertextual.com\/2024\/01\/deepfakes-porno-taylor-swift-violencia-contra-mujeres\" target=\"_blank\" rel=\"noopener\">im\u00e1genes de Taylor Swift desnuda<\/a><\/strong>. En verdad, no eran fotograf\u00edas leg\u00edtimas sino adulteraciones con ardides digitales. A tal nivel escal\u00f3 el hecho, que <a href=\"https:\/\/hipertextual.com\/2024\/01\/taylor-swift-censura-busquedas-x-twitter\" target=\"_blank\" rel=\"noopener\">X (Twitter) cancel\u00f3 temporalmente las b\u00fasquedas con el nombre de la creadora de <em>The Eras Tour<\/em><\/a>, con el prop\u00f3sito de frenar la difamaci\u00f3n.<\/p>\n<p>Revisados estos <em>deepfakes <\/em>en las noticias recientes, retomemos el an\u00e1lisis. <strong>\u00bfAcaso las falsificaciones de audio son m\u00e1s convincentes que aquellas que a\u00f1aden informaci\u00f3n visual?<\/strong> Es posible, aunque la respuesta no es definitiva. En un video, por ejemplo, en ocasiones se advierten retoques y \u201ccosturas\u201d. Tambi\u00e9n movimientos que parecen poco naturales y que, as\u00ed, alertan a los usuarios m\u00e1s atentos. En cambio, el menor volumen de est\u00edmulos en las falsificaciones de audio podr\u00eda ser una variable que favorezca al enga\u00f1o. Y cada vez hay m\u00e1s sistemas que son eficaces para crearlos. En ese \u00e1mbito encontramos a empresas como Meta, ByteDance \u2014due\u00f1a de TikTok\u2014 y OpenAI, que ya tienen sus propios programas para clonar voces. Si bien ellos se muestran entusiasmo por esos avances, tambi\u00e9n reconocen los riesgos.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-los-gigantes-de-la-tecnologia-tambien-clonan-voces-el-caso-de-openai\"><span class=\"ez-toc-section\" id=\"Los_gigantes_de_la_tecnologia_tambien_clonan_voces_el_caso_de_OpenAI\"><\/span>Los gigantes de la tecnolog\u00eda tambi\u00e9n clonan voces: el caso de OpenAI<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"495\" alt=\"falsificaciones de audio\" class=\"wp-image-1775276 perfmatters-lazy\" data-recalc-dims=\"1\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo-1500x952.jpg?resize=780%2C495&amp;quality=55&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=1500%2C952&amp;quality=55&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=800%2C508&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=768%2C487&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=1536%2C975&amp;quality=55&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=1200%2C762&amp;quality=55&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=1024%2C650&amp;quality=55&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=400%2C254&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?w=1560&amp;quality=55&amp;strip=all&amp;ssl=1 1560w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo-1500x952.jpg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"495\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo-1500x952.jpg?resize=780%2C495&amp;quality=55&amp;strip=all&amp;ssl=1\" alt=\"falsificaciones de audio\" class=\"wp-image-1775276\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=1500%2C952&amp;quality=55&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=800%2C508&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=768%2C487&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=1536%2C975&amp;quality=55&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=1200%2C762&amp;quality=55&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=1024%2C650&amp;quality=55&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?resize=400%2C254&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo.jpg?w=1560&amp;quality=55&amp;strip=all&amp;ssl=1 1560w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/01\/openAI-logo-1500x952.jpg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\" data-recalc-dims=\"1\"\/><figcaption class=\"wp-element-caption\">OpenAI, la organizaci\u00f3n detr\u00e1s de ChatGPT, tiene su propio clonador de voces: Voice Engine. <\/figcaption><\/figure>\n<p>A comienzos de abril, la organizaci\u00f3n detr\u00e1s de ChatGPT dio a conocer detalles de <strong><a href=\"https:\/\/hipertextual.com\/2024\/04\/voice-engine\" target=\"_blank\" rel=\"noopener\">Voice Engine<\/a><\/strong>. Se trata de una IA que clona voces con muestras de apenas 15 segundos. En otras palabras, genera audio sint\u00e9tico con una cantidad m\u00ednima de datos para su entrenamiento. Si nos enfoc\u00e1semos en los temores, m\u00e1s que en los encantos, estar\u00edamos realmente aterrados. Imagina que un atacante copia tu forma de hablar para luego enviar mensajes de audio a tus contactos a trav\u00e9s de WhatsApp.<\/p>\n<p>Desde OpenAI dijeron que Voice Engine es capaz de crear voces \u201cemotivas y realistas\u201d. Ahora bien, \u00bfpor qu\u00e9 no est\u00e1 disponible, siendo que es tan eficiente y que, adem\u00e1s, es un desarrollo que iniciaron en 2022? Otra paradoja, solo aparente: <strong>funciona tan bien, que es peligroso<\/strong>. Por eso, en este momento el grupo que dirige Sam Altman solo lo ofrece para un n\u00famero reducido de probadores. Y proh\u00edben suplantar la voz de personas reales, o de personajes, sin los derechos legales correspondientes.<\/p>\n<p>En un <a href=\"https:\/\/openai.com\/blog\/navigating-the-challenges-and-opportunities-of-synthetic-voices\" target=\"_blank\" rel=\"noreferrer noopener\">comunicado de presentaci\u00f3n<\/a>, OpenAI reconoci\u00f3 que su tecnolog\u00eda para clonar voces tiene\u00a0\u201cgraves riesgos, que son especialmente importantes en un a\u00f1o electoral\u201d. En tanto, se\u00f1alaron que trabajan junto a expertos estadounidenses e internacionales para minimizar los riesgos del modelo.<\/p>\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"520\" alt=\"\" class=\"wp-image-1787045 perfmatters-lazy\" data-recalc-dims=\"1\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-1500x1000.jpg?resize=780%2C520&amp;quality=55&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=1500%2C1000&amp;quality=55&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=800%2C533&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=768%2C512&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=1536%2C1024&amp;quality=55&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=2048%2C1365&amp;quality=55&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=1200%2C800&amp;quality=55&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=740%2C494&amp;quality=55&amp;strip=all&amp;ssl=1 740w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=1024%2C683&amp;quality=55&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=1568%2C1045&amp;quality=55&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=2000%2C1333&amp;quality=55&amp;strip=all&amp;ssl=1 2000w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=400%2C267&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?w=2340&amp;quality=55&amp;strip=all&amp;ssl=1 2340w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-1500x1000.jpg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"520\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-1500x1000.jpg?resize=780%2C520&amp;quality=55&amp;strip=all&amp;ssl=1\" alt=\"\" class=\"wp-image-1787045\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=1500%2C1000&amp;quality=55&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=800%2C533&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=768%2C512&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=1536%2C1024&amp;quality=55&amp;strip=all&amp;ssl=1 1536w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=2048%2C1365&amp;quality=55&amp;strip=all&amp;ssl=1 2048w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=1200%2C800&amp;quality=55&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=740%2C494&amp;quality=55&amp;strip=all&amp;ssl=1 740w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=1024%2C683&amp;quality=55&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=1568%2C1045&amp;quality=55&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=2000%2C1333&amp;quality=55&amp;strip=all&amp;ssl=1 2000w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?resize=400%2C267&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-scaled.jpg?w=2340&amp;quality=55&amp;strip=all&amp;ssl=1 2340w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/audios-microfono-1-1500x1000.jpg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\" data-recalc-dims=\"1\"\/><figcaption class=\"wp-element-caption\">Gigantes de la tecnolog\u00eda trabajan en sus propios clonadores de voz. (Foto: Pexels\/CoWomen)<\/figcaption><\/figure>\n<p>La atenci\u00f3n puesta en las falsificaciones de audio es grande. Por los avances en ese campo y, como hemos observado, tambi\u00e9n por los riegos impl\u00edcitos. Adem\u00e1s, OpenAI no es el \u00fanico <em>pez gordo <\/em>del oc\u00e9ano tecnol\u00f3gico que trabaja en modelos de esa especie. A comienzos del a\u00f1o en curso, <a href=\"https:\/\/arxiv.org\/html\/2401.11053v1\" target=\"_blank\" rel=\"noreferrer noopener\">ByteDance revel\u00f3 detalles de <strong>StreamVoice<\/strong><\/a>, su propio clonador de voces creado junto a investigadores de la Northwestern\u00a0Polytechnical University, un instituto p\u00fablico chino dedicado a la ciencia y la ingenier\u00eda.<\/p>\n<p>La firma asi\u00e1tica explic\u00f3 que el principal avance de su sistema es la capacidad para <strong>copiar voces en tiempo real<\/strong>. En concreto, demora 124 milisegundos para arrojar resultados y, as\u00ed, podr\u00eda ser empleado durante transmisiones en directo. En un art\u00edculo acad\u00e9mico, tambi\u00e9n reconocieron los riesgos potenciales, mencionando la desinformaci\u00f3n y los fraudes telef\u00f3nicos. Es por eso que, igual que Voice Engine de OpenAI, StreamVoice a\u00fan no est\u00e1 disponible a nivel general.<\/p>\n<p>Meta (antes Facebook) habl\u00f3 de estos mismos inconvenientes a mediados del a\u00f1o pasado, al anunciar los avances en <a href=\"https:\/\/ai.meta.com\/blog\/voicebox-generative-ai-model-speech\/\" rel=\"sponsored nofollow noopener\" target=\"_blank\">Voicebox<\/a>, su propia tecnolog\u00eda para <strong>crear voces sint\u00e9ticas <\/strong>que no requiere entrenamiento previo para funcionar. \u00bfQu\u00e9 tanto le preocupan las falsificaciones de audio? \u201cHay muchos usos emocionantes para los modelos de habla generativa\u201d, comentaron desde la empresa californiana. Tambi\u00e9n hicieron referencia a los riesgos: \u201cDebido a los posibles usos indebidos, de momento no pondremos a disposici\u00f3n del p\u00fablico el c\u00f3digo o el modelo de Voicebox (\u2026) Si bien creemos que es importante ser abiertos con la comunidad y compartir nuestra investigaci\u00f3n, es necesario alcanzar\u00a0el equilibrio entre la apertura y la responsabilidad\u201d, advirtieron.<\/p>\n<p>Una vez m\u00e1s, la suplantaci\u00f3n y el robo de identidad son el eje de las preocupaciones. <strong>\u00a1Imagina el grado de realismo que conseguir\u00edan los fraudes con <em>phishing<\/em>, si esos modelos estuviesen disponibles!<\/strong> En un escenario semejante, cabr\u00edan dos opciones: que los cibercriminales se vuelvan definitivamente los due\u00f1os del mundo; o que vivamos en una sociedad en la que nadie creer\u00e1 en ninguno de los contenidos que circulan en las plataformas digitales.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-un-gran-problema-somos-capaces-de-reconocer-los-deepfakes\"><span class=\"ez-toc-section\" id=\"Un_gran_problema_%C2%BFsomos_capaces_de_reconocer_los_deepfakes\"><\/span>Un gran problema: \u00bfsomos capaces de reconocer los <em>deepfakes<\/em>?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<figure class=\"wp-block-image size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"780\" alt=\"falsificaciones de audio\" class=\"wp-image-1787048 perfmatters-lazy\" data-recalc-dims=\"1\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=780%2C780&amp;quality=55&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?w=1024&amp;quality=55&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=800%2C800&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=150%2C150&amp;quality=55&amp;strip=all&amp;ssl=1 150w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=768%2C768&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=600%2C600&amp;quality=55&amp;strip=all&amp;ssl=1 600w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=400%2C400&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=200%2C200&amp;quality=55&amp;strip=all&amp;ssl=1 200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"780\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=780%2C780&amp;quality=55&amp;strip=all&amp;ssl=1\" alt=\"falsificaciones de audio\" class=\"wp-image-1787048\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?w=1024&amp;quality=55&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=800%2C800&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=150%2C150&amp;quality=55&amp;strip=all&amp;ssl=1 150w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=768%2C768&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=600%2C600&amp;quality=55&amp;strip=all&amp;ssl=1 600w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=400%2C400&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?resize=200%2C200&amp;quality=55&amp;strip=all&amp;ssl=1 200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-3.jpeg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\" data-recalc-dims=\"1\"\/><figcaption class=\"wp-element-caption\">M\u00e1quinas que hablan como nosotros, una problem\u00e1tica que precisa una aproximaci\u00f3n conciencte. (Cr\u00e9dito: DALL-E v\u00eda Microsoft Copilot)<\/figcaption><\/figure>\n<p>La confusi\u00f3n que se asocia al despliegue de modelos generativos trasciende a las falsificaciones de audio. \u201c<em>Photoshopear<\/em>\u201d, el conocido verbo inventado durante la era tecnol\u00f3gica para referir a las im\u00e1genes retocadas, multiplica sus alcances con las <a href=\"https:\/\/hipertextual.com\/2024\/04\/chatgpt-permite-editar-imagenes-de-dall-e\" target=\"_blank\" rel=\"noopener\">nuevas herramientas de inteligencia artificial<\/a>. <strong>Fotos y videos trucados con IA pueden confundir, incluso a los ojos m\u00e1s entrenados<\/strong>. Un ejemplo, entre muchos: una <a href=\"https:\/\/chequeado.com\/ultimas-noticias\/la-foto-del-papa-francisco-con-una-campera-blanca-no-es-real-fue-creada-con-inteligencia-artificial\/\" target=\"_blank\" rel=\"noreferrer noopener\">escena que mostr\u00f3 al Papa Francisco vistiendo una campera blanca<\/a> y larga se viraliz\u00f3 mucho antes de que todos sepamos que era falsa.<\/p>\n<p>Reconocer los <em>deepfakes <\/em>no es sencillo, concluy\u00f3 un <a href=\"https:\/\/www.jumio.com\/es\/estudio-de-identidad-2023\/\" target=\"_blank\" rel=\"noreferrer noopener\">estudio<\/a> publicado el a\u00f1o pasado por Censuswide para Jumio, una firma de seguridad en l\u00ednea. De acuerdo a los especialistas consultados en ese relevamiento, <strong>las creaciones sint\u00e9ticas \u201calcanzaron un nivel de sofisticaci\u00f3n que impide su detecci\u00f3n a simple vista\u201d<\/strong>. El desconcierto es mayor, se\u00f1alaron, porque las personas conf\u00edan excesivamente en su capacidad para detectar falsificaciones.<\/p>\n<p><strong>\u201cLos <em>deepfakes <\/em>son cada vez mejores y m\u00e1s dif\u00edciles de detectar\u201d<\/strong>, se\u00f1alaron los investigadores de Jumio. Adem\u00e1s, mencionaron que mientras los retoques en im\u00e1genes de personas p\u00fablicas podr\u00edan distinguirse m\u00e1s r\u00e1pidamente, el enga\u00f1o podr\u00eda ser m\u00e1s efectivo en las \u201cestafas de bajo perfil\u201d. Esto no es trivial, en un mundo cada vez m\u00e1s conectado y, en paralelo, con un creciente n\u00famero de intentos de fraudes financieros.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-deepfakes-de-audio-los-5-riesgos-principales-y-las-posibles-medidas-para-detectarlos\"><span class=\"ez-toc-section\" id=\"Deepfakes_de_audio_los_5_riesgos_principales_y_las_posibles_medidas_para_detectarlos\"><\/span><em>Deepfakes <\/em>de audio: los 5 riesgos principales y las posibles medidas para detectarlos<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Entre las principales problem\u00e1ticas asociadas a las falsificaciones de audio, se destacan las siguientes:<\/p>\n<ul>\n<li>Ataques de <em>phishing <\/em>\u2014suplantaci\u00f3n de identidad\u2014 m\u00e1s sofisticados.<\/li>\n<li>Alteraci\u00f3n maliciosa de contenido y proliferaci\u00f3n de informaci\u00f3n err\u00f3nea, que adem\u00e1s puede tener un alto grado de realismo y, en tanto, generar confusi\u00f3n.<\/li>\n<li>Violaciones a la privacidad y accesos indebidos a cuentas bancarias operadas por voz. \u00a0<\/li>\n<li>Perturbaci\u00f3n en los mercados financieros, a trav\u00e9s de <em>fake news <\/em>convincentes.<\/li>\n<li>Interferencia en procesos electorales.<\/li>\n<\/ul>\n<p><strong>\u00bfCu\u00e1les son las propuestas para favorecer la detecci\u00f3n de <em>deepfakes <\/em>de audio? <\/strong>En este punto, hay dos vertientes principales. Por un lado, la inclusi\u00f3n de indicadores cifrados en el contenido sint\u00e9tico, que expliciten su car\u00e1cter artificial. Es una propuesta similar a las marcas de agua en una imagen. Por el otro, lo que se conoce como \u201cdetecci\u00f3n de vida\u201d. B\u00e1sicamente, es un m\u00e9todo que reconoce si los discursos grabados fueron dichos por personas reales, al examinar patrones como el ritmo del discurso, las entonaciones y la respiraci\u00f3n. Ocurre que esas variables son m\u00e1s dif\u00edciles de imitar por los actuales modelos de IA.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-el-lado-luminoso-de-las-falsificaciones-de-audio-que-hay-detras-de-la-mala-prensa\"><span class=\"ez-toc-section\" id=\"El_%E2%80%9Clado_luminoso%E2%80%9D_de_las_falsificaciones_de_audio_%C2%BFque_hay_detras_de_la_mala_prensa\"><\/span>El \u201clado luminoso\u201d de las falsificaciones de audio: \u00bfqu\u00e9 hay detr\u00e1s de la mala prensa?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>El t\u00e9rmino \u201cfalsificaci\u00f3n\u201d es, de por s\u00ed, peyorativo. Al indagar los beneficios de este tipo de contenido generado con modelos de inteligencia artificial, acaso sea bueno emplear otras palabras. <strong>Decir \u201cvoces sint\u00e9ticas\u201d resulta menos amenazante<\/strong>. En ese orden, en una <a href=\"https:\/\/www.csail.mit.edu\/news\/3-questions-what-you-need-know-about-audio-deepfakes\" target=\"_blank\" rel=\"noreferrer noopener\">sesi\u00f3n de preguntas y respuestas<\/a> que publica el sitio oficial del Instituto Tecnol\u00f3gico de Massachusetts (MIT), se abordan las <strong>ventajas de la clonaci\u00f3n de voces<\/strong>, una t\u00e9cnica que mencionan como una \u201ctecnolog\u00eda emergente\u201d.<\/p>\n<div class=\"wp-block-image\">\n<figure class=\"alignright size-large is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"1170\" alt=\"\" class=\"wp-image-1787051 perfmatters-lazy\" style=\"width:374px;height:auto\" data-recalc-dims=\"1\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-1500x2250.jpg?resize=780%2C1170&amp;quality=55&amp;strip=all&amp;ssl=1\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=1500%2C2250&amp;quality=55&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=800%2C1200&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=768%2C1152&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=1024%2C1536&amp;quality=55&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=1365%2C2048&amp;quality=55&amp;strip=all&amp;ssl=1 1365w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=1200%2C1800&amp;quality=55&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=683%2C1024&amp;quality=55&amp;strip=all&amp;ssl=1 683w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=1568%2C2352&amp;quality=55&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=2000%2C3000&amp;quality=55&amp;strip=all&amp;ssl=1 2000w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=400%2C600&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?w=1707&amp;quality=55&amp;strip=all&amp;ssl=1 1707w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-1500x2250.jpg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" data-sizes=\"(max-width: 780px) 100vw, 780px\"\/><img loading=\"lazy\" decoding=\"async\" width=\"780\" height=\"1170\" src=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-1500x2250.jpg?resize=780%2C1170&amp;quality=55&amp;strip=all&amp;ssl=1\" alt=\"\" class=\"wp-image-1787051\" style=\"width:374px;height:auto\" srcset=\"https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=1500%2C2250&amp;quality=55&amp;strip=all&amp;ssl=1 1500w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=800%2C1200&amp;quality=55&amp;strip=all&amp;ssl=1 800w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=768%2C1152&amp;quality=55&amp;strip=all&amp;ssl=1 768w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=1024%2C1536&amp;quality=55&amp;strip=all&amp;ssl=1 1024w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=1365%2C2048&amp;quality=55&amp;strip=all&amp;ssl=1 1365w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=1200%2C1800&amp;quality=55&amp;strip=all&amp;ssl=1 1200w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=683%2C1024&amp;quality=55&amp;strip=all&amp;ssl=1 683w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=1568%2C2352&amp;quality=55&amp;strip=all&amp;ssl=1 1568w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=2000%2C3000&amp;quality=55&amp;strip=all&amp;ssl=1 2000w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?resize=400%2C600&amp;quality=55&amp;strip=all&amp;ssl=1 400w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-scaled.jpg?w=1707&amp;quality=55&amp;strip=all&amp;ssl=1 1707w, https:\/\/i0.wp.com\/imgs.hipertextual.com\/wp-content\/uploads\/2024\/04\/falsificaciones-de-audio-5-1500x2250.jpg?w=370&amp;quality=55&amp;strip=all&amp;ssl=1 370w\" sizes=\"auto, (max-width: 780px) 100vw, 780px\" data-recalc-dims=\"1\"\/><figcaption class=\"wp-element-caption\">\u00bfHay beneficios asociados al uso de clonadores de voz? (Cr\u00e9dito: Pexels\/Wallace Chuck)<a href=\"https:\/\/www.pexels.com\/es-es\/@chuck\/\" target=\"_blank\" rel=\"noopener\"><\/figcaption><\/figure>\n<\/div>\n<p>Nauman Dawalatabad, investigador de esa instituci\u00f3n especializado en IA, remarca que uno de los problemas es que, en forma creciente, cualquier persona sin una formaci\u00f3n t\u00e9cnica puede generar estos audios. Ahora bien, \u00bfqu\u00e9 beneficios asoman? Los m\u00e1s evidentes se relacionan a su uso para <strong>traducciones autom\u00e1ticas y doblaje de contenido audiovisual<\/strong>.<\/p>\n<p>\u201cM\u00e1s all\u00e1 del \u00e1mbito de la creatividad, donde las tecnolog\u00edas de conversi\u00f3n de voz permiten una flexibilidad sin precedentes, <strong>los <em>deepfakes<\/em> de audio encierran una promesa transformadora en los sectores de la atenci\u00f3n m\u00e9dica y la educaci\u00f3n<\/strong>\u201d, comenta Dawalatabad. \u201cLa anonimizaci\u00f3n de las voces de pacientes y m\u00e9dicos en entrevistas de atenci\u00f3n de salud cognitiva, por ejemplo, facilita el intercambio de datos m\u00e9dicos para la investigaci\u00f3n a nivel mundial, garantizando al mismo tiempo la privacidad\u201d, explica.<\/p>\n<p>Adem\u00e1s, el experto refiere al uso de estas tecnolog\u00edas en la restauraci\u00f3n de la voz. En esos casos, representa una <strong>esperanza para las personas con discapacidades del habla<\/strong>, por ejemplo, Esclerosis lateral amiotr\u00f3fica (ELA) o habla dis\u00e1rtrica, mejorando las capacidades de comunicaci\u00f3n y la calidad de vida. \u201cA pesar de los riesgos inherentes, el potencial de los modelos de IA generativa de audio para revolucionar la atenci\u00f3n m\u00e9dica, el entretenimiento, la educaci\u00f3n y m\u00e1s es un testimonio de la trayectoria positiva de este campo de investigaci\u00f3n\u201d, cierra Dawalatabad.<\/p>\n<section id=\"block-25\" class=\"below-content widget widget_block\">\n<div class=\"wp-block-group is-style-default hiper-newsletter-box has-background\" style=\"background:linear-gradient(180deg,rgb(0,23,188) 28%,rgb(0,15,131) 100%);padding-top:15px;padding-right:15px;padding-bottom:15px;padding-left:15px\">\n<div class=\"wp-block-group__inner-container is-layout-constrained wp-block-group-is-layout-constrained\">\n<p class=\"has-white-color has-text-color\">Recibe cada ma\u00f1ana nuestra <a rel=\"noreferrer noopener\" href=\"https:\/\/hipertextual.com\/newsletter\" target=\"_blank\">newsletter<\/a>. Una gu\u00eda para entender lo que importa en relaci\u00f3n con la tecnolog\u00eda, la ciencia y la cultura digital.<\/p>\n<div class=\"wp-block-jetpack-mailchimp\" data-blog-id=\"190110665\">\n<p>\nProcesando&#8230; <\/p>\n<p>\n\u00a1Listo! Ya est\u00e1s suscrito <\/p>\n<p>\nHubo un error, actualiza la p\u00e1gina e int\u00e9ntalo nuevamente <\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/section>\n<section id=\"block-74\" class=\"below-content widget widget_block\">\n<\/section>\n<section id=\"block-71\" class=\"below-content widget widget_block\">\n<h4 class=\"wp-block-heading tambien-en-hipertextual\" id=\"h-tambien-en-hipertextual\" style=\"padding-top:0.8em;padding-right:0px;padding-bottom:0px;padding-left:0px\"><span class=\"ez-toc-section\" id=\"Tambien_en_Hipertextual\"><\/span>Tambi\u00e9n en Hipertextual:<span class=\"ez-toc-section-end\"><\/span><\/h4>\n<\/section>\n<section id=\"block-32\" class=\"below-content widget widget_block\">\n<nav class=\"jp-relatedposts-i2 jp-related-hipertextual wp-block-jetpack-related-posts has-normal-font-size\" style=\"padding-bottom:0px;padding-left:0px;padding-top:0px;padding-right:1.5em;\" data-layout=\"list\" aria-label=\"Entradas relacionadas\"\/><\/section>\n<\/p><\/div>\n<p><a href=\"https:\/\/hipertextual.com\/2024\/06\/falsificaciones-de-audio-deepfakes\" class=\" target=\" title=\"peligros y beneficios de estos &#039;deepfakes&#039;\" target=\"_blank\" rel=\"noopener\">Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Los modelos de inteligencia artificial generativa \u2014capacitados para crear sin la asistencia directa del usuario\u2014 ofrecen beneficios evidentes. Incluso los enemigos m\u00e1s ac\u00e9rrimos de la automatizaci\u00f3n deber\u00edan admitir que la nueva IA tiene sus encantos y virtudes. En paralelo, hay que decir que esos avances profundizaron riesgos en la escena digital, entre ellos la dificultad [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":8847,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-8846","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/8846","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8846"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/8846\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/8847"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8846"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8846"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8846"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}