{"id":29250,"date":"2024-10-24T18:35:03","date_gmt":"2024-10-24T18:35:03","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/google-ofrece-un-metodo-para-etiquetar-y-detectar-textos-de-ia-la-idea-es-buena-pero-ese-no-es-el-problema\/"},"modified":"2024-10-24T18:35:03","modified_gmt":"2024-10-24T18:35:03","slug":"google-ofrece-un-metodo-para-etiquetar-y-detectar-textos-de-ia-la-idea-es-buena-pero-ese-no-es-el-problema","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=29250","title":{"rendered":"Google ofrece un m\u00e9todo para etiquetar y detectar textos de IA. La idea es buena, pero ese no es el problema"},"content":{"rendered":"
\n

La IA deber\u00eda firmar sus obras. Igual que los autores \u2014como quies suscribe\u2014 firman lo que escriben o los pintores firman en sus cuadros, los sistemas de IA generativa deber\u00edan etiquetar<\/a> (por ejemplo, con marcas de agua) los contenidos que generan como lo que son: contenidos generados por IA<\/a>. Google, que ya ten\u00eda una buena idea al respecto, acaba de dar un paso importante para impulsarla. El problema es otro.<\/p>\n

<\/p>\n

SynthID<\/strong>. Google y DeepMind llevan tiempo trabajando en este problema. Hace m\u00e1s de un a\u00f1o presentaron SynthID<\/a>, y ahora acaban de ofrecerlo<\/a> como herramienta libre para que cualquiera pueda utilizarla. El objetivo: que las plataformas de IA generativa tengan as\u00ed un m\u00e9todo de firmar los contenidos que generan para poder luego identificarlos f\u00e1cilmente.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"\u00bfEres
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

C\u00f3mo funciona<\/strong>. Como explican en DeepMind<\/a>, SynthID funciona para etiquetar textos, m\u00fasica, im\u00e1genes o v\u00eddeos generados por IA. En el caso del texto, por ejemplo, cuando una IA genera texto lo hace mediante tokens. Cada token puede ser una simple letra, pero tambi\u00e9n una palabra o parte de una frase. El modelo predice el siguiente token<\/a> en base a lo que le precede asignando a cada token una puntuaci\u00f3n, y el modelo acaba trabajando con patrones de puntuaciones reconocibles: es posible compararlos con un texto cualquiera, lo que ayuda a determinar si puede haber sido generado por IA o no.<\/p>\n

<\/p>\n

Gemini ya lo usa<\/strong>. SynthID Text, la versi\u00f3n para textos generados por IA, ya lleva desde la primavera integrado en los modelos de la familia Gemini. Seg\u00fan Google eso no ha perjudicado la calidad, precisi\u00f3n o velocidad de la generaci\u00f3n de texto.<\/p>\n

<\/p>\n

Pero tiene limitaciones<\/strong>. Aun as\u00ed, la compa\u00f1\u00eda reconoce que SynthID no se comporta demasiado bien con textos cortos, textos que se han reescrito, textos traducidos de otros idiomas o con respuestas a preguntas muy concretas porque en ellas la respuesta suele ser muy espec\u00edfica. (\u00ab\u00bfCu\u00e1l es la capital de Francia?\u00bb).<\/p>\n

<\/p>\n

No hay un est\u00e1ndar universal<\/strong>. Las t\u00e9cnicas de marcas de agua para los contenidos son una gran idea. Sin embargo, a pesar de limitaciones como las que Google reconoce, su val\u00eda como soluci\u00f3n a esta situaci\u00f3n se enfrenta a un gran obst\u00e1culo. No hay un sistema de etiquetado est\u00e1ndar y universal. OpenAI lleva a\u00f1os<\/a> trabajando en su propio sistema de marcas de agua, y lo mismo ocurre<\/a> con Adobe, que forma parte de la C2PA (Coalition for Content Provenance and Authenticity). Este organismo tiene su propia especificaci\u00f3n<\/a>, pero aunque la idea es la misma que la de Google u OpenAI, su implementaci\u00f3n es ligeramente distinta. \u00a0Meta, por cierto, tambi\u00e9n tiene el suyo propio<\/a> para audios generados por IA.<\/p>\n

<\/p>\n

Consenso, por favor<\/strong>. La soluci\u00f3n a esta situaci\u00f3n es clara: habr\u00eda que elegir una \u00fanica soluci\u00f3n entre todas las disponibles y adoptarla como est\u00e1ndar universal. Uno que todas las empresas y desarrolladores deber\u00edan poder adoptar libremente y que permitir\u00eda que poco a poco impulsara su uso masivo. Estos esfuerzos aportan, pero tambi\u00e9n provocan esa falta de un criterio unificado tan necesaria en este \u00e1mbito.<\/p>\n

<\/p>\n

Imagen | Google \/ DeepMind<\/a><\/p>\n

En Xataka | La nueva empresa de Ilya Sutskever tiene un objetivo claro: crear una superinteligencia con seguridad \u00abnuclear\u00bb<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

La IA deber\u00eda firmar sus obras. Igual que los autores \u2014como quies suscribe\u2014 firman lo que escriben o los pintores firman en sus cuadros, los sistemas de IA generativa deber\u00edan etiquetar (por ejemplo, con marcas de agua) los contenidos que generan como lo que son: contenidos generados por IA. Google, que ya ten\u00eda una buena […]<\/p>\n","protected":false},"author":2,"featured_media":29251,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-29250","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/29250","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=29250"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/29250\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/29251"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=29250"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=29250"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=29250"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}