{"id":15560,"date":"2024-08-05T19:39:04","date_gmt":"2024-08-05T19:39:04","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/openai-tiene-un-detector-de-textos-escritos-por-ia-que-funciona-casi-a-la-perfeccion-y-no-quiere-sacarlo-al-mercado\/"},"modified":"2024-08-05T19:39:04","modified_gmt":"2024-08-05T19:39:04","slug":"openai-tiene-un-detector-de-textos-escritos-por-ia-que-funciona-casi-a-la-perfeccion-y-no-quiere-sacarlo-al-mercado","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=15560","title":{"rendered":"OpenAI tiene un detector de textos escritos por IA que funciona casi a la perfecci\u00f3n. Y no quiere sacarlo al mercado"},"content":{"rendered":"
\n

\u00bfC\u00f3mo sabemos que un texto ha sido generado por un modelo de inteligencia artificial? No podemos. No al menos a ciencia cierta, y quienes han intentado detectar este tipo de textos han fracasado. Hasta ahora, parece.<\/p>\n

<\/p>\n

El detector infalible<\/strong>. Seg\u00fan fuentes cercanas a la empresa citadas en WSJ<\/a>, OpenAI tiene un sistema para crear marcas de agua para textos generados por ChatGPT, adem\u00e1s de una herramienta para detectar esas marcas. En TechCrunch<\/a> un portavoz de OpenAI ha confirmado que la empresa est\u00e1 trabajando en el m\u00e9todo de marcas de agua descrito en el WSJ, pero el sistema presenta \u00abcomplejidades\u00bb y plantea un \u00abprobable impacto en el ecosistema m\u00e1s all\u00e1 de OpenAI\u00bb.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"La
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Pero no se deciden a sacarla<\/strong>. Los responsables de la empresa est\u00e1n debatiendo si sacarla o no al mercado. Hay divisi\u00f3n interna: mientras que por un lado eso ser\u00eda su responsabilidad hacer algo as\u00ed, por el otro lanzar esta herramienta podr\u00eda da\u00f1ar su negocio.<\/p>\n

<\/p>\n

Riesgos<\/strong>. Seg\u00fan revelan en TechCrunch, los responsables de OpenAI creen que aunque este sistema es \u00abt\u00e9cnicamente prometedor\u00bb, tiene algunos problemas. Por ejemplo, \u00abpresenta riesgos importantes que estamos sopesando mientras investigamos alternativas, como la susceptibilidad de ser eludido por malos agentes y la posibilidad de afectar de forma desproporcionada a grupos como los que no hablan ingl\u00e9s\u00bb.<\/p>\n

<\/p>\n

Una tarea hasta ahora imposible<\/strong>. Son varias las empresas que han lanzado herramientas de detecci\u00f3n de textos generados por IA, pero ninguna funciona demasiado bien. OpenAI cre\u00f3 y lanz\u00f3 la suya propia<\/a> a principios de 2023, pero acab\u00f3 admitiendo que su nivel de precisi\u00f3n era bajo<\/a> y hasta cancel\u00f3 y abandon\u00f3 aquella propuesta inicial.<\/p>\n

<\/p>\n

C\u00f3mo funciona el nuevo detector<\/strong>. El mecanismo es relativamente sencillo, aunque solo funcionar\u00eda en ChatGPT. Lo que har\u00eda la compa\u00f1\u00eda es hacer peque\u00f1os cambios en la forma en la que ChatGPT selecciona las palabras que luego genera, creando as\u00ed una especie de marca invisible en esa escritura que luego podr\u00eda ser detectada por otra herramienta.<\/p>\n

<\/p>\n

Tu estilo te delata, ChatGPT<\/strong>. Es decir: OpenAI obligar\u00eda a ChatGPT a tener un \u00abestilo rob\u00f3tico\u00bb de redacci\u00f3n que luego podr\u00eda identificar. Los textos seguir\u00edan siendo de calidad, pero la elecci\u00f3n de palabras lo delatar\u00eda. Es algo que de hecho ya se ha percibido en textos acad\u00e9micos y financieros generados por modelos de IA: usan un lenguaje raruno<\/a>, y eso permite detectar que han sido generados as\u00ed.<\/p>\n

<\/p>\n

\u00datil en ciertos casos, no tanto en otros<\/strong>. OpenAI ha editado un post<\/a> de su blog publicado en mayo en el que hablaban del tema. Indican que las marcas de agua han demostrado \u00abuna alta precisi\u00f3n e incluso eficacia frente a la manipulaci\u00f3n localizada, como la par\u00e1frasis\u00bb, pero tambi\u00e9n tiene problemas por ejemplo en \u00absistemas de traducci\u00f3n, o al pedirle al modelo que inserte un car\u00e1cter especial entre cada palabra para luego borrar ese car\u00e1cter\u00bb.<\/p>\n

<\/p>\n

F\u00e1cil de falsificar<\/strong>. Estos problemas hacen que seg\u00fan OpenAI, su herramienta y su sistema tenga un problema: es \u00abtrivial eludir\u00bb su funcionamiento si un \u00abmal actor\u00bb, como un ciberdelicuente, pretende hacerlo. La compa\u00f1\u00eda no aclara en ning\u00fan momento si acabar\u00e1 lanzando la herramienta, pero parece que al menos hay un camino interesante para conseguir algo que hasta ahora parec\u00eda imposible. O al menos, para mitigar los malos usos o los usos prohibidos, como los que asolan al mundo acad\u00e9mico desde la aparici\u00f3n de ChatGPT. Quiz\u00e1s despu\u00e9s de todo los estudiantes no puedan usar este chatbot para hacer los deberes<\/a>.<\/p>\n

<\/p>\n

En Xataka | Hasta ahora Microsoft y OpenAI hab\u00edan sido grandes aliados. Hasta ahora<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

\u00bfC\u00f3mo sabemos que un texto ha sido generado por un modelo de inteligencia artificial? No podemos. No al menos a ciencia cierta, y quienes han intentado detectar este tipo de textos han fracasado. Hasta ahora, parece. El detector infalible. Seg\u00fan fuentes cercanas a la empresa citadas en WSJ, OpenAI tiene un sistema para crear marcas […]<\/p>\n","protected":false},"author":2,"featured_media":15561,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-15560","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/15560","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=15560"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/15560\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/15561"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=15560"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=15560"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=15560"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}