{"id":6256,"date":"2024-06-15T07:42:30","date_gmt":"2024-06-15T07:42:30","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/sus-ias-no-pueden-meter-tanto-la-pata\/"},"modified":"2024-06-15T07:42:30","modified_gmt":"2024-06-15T07:42:30","slug":"sus-ias-no-pueden-meter-tanto-la-pata","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=6256","title":{"rendered":"sus IAs no pueden meter tanto la pata"},"content":{"rendered":"
\n

Al principio daba igual que ChatGPT alucinara y metiera la pata. No importaba que nos cambiase el final<\/a> de ‘Juego de Tronos’ al preguntarle o incluso que se hiciera un l\u00edo con las matem\u00e1ticas b\u00e1sicas<\/a>. Al fin y al cabo, tan solo ten\u00eda unos meses de vida. No pasaba nada.<\/p>\n

<\/p>\n

Ahora s\u00ed importa.<\/p>\n

Es de lo que se han empezado a dar cuenta las Big Tech, inmersas en una carrera en la que parec\u00eda m\u00e1s relevante llegar antes que llegar bien<\/strong>. Todas se abalanzaron para ser las primeras, y empezaron los problemas graves de verdad. El chatbot de Microsoft desvari\u00f3<\/a>, y mejor no hablemos de Bard<\/a> y luego de Gemini, que metieron la pata a la grande (no una<\/a>, sino dos veces<\/a>).<\/p>\n

<\/p>\n

Y claro, eso provoc\u00f3 que los usuarios acabasen por cambiar de actitud. Lo que hac\u00eda gracia ya no la hace tanto, sobre todo porque empezamos a usar estos modelos de IA generativa para cosas relativamente serias.<\/p>\n

<\/p>\n

Hasta los acad\u00e9micos escriben estudios con ChatGPT<\/a>, y usar estos asistentes es ya el pan nuestro de cada d\u00eda para los programadores, que los usan de forma rutinaria. El problema para ellos es que hoy por hoy de las respuestas de ChatGPT en programaci\u00f3n, el 52% contienen datos err\u00f3neos<\/a>.<\/p>\n

<\/p>\n

Todo ello ha empezado a dejar claro para muchos lo que algunos ya sab\u00edan desde el principio. Los ChatGPT del mundo no saben lo que dicen. Lo sueltan y parece que tiene sentido. Las frases est\u00e1n bien construidas, y el tono de los asistentes, que responden con un lenguaje natural, claro y razonable, es de seguridad total. Como si esa, efectivamente, fuese la respuesta definitiva y correcta.<\/p>\n

<\/p>\n

Pero es que en muchos casos no lo es, y eso comienza a ser un problema gordo para la reputaci\u00f3n<\/strong> de quienes controlan estos chatbots. Google es probablemente la m\u00e1s afectada por el problema. Sobre todo, porque durante un cuarto de siglo hemos estado usando su buscador con la confianza de que nos iba a mostrar justo lo que necesit\u00e1bamos \u2014mezclado con un mont\u00f3n de publicidad, eso s\u00ed\u2014.<\/p>\n

<\/p>\n

Nos fi\u00e1bamos de Google, pero no nos fiamos tanto de Gemini. Ni de Gemini, ni de ChatGPT, ni de Copilot. Y hacemos bien: es importante revisar sus respuestas, porque no es dif\u00edcil que nos puedan dar respuestas parcial o totalmente incorrectas y nos la l\u00eden.<\/p>\n

<\/p>\n

Ante esta situaci\u00f3n, las empresas est\u00e1n empezando a darse cuenta de lo importante que es hacer que los modelos de IA generativa se equivoquen menos o se comporten de forma que confiemos (un poco m\u00e1s) en ellas. Y aqu\u00ed hay varias aproximaciones.<\/p>\n

<\/p>\n

La m\u00e1s llamativa es tambi\u00e9n la m\u00e1s reciente. Apple, que present\u00f3 su Apple Intelligence \u2014porque para ellos est\u00e1 prohibido usar el t\u00e9rmino \u00abAI\u00bb\u2014, nos dej\u00f3 un poco fr\u00edos con sus prestaciones. Las funciones de IA lanzadas en sus sistemas operativos son un m\u00e1s de lo mismo<\/a>. De hecho, son \u00abun m\u00e1s de lo mismo capado\u00bb<\/strong>, porque muchas de ellas funcionan de forma limitada.<\/p>\n

<\/p>\n

\n
\n
\n \"Apple
\n \"Apple<\/p>\n

El generador de im\u00e1genes de Apple Intelligence casi parece de juguete. Es precisamente lo que buscaba Apple.<\/span>\n <\/div>\n<\/p><\/div>\n<\/div>\n

El mejor ejemplo es su generador de im\u00e1genes por IA, que ellos llamaron Image Playground, y que se puede usar para crear emojis e im\u00e1genes con acabados que son todo menos fotorrealistas.<\/p>\n

<\/p>\n

Nada de crear retratos al \u00f3leo de Tim Cook<\/a> o posibles enfrentamientos entre Elon Musk y Mark Zuckerberg<\/a>. Nada de vestir al Papa de Balenciaga<\/a>, y desde luego nada de crear deepfakes con im\u00e1genes expl\u00edcitas de Taylor Swift<\/a>.<\/p>\n

<\/p>\n

La decisi\u00f3n puede resultar decepcionante \u2014Image Playground casi parece un juguete\u2014, pero lo que desde luego hace es evitarle problemas a Apple<\/strong>. No podr\u00e1s hacer mucho, cierto, pero lo que hagas probablemente estar\u00e1 bastante bien. Eso no solo evita malos usos, sino desastres como el recientemente vivido por Stable Diffusion 3: su modelo IA de generaci\u00f3n de im\u00e1genes, uno de los m\u00e1s reputados del mundo, est\u00e1 generando cuerpos humanos aberrantes<\/a>. Eso no pasar\u00e1 (previsiblemente) con el modelo de Apple.<\/p>\n

<\/p>\n

En Microsoft parecen tambi\u00e9n haber recapacitado en los \u00faltimos tiempos. La reciente presentaci\u00f3n de Recall planteaba una funci\u00f3n de lo m\u00e1s llamativa, pero pronto surgieron cr\u00edticas por sus implicaciones para la privacidad y la ciberseguridad. \u00bfQu\u00e9 ha hecho la compa\u00f1\u00eda? Retrasar su despliegue. Se supon\u00eda que iba a formar parte de los nuevos PC Copilot+ que se lanzan la semana que viene, pero las cr\u00edticas y las quejas han provocado que Recall sea aplazado: lo lanzar\u00e1n para Windows Insiders pr\u00f3ximamente, y m\u00e1s adelante ya estar\u00e1 disponible de forma masiva. Pero de momento, frenazo. No val\u00eda la pena arriesgar.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Google
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Quiz\u00e1s Google empiece tambi\u00e9n a darse cuenta de que las prisas no son buenas consejeras, y menos en un segmento que est\u00e1 tan verde y que puede afectar de forma notable a su negocio. Aqu\u00ed la empresa de Mountain View est\u00e1 en la situaci\u00f3n m\u00e1s peligrosa en comparaci\u00f3n con sus rivales: Apple ya tiene su propuesta para su ecosistema \u2014iPhone incluido\u2014, y Microsoft tambi\u00e9n la est\u00e1 perfilando a marchas forzadas en Windows.<\/p>\n

<\/p>\n

Ellos mientras tanto, no pueden arriesgarse a que ChatGPT acabe rob\u00e1ndoles la cartera y acabemos buscando m\u00e1s con \u00e9l que con su buscador. Pero tampoco pueden arriesgarse a lo otro: a recomendarnos poner pegamento en la pizza<\/a>. No querr\u00eda estar yo en la piel de Sundar Pichai<\/strong> ahora mismo, porque encontrar el equilibrio (tenemos que tener algo r\u00e1pido, pero que adem\u00e1s funcione razonablemente bien) es hoy por hoy el mayor reto de todas estas empresas.<\/p>\n

<\/p>\n

Quiz\u00e1s estemos ante el comienzo de una nueva mini-era en esta revoluci\u00f3n que plantea la inteligencia artificial. Una en la que los chatbots no metan la pata tanto.<\/p>\n

<\/p>\n

En Xataka | Las redes sociales nos dejaron trabajar gratis para ellas. Ahora nos quieren cobrar por hacerlo<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Al principio daba igual que ChatGPT alucinara y metiera la pata. No importaba que nos cambiase el final de ‘Juego de Tronos’ al preguntarle o incluso que se hiciera un l\u00edo con las matem\u00e1ticas b\u00e1sicas. Al fin y al cabo, tan solo ten\u00eda unos meses de vida. No pasaba nada. Ahora s\u00ed importa. Es de […]<\/p>\n","protected":false},"author":2,"featured_media":6257,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-6256","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/6256","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=6256"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/6256\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/6257"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=6256"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=6256"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=6256"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}