{"id":51043,"date":"2025-02-19T04:52:35","date_gmt":"2025-02-19T04:52:35","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/que-pasa-cuando-su-creador-las-crea-sesgadas\/"},"modified":"2025-02-19T04:52:35","modified_gmt":"2025-02-19T04:52:35","slug":"que-pasa-cuando-su-creador-las-crea-sesgadas","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=51043","title":{"rendered":"qu\u00e9 pasa cuando su creador las crea sesgadas"},"content":{"rendered":"
\n

Elon Musk siempre se ha definido como un \u00ababsolutista\u00bb de la libertad de expresi\u00f3n<\/a>. Precisamente uno de los objetivos cuando compr\u00f3 Twitter era convertirlo en una \u00abplaza p\u00fablica\u00bb en la que poder hablar de todo sin tapujos. Parece que lo est\u00e1 logrando, pero ahora va m\u00e1s all\u00e1. Ahora quiere que nos creamos que Grok 3 siempre nos va a decir la verdad.<\/p>\n

<\/p>\n

Pol\u00edticamente incorrecto<\/strong>. Seg\u00fan \u00e9l, Grok 3 \u00abes una IA que busca la verdad al m\u00e1ximo, aunque a veces esa verdad est\u00e9 re\u00f1ida con lo pol\u00edticamente correcto\u00bb. Como se\u00f1alan en TechCrunch<\/a>, lo dijo ayer durante la presentaci\u00f3n de esta nueva familia de modelos de IA.<\/p>\n

<\/p>\n

De censura, poco o nada<\/strong>. Las anteriores versiones de Grok ya demostraron una tendencia a tener un tono y \u00abpsicolog\u00eda\u00bb distinta a la de sus competidores. La primera versi\u00f3n fue especialmente llamativa por su tono sarc\u00e1stico<\/a>, y con Grok 2 las cosas se pusieron especialmente interesantes en el terreno de la censura<\/a>. Sobre todo, porque no exist\u00eda, y por ejemplo es posible generar deepfakes de personajes famosos<\/a> sin ning\u00fan tipo de problema desde cualquier cuenta de X.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Grok
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Grok 3 y el problema de querer decir la verdad<\/strong>. Las promesas de Musk en este sentido son como de costumbre llamativas, pero dif\u00edcilmente realizables. La raz\u00f3n es sencilla: que las verdades absolutas existan ya es objeto de debate de por s\u00ed, pero es que hay un argumento potente en contra: las verdades suelen ser relativas y dependen del contexto o punto de vista. Los hechos est\u00e1n ah\u00ed, pero su interpretaci\u00f3n es absolutamente variable y est\u00e1 sujeta a sesgos. Humanos, s\u00ed, pero a posteriori, tambi\u00e9n de la IA.<\/p>\n

<\/p>\n

\u00bfUna IA neutral?<\/strong> Grok 3 parece querer aspirar por tanto a convertirse a una IA neutral que se ci\u00f1e a los hechos y que nos dice la verdad. Aqu\u00ed un elemento a favor de estos modelos es que \u00faltimamente citan las fuentes en las que se basan para dar sus respuestas. Lo hace por ejemplo Perplexity, y eso ayuda a que podamos contrastar esas respuestas.<\/p>\n

<\/p>\n

OpenAI es (un poco) de izquierdas<\/strong>. Estudios de 2003<\/a> detectaron que modelos de IA como ChatGPT ten\u00edan ciertos sesgos y parec\u00edan posicionarse m\u00e1s hacia quienes apoyan la protecci\u00f3n del medioambiente, hacia las ideolog\u00edas libertarias y hacia posiciones pol\u00edticas de izquierdas. Gemini, el modelo de Google, fue criticado por crear im\u00e1genes \u00abwoke\u00bb de vikingos o nazis negros, por ejemplo<\/a>.<\/p>\n

<\/p>\n

Grok 3 podr\u00eda \u00abhablar\u00bb como Donald Trump<\/strong>. Que una IA sea pol\u00edticamente incorrecta nos hace esperar respuestas singulares. Dan Hendrycks, director del Center for AI Safety y consejero de xAI ha planteado<\/a> c\u00f3mo un modelo de IA podr\u00eda responder como lo hace Donald Trump. Directo, sin ambages y sin tener en cuenta lo pol\u00edticamente correcto. Eso puede resultar irritante, pero tambi\u00e9n permitir\u00eda expresar opiniones impopulares y puntos de vista controvertidos. Fuera los sesgos, para bien y para mal. Eso s\u00ed, te\u00f3ricamente sin violar las normas sociales y los principios \u00e9ticos, como explica xAI<\/a> en su \u00abmarco de trabajo para la gesti\u00f3n de riesgos\u00bb.<\/p>\n

<\/p>\n

Modelos partidistas<\/strong>. El estudio de Hendricks<\/a> evalu\u00f3 con qu\u00e9 pol\u00edtico de EEUU estaban m\u00e1s alineados modelos como GPT-4o, Grok, o Llama 3.3, y seg\u00fan sus pruebas todos parec\u00edan estar m\u00e1s cerca de la visi\u00f3n de Biden que las de Trump, Kamala Harris, o Bernie Sanders. En \u00e9l desarrolla la idea de lo que llama una \u00abAsamblea Ciudadana\u00bb en la que se recolectar\u00edan datos del censo de EUU sobre temas pol\u00edticas para luego usar esas respuestas y modificar los valores de un LLM Open Source. En estos momentos ese modelo tendr\u00eda valores que ser\u00edan m\u00e1s cercanos a los de Trump que a los de Biden, por ejemplo.<\/p>\n

<\/p>\n

Pero<\/strong>. Lo cierto es que Grok tuvo que ser actualizado el pasado mes de agosto precisamente por no decir la verdad<\/a>. Cinco secretarios de estado en EEUU avisaron<\/a> de que este chatbot estaba difundiendo desinformaci\u00f3n cuando los usuarios preguntaban por informaci\u00f3n sobre las entonces inminentes elecciones. El cambio no afect\u00f3 a la capacidad de Grok de generar deepfakes<\/a> de los candidatos, aunque en septiembre de 2023 X elimin\u00f3<\/a> la capacidad de algunos usuarios de republicar desinformaci\u00f3n electoral.\u00a0<\/p>\n

<\/p>\n

El entrenamiento es clave<\/strong>. La IA aprende de aquellos datos que le suministramos en el proceso de entrenamiento, as\u00ed que los sesgos que pueda tener una IA tendr\u00e1n su origen en esos datos. Si entrenamos a la IA con datos que perfilan sus respuestas hacia cierta corriente ideol\u00f3gica y critica otra, la IA te\u00f3ricamente replicar\u00e1 esa posici\u00f3n en su discurso. No se han dado detalles sobre c\u00f3mo se ha entrenado a Grok 3 y es posible que nunca lo sepamos, pero si xAI quiere que confiemos en su modelo, tendr\u00e1 que ser mucho m\u00e1s transparente tanto en ese apartado como en el proceso que te\u00f3ricamente han utilizado para \u00abajustar\u00bb sus perspectivas y sesgos.<\/p>\n

<\/p>\n

En Xataka | X se ha llenado de fotos extra\u00f1\u00edsimas de famosos. El culpable es Grok, que no tiene l\u00edmites en su creaci\u00f3n de im\u00e1genes<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Elon Musk siempre se ha definido como un \u00ababsolutista\u00bb de la libertad de expresi\u00f3n. Precisamente uno de los objetivos cuando compr\u00f3 Twitter era convertirlo en una \u00abplaza p\u00fablica\u00bb en la que poder hablar de todo sin tapujos. Parece que lo est\u00e1 logrando, pero ahora va m\u00e1s all\u00e1. Ahora quiere que nos creamos que Grok 3 […]<\/p>\n","protected":false},"author":2,"featured_media":51044,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-51043","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/51043","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=51043"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/51043\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/51044"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=51043"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=51043"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=51043"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}