{"id":7381,"date":"2024-06-23T03:44:06","date_gmt":"2024-06-23T03:44:06","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/que-sean-supervisados-por-otros-chatbots\/"},"modified":"2024-06-23T03:44:06","modified_gmt":"2024-06-23T03:44:06","slug":"que-sean-supervisados-por-otros-chatbots","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=7381","title":{"rendered":"que sean supervisados por otros chatbots"},"content":{"rendered":"<div>\n<p>Las respuestas poco fiables son uno de los grandes problemas de los chatbots de inteligencia artificial. Estas herramientas est\u00e1n evolucionando a pasos agigantados, pero todav\u00eda <strong>reproducen sesgos y generan alucinaciones<\/strong>. Unos investigadores de la Universidad de Oxford han tenido una particular idea para abordar estas limitaciones: <a rel=\"noopener, noreferrer\" href=\"https:\/\/pubmed.ncbi.nlm.nih.gov\/38898292\/\" target=\"_blank\">que los chatbots sean supervisados por otros chatbots<\/a>.<\/p>\n<p><!-- BREAK 1 --> <\/p>\n<p>El grupo, integrado por Sebasti\u00e1n Farquhar, Jannik Kossen, Lorenz Kuhn y Yarin Gal, se\u00f1ala que los resultados falsos han impedido la adopci\u00f3n de los chatbots en diversos campos. Ahora bien, el m\u00e9todo que han dise\u00f1ado, afirma, aborda el hecho de que una idea puede expresarse de diversas maneras y ha permitido a los usuarios detectar en qu\u00e9 momentos de la conversaci\u00f3n deber\u00edan tener especial cuidado.<\/p>\n<p><!-- BREAK 2 --><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_81 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Tabla de Contenido<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/enfoquenoticioso.com\/?p=7381\/#Utilizando_chatbots_para_supervisar_otros_chatbots\" >Utilizando chatbots para supervisar otros chatbots<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Utilizando_chatbots_para_supervisar_otros_chatbots\"><\/span>Utilizando chatbots para supervisar otros chatbots<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Los investigadores hicieron una serie de preguntas de trivia y problemas matem\u00e1ticos a un chatbot. Despu\u00e9s, le pidieron a un grupo de humanos y a un chatbot diferente que <strong>revisaran las respuestas<\/strong>. Tras comprar las evaluaciones descubrieron que el chatbot estaba de acuerdo con los evaluadores humanos en un 93%. Los evaluadores humanos, por su parte, estaban de acuerdo con el chatbot en un 92%.<\/p>\n<p><!-- BREAK 3 --> <\/p>\n<p>Estos hallazgos forman parte de un estudio publicado en la revista Nature titulado \u201c<a rel=\"noopener, noreferrer\" href=\"https:\/\/archive.ph\/0VXJa\" target=\"_blank\">Detecci\u00f3n de alucinaciones en grandes modelos de lenguaje mediante entrop\u00eda sem\u00e1ntica<\/a>\u201d. Como podemos ver, se ha utilizado una metodolog\u00eda bastante manual que puede ser tomada como modelo para inspirar posibles soluciones automatizadas que aborden la falta de fiabilidad de los chatbots de IA que utilizamos a diario.<\/p>\n<p><!-- BREAK 4 --><\/p>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\">\n                   <img class=\"centro_sinmarco\" height=\"905\" width=\"1366\" loading=\"lazy\" decoding=\"async\" sizes=\"auto, 100vw\" fetchpriority=\"high\" srcset=\"https:\/\/i.blogs.es\/28a965\/chat\/450_1000.jpeg 450w, https:\/\/i.blogs.es\/28a965\/chat\/650_1200.jpeg 681w,https:\/\/i.blogs.es\/28a965\/chat\/1024_2000.jpeg 1024w, https:\/\/i.blogs.es\/28a965\/chat\/1366_2000.jpeg 1366w\" src=\"https:\/\/i.blogs.es\/28a965\/chat\/450_1000.jpeg\" alt=\"Chat\"\/><br \/>\n   <img decoding=\"async\" alt=\"Chat\" class=\"centro_sinmarco\" src=\"https:\/\/i.blogs.es\/28a965\/chat\/450_1000.jpeg\"\/><\/p><\/div>\n<\/div>\n<p>Las propias herramientas suelen incluir mensajes de advertencia sobre la precisi\u00f3n de las respuestas en la parte inferior de la ventana de chat. \u201c<a href=\"https:\/\/www.xataka.com\/basics\/chatgpt-que-como-usarlo-que-puedes-hacer-este-chat-inteligencia-artificial\" target=\"_blank\" rel=\"noopener\">ChatGPT<\/a> <strong>puede cometer errores<\/strong>. Considera verificar la informaci\u00f3n importante\u201d, dice el chatbot de OpenAI. \u201c<a href=\"https:\/\/www.xataka.com\/basics\/google-gemini-que-como-funciona-diferencias-gpt-cuando-podras-usar-este-modelo-inteligencia-artificial\" target=\"_blank\" rel=\"noopener\">Gemini<\/a> puede mostrar informaci\u00f3n inexacta, incluso sobre personas, as\u00ed que vuelve a verificar sus respuestas\u201d, se\u00f1ala la propuesta creada por Google.<\/p>\n<p><!-- BREAK 5 --><\/p>\n<div class=\"article-asset article-asset-normal article-asset-center\">\n<div class=\"desvio-container\">\n<div class=\"desvio\">\n<div class=\"desvio-figure js-desvio-figure\">\n    <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/parecia-que-2024-windows-macos-se-iban-a-inundar-funciones-ia-unico-que-tenemos-minucias\" target=\"_blank\" rel=\"noopener\"><br \/>\n     <img loading=\"lazy\" decoding=\"async\" alt=\"Parec\u00eda que en 2024 Windows y macOS se iban a inundar de funciones de IA. Lo \u00fanico que tenemos son migajas\" width=\"375\" height=\"142\" src=\"https:\/\/i.blogs.es\/432582\/ms-ap2\/375_142.jpeg\"\/><br \/>\n    <\/a>\n   <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n<p>Tango OpenAI como Google, y tambi\u00e9n otras compa\u00f1\u00edas, han dicho que est\u00e1n trabajando para mejorar la fiabilidad y la seguridad de sus productos de IA. De momento, sin embargo, los resultados est\u00e1n lejos de ser perfectos. En muchos casos las respuestas suelen presentar un texto que, a simple vista, parece my coherente, pero puede contener desde peque\u00f1as imperfecciones hasta grandes errores.<\/p>\n<p><!-- BREAK 6 --> <\/p>\n<p>Im\u00e1genes | Xataka con Bing Image Creator<\/p>\n<p>En Xataka | <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/ia-ha-creado-guion-pelicula-que-precisamente-habla-creatividad-cine-sala-se-niega-a-estrenarla\" target=\"_blank\" rel=\"noopener\">Una IA ha creado el gui\u00f3n de una pel\u00edcula que precisamente habla de la creatividad en el cine. Una sala se niega a estrenarla<\/a><\/p>\n<\/p><\/div>\n<p><a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/chatbots-suelen-equivocarse-asi-que-unos-investigadores-han-tenido-idea-que-sean-supervisados-otros-chatbots\" class=\" target=\" title=\"que sean supervisados por otros chatbots\" target=\"_blank\" rel=\"noopener\">Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Las respuestas poco fiables son uno de los grandes problemas de los chatbots de inteligencia artificial. Estas herramientas est\u00e1n evolucionando a pasos agigantados, pero todav\u00eda reproducen sesgos y generan alucinaciones. Unos investigadores de la Universidad de Oxford han tenido una particular idea para abordar estas limitaciones: que los chatbots sean supervisados por otros chatbots. El [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":7382,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-7381","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/7381","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7381"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/7381\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/7382"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7381"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7381"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7381"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}