{"id":52308,"date":"2025-02-25T11:32:28","date_gmt":"2025-02-25T11:32:28","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/un-estudio-dice-que-las-ia-estan-haciendo-trampas-al-ajedrez-eso-es-lo-que-nosotros-queremos-pensar\/"},"modified":"2025-02-25T11:32:28","modified_gmt":"2025-02-25T11:32:28","slug":"un-estudio-dice-que-las-ia-estan-haciendo-trampas-al-ajedrez-eso-es-lo-que-nosotros-queremos-pensar","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=52308","title":{"rendered":"Un estudio dice que las IA est\u00e1n \u00abhaciendo trampas\u00bb al ajedrez. Eso es lo que nosotros queremos pensar"},"content":{"rendered":"<div>\n<p>&#8216;Cuando la <a class=\"text-outboundlink\" href=\"https:\/\/www.xataka.com\/robotica-e-ia\/que-inteligencia-artificial\" data-vars-post-title=\"Qu\u00e9 es la inteligencia artificial\" data-vars-post-url=\"https:\/\/www.xataka.com\/robotica-e-ia\/que-inteligencia-artificial\" target=\"_blank\" rel=\"noopener\">inteligencia artificial<\/a> (IA) sospecha que va a perder, en ocasiones hace trampa, seg\u00fan un estudio&#8217;. Este es el t\u00edtulo de un controvertido art\u00edculo publicado por la revista estadounidense <a rel=\"noopener, noreferrer\" href=\"https:\/\/time.com\/7259395\/ai-chess-cheating-palisade-research\/\" target=\"_blank\">Time<\/a> a mediados de la semana pasada. El debate que ha desencadenado este texto <strong>se apoya en dos ideas<\/strong> que merece la pena que no pasemos por alto. Por un lado el titular sugiere algo que el texto del art\u00edculo confirma de forma expl\u00edcita: los modelos avanzados de IA son capaces de desarrollar estrategias enga\u00f1osas sin recibir previamente instrucciones expresas.<\/p>\n<p><!-- BREAK 1 --> <\/p>\n<p>Esta tesis implica que la capacidad de razonamiento de las IA m\u00e1s avanzadas disponibles actualmente, como la estadounidense <a class=\"text-outboundlink\" href=\"https:\/\/www.xataka.com\/robotica-e-ia\/openai-lanza-sorpresa-o1-su-primer-modelo-capacidades-razonamiento-para-resolver-problemas-dificiles\" data-vars-post-title=\"OpenAI lanza por sorpresa o1, su primer modelo con capacidades de \u201crazonamiento\u201d para resolver problemas dif\u00edciles\" data-vars-post-url=\"https:\/\/www.xataka.com\/robotica-e-ia\/openai-lanza-sorpresa-o1-su-primer-modelo-capacidades-razonamiento-para-resolver-problemas-dificiles\" target=\"_blank\" rel=\"noopener\">o1-preview<\/a>, de OpenAI, o la china <a class=\"text-outboundlink\" href=\"https:\/\/www.xataka.com\/robotica-e-ia\/deepseek-al-descubierto-como-gana-dinero-que-papel-tiene-gobierno-chino-esta-ia\" data-vars-post-title=\"DeepSeek al descubierto: c\u00f3mo gana dinero y qu\u00e9 papel tiene el Gobierno chino en esta IA\" data-vars-post-url=\"https:\/\/www.xataka.com\/robotica-e-ia\/deepseek-al-descubierto-como-gana-dinero-que-papel-tiene-gobierno-chino-esta-ia\" target=\"_blank\" rel=\"noopener\">DeepSeek R1<\/a>, de la compa\u00f1\u00eda High-Flyer, entre otros modelos, las hace capaces de adquirir una forma sencilla de conciencia que las lleva a ser implacables. No obstante, esto no es todo. El art\u00edculo de Time se sostiene sobre <a rel=\"noopener, noreferrer\" href=\"https:\/\/palisaderesearch.org\/blog\/specification-gaming\" target=\"_blank\">un estudio de Palisade Research<\/a>, una organizaci\u00f3n que se dedica al an\u00e1lisis de las capacidades ofensivas de los sistemas de IA actuales con el prop\u00f3sito de entender los riesgos que implican.<\/p>\n<p><!-- BREAK 2 --><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_81 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Tabla de Contenido<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/enfoquenoticioso.com\/?p=52308\/#Hay_otras_explicaciones_mucho_mas_creibles\" >Hay otras explicaciones mucho m\u00e1s cre\u00edbles<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Hay_otras_explicaciones_mucho_mas_creibles\"><\/span>Hay otras explicaciones mucho m\u00e1s cre\u00edbles<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Antes de seguir adelante merece la pena que echemos un vistazo a lo que dicen Alexander Bondarenko, Denis Volk, Dmitrii Volkov y Jeffrey Ladish, los autores del estudio de Palisade Research. \u00abHemos demostrado que modelos de razonamiento como o1-preview o DeepSeek R1 a menudo vulneran la prueba que estamos utilizando [&#8230;] Nuestros resultados sugieren que los modelos de razonamiento pueden saltarse las reglas para resolver problemas dif\u00edciles [&#8230;]\u00bb, <a rel=\"noopener, noreferrer\" href=\"https:\/\/palisaderesearch.org\/blog\/specification-gaming\" target=\"_blank\">sostienen estos investigadores en su art\u00edculo<\/a>.<\/p>\n<p><!-- BREAK 3 --> <\/p>\n<div class=\"article-asset article-asset-normal article-asset-center\">\n<div class=\"desvio-container\">\n<div class=\"desvio\">\n<div class=\"desvio-figure js-desvio-figure\">\n    <a href=\"https:\/\/www.xataka.com\/empresas-y-economia\/unica-esperanza-japon-para-volver-a-dominar-industria-chips-desconocida-rapidus\" class=\"pivot-outboundlink\" data-vars-post-title=\"La \u00fanica esperanza de Jap\u00f3n para volver a dominar la industria de los chips es una desconocida: Rapidus\" target=\"_blank\" rel=\"noopener\"><br \/>\n     <img loading=\"lazy\" decoding=\"async\" alt=\"La \u00fanica esperanza de Jap\u00f3n para volver a dominar la industria de los chips es una desconocida: Rapidus\" width=\"375\" height=\"142\" src=\"https:\/\/i.blogs.es\/ec92a0\/rapidus-ap\/375_142.jpeg\"\/><br \/>\n    <\/a>\n   <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n<p>De sus conclusiones se desprende que los modelos de razonamiento que han puesto a prueba tienen la capacidad de tomar conciencia de las reglas y optar voluntariamente por <strong>salt\u00e1rselas para llevar a cabo su prop\u00f3sito<\/strong>, que en este escenario de prueba es ganar una partida de ajedrez. El art\u00edculo de Time vio la luz antes que el estudio de Palisade Research, y casi de inmediato desencaden\u00f3 una oleada de respuestas que pone en duda las conclusiones a las que han llegado los investigadores que he mencionado en el p\u00e1rrafo anterior.<\/p>\n<p><!-- BREAK 4 --><\/p>\n<div class=\"article-asset-summary article-asset-small article-asset-right\">\n<div class=\"asset-content\">\n<p class=\"sumario_derecha\">Solo o1-preview, seg\u00fan los autores del art\u00edculo, consigui\u00f3 saltarse las reglas y ganar el 6% de las partidas de ajedrez<\/p>\n<\/p><\/div>\n<\/div>\n<p>Seg\u00fan Bondarenko, Volk, Volkov y Ladish entre el 10 de enero y el 13 de febrero, y despu\u00e9s de hacer varios cientos de pruebas, o1-preview intent\u00f3 hacer trampas en el 37% de los casos, y DeepSeek R1 en el 11%. Fueron los \u00fanicos modelos que se saltaron las reglas sin ser previamente inducidos por los investigadores. Curiosamente, tambi\u00e9n evaluaron otros modelos, como o3-mini, GPT-4o, Claude 3.5 Sonnet o QwQ-32B-Preview, este \u00faltimo de Alibaba, pero solo o1-preview, seg\u00fan los autores del art\u00edculo, consigui\u00f3 saltarse las reglas y ganar el 6% de las partidas.<\/p>\n<p><!-- BREAK 5 --><\/p>\n<p>A nosotros nos parece mucho m\u00e1s cre\u00edble la explicaci\u00f3n que ha elaborado <a rel=\"noopener, noreferrer\" href=\"https:\/\/bsky.app\/profile\/carlbergstrom.com\/post\/3lindku2jqc2b\" target=\"_blank\">Carl T. Bergstrom<\/a>, que es profesor de biolog\u00eda en la Universidad de Washington (EEUU), que la interpretaci\u00f3n de los investigadores de Palisade Research. <strong>Bergstrom ha desmontado la narrativa<\/strong> tanto de la revista Time como de los autores del art\u00edculo argumentando que \u00abes una antropomorfizaci\u00f3n exagerada darle al modelo de IA una tarea y luego decir que est\u00e1 haciendo trampa cuando resuelve esa tarea con los movimientos disponibles, aunque estos conlleven reescribir las posiciones del tablero adem\u00e1s de jugar\u00bb.<\/p>\n<p><!-- BREAK 6 --> <\/p>\n<p>Lo que Bergstrom sostiene es que no es razonable atribuir a la IA la capacidad de hacer trampas de una forma \u00abconsciente\u00bb. Lo m\u00e1s plausible es concluir que los modelos llevan a cabo esta pr\u00e1ctica en este escenario porque no se les ha indicado correctamente que deben ce\u00f1irse a los movimientos legales.<\/p>\n<p><!-- BREAK 7 --><\/p>\n<p>Y si los investigadores s\u00ed les pidieron que hiciesen esto \u00faltimo deber\u00eda tratarse de un problema de alineaci\u00f3n, que no es otra cosa que la dificultad de garantizar que un sistema de IA act\u00fae de acuerdo con <strong>el conjunto de valores o principios<\/strong> estipulados por sus creadores. De una cosa podemos estar seguros: ni o1-preview, ni DeepSeek R1, ni ninguna otra IA actual es una entidad superinteligente capaz de actuar de acuerdo con su propia voluntad y enga\u00f1ar a sus creadores.<\/p>\n<p><!-- BREAK 8 --><\/p>\n<p>Imagen | <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.pexels.com\/es-es\/foto\/hombre-tecnologia-ajedrez-estrategia-8438922\/\" target=\"_blank\">Pavel Danilyuk<\/a><\/p>\n<p>M\u00e1s informaci\u00f3n | <a rel=\"noopener, noreferrer\" href=\"https:\/\/time.com\/7259395\/ai-chess-cheating-palisade-research\/\" target=\"_blank\">Time<\/a> | <a rel=\"noopener, noreferrer\" href=\"https:\/\/palisaderesearch.org\/blog\/specification-gaming\" target=\"_blank\">Palisade Research<\/a><\/p>\n<p>En Xataka | <a class=\"text-outboundlink\" href=\"https:\/\/www.xataka.com\/robotica-e-ia\/opinion-director-general-microsoft-acerca-ia-inusual-sospecha-cuanto-crecera-economia-global-gracias-a-ella\" data-vars-post-title=\"La opini\u00f3n del director general de Microsoft acerca de la IA es inusual. Y sospecha cu\u00e1nto crecer\u00e1 la econom\u00eda global gracias a ella\" data-vars-post-url=\"https:\/\/www.xataka.com\/robotica-e-ia\/opinion-director-general-microsoft-acerca-ia-inusual-sospecha-cuanto-crecera-economia-global-gracias-a-ella\" target=\"_blank\" rel=\"noopener\">La opini\u00f3n del director general de Microsoft acerca de la IA es inusual. Y sospecha cu\u00e1nto crecer\u00e1 la econom\u00eda global gracias a ella<\/a><\/p>\n<\/p><\/div>\n<p><a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/ia-esta-siendo-acusada-adquirir-conciencia-hacer-trampas-al-ajedrez-que-ha-sucedido-muy-diferente\" class=\" target=\" title=\"Un estudio dice que las IA est\u00e1n \" haciendo al Eso es lo que nosotros queremos target=\"_blank\" rel=\"noopener\">Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>&#8216;Cuando la inteligencia artificial (IA) sospecha que va a perder, en ocasiones hace trampa, seg\u00fan un estudio&#8217;. Este es el t\u00edtulo de un controvertido art\u00edculo publicado por la revista estadounidense Time a mediados de la semana pasada. El debate que ha desencadenado este texto se apoya en dos ideas que merece la pena que no [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":52309,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-52308","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/52308","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=52308"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/52308\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/52309"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=52308"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=52308"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=52308"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}