{"id":77280,"date":"2025-07-04T12:59:57","date_gmt":"2025-07-04T12:59:57","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=77280"},"modified":"2025-07-04T12:59:57","modified_gmt":"2025-07-04T12:59:57","slug":"un-estudio-descubre-que-la-ia-no-comprende-lo-que-dice","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=77280","title":{"rendered":"Un estudio descubre que la IA no comprende lo que dice"},"content":{"rendered":"
\n

Un estudio realizado por la Universidad de Harvard, la Universidad de Chicago y el Instituto Tecnol\u00f3gico de Massachussets descubri\u00f3 que los modelos de IA no entienden lo que dicen<\/strong>. Los investigadores encontraron que casi todos los modelos de lenguaje pueden generar respuestas correctas, pero no son capaces de aplicar ese conocimiento en la pr\u00e1ctica.<\/p>\n

En una versi\u00f3n preliminar de un manuscrito publicado en arXiv<\/em><\/u><\/a>, los cient\u00edficos definieron este comportamiento como potemkins<\/strong>, o una ilusi\u00f3n de comprensi\u00f3n por parte de los modelos de lenguaje grande<\/strong>. De acuerdo con el estudio, la mayor\u00eda de las IA creen que entienden, pero en realidad no tienen una representaci\u00f3n coherente de los conceptos.<\/p>\n

La palabra potemkin est\u00e1 asociada a las aldeas falsas del mismo nombre que construy\u00f3 el general Grigory Potemkin para impresionar a Catalina II en 1787. Los investigadores utilizan este t\u00e9rmino cuando una IA carece de la capacidad de comprender conceptos<\/strong> del mismo modo que lo hacemos los humanos.<\/p>\n

En el estudio se efectuaron 32 pruebas en tres dominios: t\u00e9cnicas literarias, teor\u00eda de juegos y sesgos cognitivos. Los cient\u00edficos evaluaron si la IA pod\u00eda definir un concepto, pero fallaba al usarlo en tareas de clasificaci\u00f3n, generaci\u00f3n y edici\u00f3n. Para cada prueba, los cient\u00edficos usaron modelos como GPT-4o, Claude 3.5 Sonnet, DeepSeek-V3, DeepSeek-R1, Qwen2-VL y Llama 3.3.<\/p>\n

\"Estudio\"Estudio
Ejemplos de Potemkin. Imagen: Comprensi\u00f3n Potemkin en grandes modelos ling\u00fc\u00edsticos<\/a><\/em><\/figcaption><\/figure>\n
\n
\n

Tabla de Contenido<\/p>\nToggle<\/span><\/path><\/svg><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n