{"id":74676,"date":"2025-06-22T15:10:58","date_gmt":"2025-06-22T15:10:58","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=74676"},"modified":"2025-06-22T15:10:58","modified_gmt":"2025-06-22T15:10:58","slug":"que-habra-cuando-la-ia-acabe-con-la-humanidad","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=74676","title":{"rendered":"qu\u00e9 habr\u00e1 cuando la IA acabe con la humanidad"},"content":{"rendered":"
\n

En una mansi\u00f3n con vistas al Golden Gate, la \u00e9lite de la inteligencia artificial se reuni\u00f3 el pasado domingo para debatir una cuesti\u00f3n inquietante: el fin de la humanidad y lo que vendr\u00e1 despu\u00e9s. Entre copas (sin alcohol) sus alrededor de 100 asistentes, entre los que hab\u00eda fil\u00f3sofos, empresarios e investigadores, imaginaron un futuro en el que los humanos ya no existimos, pero s\u00ed una inteligencia creada por nosotros. \u00bfC\u00f3mo deber\u00eda ser nuestra sucesora?<\/p>\n

<\/p>\n

La fiesta del fin del mundo. <\/strong>\u00a0El evento que hemos conocido a trav\u00e9s de este reportaje de Wired<\/a> fue llamado \u2018Worthy Successor\u2019 y ten\u00eda como objetivo discutir precisamente sobre eso: definir un \u201csucesor a la altura\u201d para cuando la humanidad ya no exista. Esta idea est\u00e1 relacionada con la creaci\u00f3n de una inteligencia artificial general o AGI<\/u><\/a>, por sus siglas en ingl\u00e9s. Un (de momento) concepto de superinteligencia que superar\u00eda al ser humano en todas las facetas del conocimiento, tan buena que, en palabras de Daniel Faggella, anfitri\u00f3n de la fiesta: \u201cPreferir\u00edas con mucho gusto que ella (no la humanidad) determine el camino futuro de la vida misma\u201d.<\/p>\n

<\/p>\n

Quienes asistieron. <\/strong>Lo primero: \u00bfqui\u00e9n es este tipo y por qu\u00e9 deber\u00edamos escucharlo? Faggella es el fundador de Emerj Artificial Intelligence Research, una firma de consultor\u00eda y an\u00e1lisis de IA. \u00a0En 2016 escrib\u00eda en TechCrunch<\/u><\/a> sobre los riesgos de la IA y actualmente est\u00e1 centrado en divulgar sobre IA desde un enfoque moral y filos\u00f3fico, concretamente el de la creaci\u00f3n de este \u2018worthy succesor\u2019 \u00a0una idea que llevaba rondando desde hace tiempo<\/u><\/a>. Seg\u00fan cuenta en LinkedIN<\/u><\/a>, ha ido contactando con distintas personalidades relevantes de la industria para, dos a\u00f1os despu\u00e9s, conseguir celebrar esta reuni\u00f3n.<\/p>\n

<\/p>\n

En la fiesta se pudieron escuchar tres ponencias de la mano de Ginevra Davis<\/u><\/a>, escritora neoyorkina, el fil\u00f3sofo Michael Edward Johnson<\/u><\/a> y el propio anfitri\u00f3n. La lista completa de invitados no ha trascendido, pero Faggella presume<\/u><\/a> de que asistieron fundadores de empresas de IA con valores de hasta 5.000 millones de d\u00f3lares, gente de los laboratorios que est\u00e1n investigando para crear una AGI y algunos de los fil\u00f3sofos y pensadores m\u00e1s importantes del sector.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Todas
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

La superinteligencia que acabar\u00e1 con todo. <\/strong>En palabras de Faggella a Wired: \u201clos grandes laboratorios saben que la AGI probablemente acabar\u00e1 con la humanidad, pero no hablan de ello porque los incentivos no lo permiten\u201d. Suena a teor\u00eda de la conspiraci\u00f3n, pero no es el primero que advierte de algo as\u00ed. Hace una d\u00e9cada, Bill Gates nos dec\u00eda que deber\u00edamos temer a la IA<\/u><\/a>. Poco despu\u00e9s \u00a0Musk exig\u00eda una regulaci\u00f3n<\/u><\/a> para mitigar los peligros de lo que estaba por venir. M\u00e1s recientemente, distintos expertos en IA firmaban un mensaje que alertaba del \u201criesgo de extinci\u00f3n por IA\u201d<\/u><\/a>. OpenAI tambi\u00e9n pensaba en los riesgos de la AGI<\/u><\/a>. Incluso se habla de que sus declaraciones sobre la creaci\u00f3n de una AGI habr\u00eda sido el motivo del sonado despido de Altman<\/u><\/a> meses despu\u00e9s.<\/p>\n

<\/p>\n

Qu\u00e9 hay de cierto en todo esto. <\/strong>No lo podemos saber a ciencia cierta, pero s\u00ed sabemos que la mayor\u00eda de los argumentos sobre la inminencia de la AGI<\/u><\/a> y sus riesgos se basan en opiniones y especulaciones, no en pruebas emp\u00edricas o avances concretos. Por ejemplo, investigaciones recientes han demostrado que los sistemas actuales a\u00fan fallan en tareas b\u00e1sicas de razonamiento<\/u><\/a>, lo que contradice la idea de una superinteligencia a corto plazo. Es m\u00e1s, hay indicios de que la IA generativa podr\u00eda estar cerca de su techo<\/u><\/a>. Tampoco hay consenso entre los expertos. Hay detractores que lo consideran rid\u00edculo<\/u><\/a>, pero claro, es menos \u2018viralizable\u2019 que decir que la IA va a extinguirnos.<\/p>\n

<\/p>\n

Y lo m\u00e1s importante: no podemos dejar de lado el hecho de que quienes hacen estas declaraciones son personas del negocio como Altman<\/u><\/a>, y el negocio es muy caro<\/u><\/a> y necesita financiarse. Agitar el avispero insistiendo sobre la inminente llegada de la AGI podr\u00eda ser una forma de lograr recaudar m\u00e1s dinero para sus empresas.<\/p>\n

<\/p>\n

Lo que dejaremos cuando desaparezcamos. <\/strong>El tema central de la fiesta no fue tanto c\u00f3mo se extinguir\u00e1 la humanidad (parece que esto lo dan por hecho), sino qu\u00e9 tipo de inteligencia deber\u00edamos crear para que sea nuestra sucesora. Los asistentes escucharon ponencias que giraron en torno a los valores y capacidades que deber\u00eda tener esta nueva inteligencia superior. Para Faggella, la humanidad tiene la responsabilidad de dise\u00f1ar un sucesor que sea consciente y capaz de evolucionar.<\/p>\n

<\/p>\n

El fil\u00f3sofo Michael Edward Johnson destac\u00f3 los restos de crear una IA consciente m\u00e1s all\u00e1 de la manida posible extinci\u00f3n: \u201cNos arriesgamos a esclavizar algo que puede sufrir o a confiar en algo en lo que no se puede confiar\u201d, afirm\u00f3 durante su ponencia. M\u00e1s que forzar a la IA a obedecer, propon\u00eda una educaci\u00f3n conjunta de humanos e IAs para \u201cperseguir el bien\u201d, sea lo que sea eso. En definitiva, un interesante debate desde el punto de vista \u00e9tico y filos\u00f3fico<\/u><\/a>, pero con poco anclaje en la realidad. Al menos de momento.<\/p>\n

<\/p>\n

Imagen de portada | Gemini<\/p>\n

En Xataka | El arma secreta de la industria de la moda en China: esta startup usa IA para predecir las pr\u00f3ximas tendenci<\/u><\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

En una mansi\u00f3n con vistas al Golden Gate, la \u00e9lite de la inteligencia artificial se reuni\u00f3 el pasado domingo para debatir una cuesti\u00f3n inquietante: el fin de la humanidad y lo que vendr\u00e1 despu\u00e9s. Entre copas (sin alcohol) sus alrededor de 100 asistentes, entre los que hab\u00eda fil\u00f3sofos, empresarios e investigadores, imaginaron un futuro en […]<\/p>\n","protected":false},"author":2,"featured_media":74677,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-74676","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/74676","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=74676"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/74676\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/74677"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=74676"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=74676"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=74676"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}