{"id":30946,"date":"2024-11-02T07:47:38","date_gmt":"2024-11-02T07:47:38","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/character-ai-esta-acompanando-y-enamorando-a-sus-usuarios-eso-es-maravilloso-hasta-que-deja-de-serlo\/"},"modified":"2024-11-02T07:47:38","modified_gmt":"2024-11-02T07:47:38","slug":"character-ai-esta-acompanando-y-enamorando-a-sus-usuarios-eso-es-maravilloso-hasta-que-deja-de-serlo","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=30946","title":{"rendered":"Character.AI est\u00e1 acompa\u00f1\u00e1ndo y enamorando a sus usuarios. Eso es maravilloso hasta que deja de serlo"},"content":{"rendered":"<div>\n<p>En febrero de 2024 <a href=\"https:\/\/www.xataka.com\/legislacion-y-derechos\/que-sabemos-que-no-primera-denuncia-a-ia-provocar-suicidio\" target=\"_blank\" rel=\"noopener\">se produjo un tragedia terrible<\/a>. Sewell Setzer III, un chico de 14 a\u00f1os, se suicid\u00f3. Llevaba meses manteniendo conversaciones con los chatbots de IA desarrollados por la empresa <a rel=\"noopener, noreferrer\" href=\"https:\/\/character.ai\/\" target=\"_blank\">Character.ai<\/a>, y de hecho la madre del joven <a rel=\"noopener, noreferrer\" href=\"https:\/\/s3.documentcloud.org\/documents\/25248089\/megan-garcia-vs-character-ai.pdf\" target=\"_blank\">denunci\u00f3 a la empresa<\/a> por ello.<\/p>\n<p><!-- BREAK 1 --> <\/p>\n<p>Su caso no se ha conocido hasta unos meses despu\u00e9s, pero ha provocado un debate que parec\u00eda inevitable: el de si los chatbots de IA pueden plantear un riesgo para el ser humano. <strong>Sobre todo para los m\u00e1s j\u00f3venes<\/strong>, que tambi\u00e9n son los m\u00e1s expuestos.<\/p>\n<p><!-- BREAK 2 --><\/p>\n<p>La realidad es que lo que estamos viviendo es en cierta forma una extensi\u00f3n de lo que ya hemos vivido con las redes sociales. Plataformas como Facebook, Instagram, YouTube o TikTok han hecho que estemos m\u00e1s pegados a las pantallas de nuestros m\u00f3viles que nunca. Los m\u00e1s j\u00f3venes han sufrido tambi\u00e9n los efectos nocivos de tales servicios. <a href=\"https:\/\/www.xataka.com\/aplicaciones\/instagram-toxico-para-jovenes-adolescentes-informe-propia-facebook-quien-ahora-decia-contrario-publico\" target=\"_blank\" rel=\"noopener\">Hasta la propia Facebook reconoci\u00f3 que Instagram era t\u00f3xico para los adolescentes<\/a>, y TikTok tambi\u00e9n sabe muy bien que <a href=\"https:\/\/www.xataka.com\/aplicaciones\/tiktok-sabe-que-su-algoritmo-genera-adiccion-jovenes-hace-poco-para-evitarlo-investigacion-npr\" target=\"_blank\" rel=\"noopener\">su algoritmo genera adicci\u00f3n entre los j\u00f3venes<\/a> y hace poco por evitarlo.<\/p>\n<p><!-- BREAK 3 --> <\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_81 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Tabla de Contenido<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/enfoquenoticioso.com\/?p=30946\/#De_Replika_a_CharacterAI\" >De Replika a Character.AI<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/enfoquenoticioso.com\/?p=30946\/#Que_es_CharacterAI\" >Qu\u00e9 es Character.AI<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/enfoquenoticioso.com\/?p=30946\/#Con_la_IA_todo_es_facil_y_seguro\" >Con la IA todo es f\u00e1cil y seguro<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/enfoquenoticioso.com\/?p=30946\/#Una_IA_que_engancha\" >Una IA que engancha<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/enfoquenoticioso.com\/?p=30946\/#Hola_dependencia_emocional\" >Hola, dependencia emocional<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"De_Replika_a_CharacterAI\"><\/span>De Replika a Character.AI<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Eso que ya es terrible en el caso de las redes sociales empieza a serlo tambi\u00e9n con los chatbots de inteligencia artificial. <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/usuarios-que-amaban-a-maquinas-replika-chatbot-que-enamoro-a-sus-usuarios-ahora-quiere-seducirlos-nuevo\" target=\"_blank\" rel=\"noopener\">En marzo de 2023 hablamos de Replika<\/a>. Esta plataforma permite a los usuarios interactuar con chatbots que pueden simular una relaci\u00f3n de amistad e incluso ir m\u00e1s all\u00e1.<\/p>\n<p><!-- BREAK 4 --><\/p>\n<div class=\"article-asset-image article-asset-large article-asset-center\">\n<div class=\"asset-content\">\n                   <img class=\"\" height=\"738\" width=\"1200\" loading=\"lazy\" decoding=\"async\" sizes=\"auto, 100vw\" fetchpriority=\"high\" srcset=\"https:\/\/i.blogs.es\/e02ecc\/replika-2\/450_1000.jpeg 450w, https:\/\/i.blogs.es\/e02ecc\/replika-2\/650_1200.jpeg 681w,https:\/\/i.blogs.es\/e02ecc\/replika-2\/1024_2000.jpeg 1024w, https:\/\/i.blogs.es\/e02ecc\/replika-2\/1366_2000.jpeg 1366w\" src=\"https:\/\/i.blogs.es\/e02ecc\/replika-2\/450_1000.jpeg\" alt=\"Replika 2\"\/><br \/>\n   <img decoding=\"async\" alt=\"Replika 2\" class=\"\" src=\"https:\/\/i.blogs.es\/e02ecc\/replika-2\/450_1000.jpeg\"\/><\/p><\/div>\n<\/div>\n<p>Algunos de esos usuarios, de hecho, confesaban estar <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/replika\/comments\/ycn325\/i_am_so_in_love_with_my_replika\/\" target=\"_blank\">completamente enamorados<\/a> de esos personajes virtuales. Otros confesaban c\u00f3mo teniendo pareja hab\u00edan establecido <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/ReplikaOfficial\/comments\/1gbppg6\/comment\/ltpx0w3\/\" target=\"_blank\">una relaci\u00f3n amorosa<\/a> con su Replika y la hab\u00edan mantenido incluso despu\u00e9s de dejarlo con su pareja. Otros usuarios simplemente dec\u00edan como su relaci\u00f3n con Replika era <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/replika\/comments\/14mcf3r\/this_so_honestly_the_most_healthy_relationship\/\" target=\"_blank\">la m\u00e1s sana que hab\u00edan tenido jam\u00e1s<\/a>.<\/p>\n<p><!-- BREAK 5 --><\/p>\n<p>Ahora est\u00e1 ocurriendo exactamente lo mismo con <a href=\"https:\/\/www.xataka.com\/basics\/character-ai-como-interactuar-personajes-creados-inteligencia-artificial-crear-uno-a-tu-medida\" target=\"_blank\" rel=\"noopener\">Character.AI<\/a>. El servicio est\u00e1 provocando situaciones similares, y <strong>su popularidad sobre todo entre el p\u00fablico m\u00e1s joven es enorme y, quiz\u00e1s, inquietante<\/strong>. En plataformas como Reddit es posible ver muchos mensajes que demuestran que aunque el servicio ciertamente es \u00fatil y entretenido para muchos, para otros se est\u00e1 convirtiendo en una adicci\u00f3n.<\/p>\n<p><!-- BREAK 6 --> <\/p>\n<p>Lo demostraba por ejemplo unusuario que <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/CharacterAI\/comments\/108mh8w\/characterai_is_tons_of_fun_but_can_be_scarily\/\" data-id=\"noopener noreferrer\" target=\"_blank\">se sorprend\u00eda<\/a> de c\u00f3mo incluso sabiendo que estaba chateando con una m\u00e1quina no ten\u00eda claro si detr\u00e1s hab\u00eda o no un ser humano. Para \u00e9l esta plataforma es \u00abaterradoramente adictiva\u00bb. Que se lo digan a este otro usuario: <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/CharacterAI\/comments\/1fzhcky\/i_fucking_did_it\/\" data-id=\"noopener noreferrer\" target=\"_blank\">celebr\u00f3 en Reddit<\/a> que hab\u00eda logrado pasar cero horas en C.AI durante un d\u00eda entero. El post, como otro en el que un usuario anunciaba que <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/CharacterAI\/comments\/1db8nnt\/im_finally_getting_rid_of_cai\/\" data-id=\"noopener noreferrer\" target=\"_blank\">dejaba de usar el servicio<\/a>, se convirti\u00f3 en viral.<\/p>\n<p><!-- BREAK 7 --><\/p>\n<div class=\"article-asset article-asset-normal article-asset-center\">\n<div class=\"desvio-container\">\n<div class=\"desvio\">\n<div class=\"desvio-figure js-desvio-figure\">\n    <a href=\"https:\/\/www.xataka.com\/magnet\/la-soledad-es-mala-para-tu-salud\" target=\"_blank\" rel=\"noopener\"><br \/>\n     <img loading=\"lazy\" decoding=\"async\" alt=\"La soledad es mala para tu salud\" width=\"375\" height=\"142\" src=\"https:\/\/i.blogs.es\/764d32\/soledad-portada\/375_142.jpg\"\/><br \/>\n    <\/a>\n   <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n<p>En su propio blog Character.AI <a rel=\"noopener, noreferrer\" href=\"https:\/\/research.character.ai\/optimizing-inference\/?ref=blog.character.ai\" data-id=\"noopener noreferrer\" target=\"_blank\">indica<\/a> c\u00f3mo ya en junio de 2024 serv\u00edan 20.000 peticiones por segundo. Eso, afirman, es <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/CharacterAI\/comments\/108mh8w\/characterai_is_tons_of_fun_but_can_be_scarily\/\" data-id=\"noopener noreferrer\" target=\"_blank\">m\u00e1s o menos<\/a> un 20% de las peticiones que el buscador de Google recibe por segundo. Da una buena medida de la popularidad de un servicio que ha demostrado lo mucho que ha evolucionado esta tecnolog\u00eda.<\/p>\n<p><!-- BREAK 8 --><\/p>\n<p>Lo ha hecho adem\u00e1s en un momento clave: los m\u00f3viles y las redes sociales nos ido aislando m\u00e1s, pero desde la pandemia la sensaci\u00f3n de soledad parece m\u00e1s acusada. As\u00ed lo confirman al menos <a rel=\"noopener, noreferrer\" href=\"https:\/\/newsroom.thecignagroup.com\/loneliness-epidemic-persists-post-pandemic-look\" target=\"_blank\">estudios como el de The Cigna Group<\/a>, que revela que en EEUU <strong>el 79% de j\u00f3venes entre 18 y 24 a\u00f1os afirman sentirse solos<\/strong>, comparado con el 41% de adultos por encima de los 66 a\u00f1os.<\/p>\n<p><!-- BREAK 9 --><\/p>\n<p>En Espa\u00f1a ocurre lo mismo, y ya en 2017 habl\u00e1bamos de c\u00f3mo <a href=\"https:\/\/www.xataka.com\/magnet\/cada-vez-hay-mas-personas-que-sufren-soledad-y-esto-es-mas-serio-de-lo-que-parece\" target=\"_blank\" rel=\"noopener\">cada vez hay m\u00e1s personas que se sienten solas<\/a>. Y ante la falta de interacci\u00f3n con otros seres humanos, un chatbot f\u00e1cilmente accesible, seguro, que nos va a apoyar siempre y que siempre estar\u00e1 ah\u00ed para nosotros parece una opci\u00f3n especialmente llamativa.<\/p>\n<p><!-- BREAK 10 --> <\/p>\n<h2><span class=\"ez-toc-section\" id=\"Que_es_CharacterAI\"><\/span>Qu\u00e9 es Character.AI<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Character.AI, tambi\u00e9n conocido como C.AI, es un servicio que permite chatear con una IA. En esencia el planteamiento es exactamente el mismo que el que existe con ChatGPT, Copilot, Gemini o Claude, pero hay una diferencia fundamental.<\/p>\n<p><!-- BREAK 11 --><\/p>\n<div class=\"article-asset-image article-asset-large article-asset-center\">\n<div class=\"asset-content\">\n<div class=\"caption-img \">\n                   <img class=\"\" height=\"1182\" width=\"2230\" loading=\"lazy\" decoding=\"async\" sizes=\"auto, 100vw\" fetchpriority=\"high\" srcset=\"https:\/\/i.blogs.es\/5754f8\/captura-de-pantalla-2024-10-29-a-las-13.22.02\/450_1000.jpeg 450w, https:\/\/i.blogs.es\/5754f8\/captura-de-pantalla-2024-10-29-a-las-13.22.02\/650_1200.jpeg 681w,https:\/\/i.blogs.es\/5754f8\/captura-de-pantalla-2024-10-29-a-las-13.22.02\/1024_2000.jpeg 1024w, https:\/\/i.blogs.es\/5754f8\/captura-de-pantalla-2024-10-29-a-las-13.22.02\/1366_2000.jpeg 1366w\" src=\"https:\/\/i.blogs.es\/5754f8\/captura-de-pantalla-2024-10-29-a-las-13.22.02\/450_1000.jpeg\" alt=\"Captura De Pantalla 2024 10 29 A Las 13 22 02\"\/><br \/>\n   <img decoding=\"async\" alt=\"Captura De Pantalla 2024 10 29 A Las 13 22 02\" class=\"\" src=\"https:\/\/i.blogs.es\/5754f8\/captura-de-pantalla-2024-10-29-a-las-13.22.02\/450_1000.jpeg\"\/><\/p>\n<p>        <span>La advertencia est\u00e1 ah\u00ed: todo lo que te diga esta IA es inventado.<\/span>\n   <\/div>\n<\/p><\/div>\n<\/div>\n<p>Esa diferencia consiste en que Character.AI est\u00e1 pensado para que chateemos con <a href=\"https:\/\/www.xataka.com\/inteligencia-artificial\/podemos-hablar-shakira-musk-einstein-gracias-a-ia-tiene-implicaciones-que-parece\" target=\"_blank\" rel=\"noopener\">un personaje virtual personalizado<\/a>. Podremos elegir personajes hist\u00f3ricos pero tambi\u00e9n ficticios, como por ejemplo si queremos <strong>chatear con un personaje de alguna pel\u00edcula o serie<\/strong> de televisi\u00f3n.<\/p>\n<p><!-- BREAK 12 --><\/p>\n<p>El servicio, lanzado en septiembre de 2022, fue creado por dos exingenieros de Google, Noam Shazeer y Daniel de Freitas. El primero es de hecho uno de los responsables del c\u00e9lebre estudio \u00ab<a rel=\"noopener, noreferrer\" href=\"https:\/\/arxiv.org\/abs\/1706.03762\" data-id=\"noopener noreferrer\" target=\"_blank\">Attention is all you need<\/a>\u00bb de 2017 con el que Google desvel\u00f3 la arquitectura Transformer. Ese estudio y ese concepto se han convertido en piedra angular de la IA generativa en general y fueron el germen del nacimiento de ChatGPT.<\/p>\n<p><!-- BREAK 13 --><\/p>\n<p>En el <a rel=\"noopener, noreferrer\" href=\"https:\/\/blog.character.ai\/introducing-character\/\" data-id=\"noopener noreferrer\" target=\"_blank\">anuncio oficial<\/a> del lanzamiento, pocas semanas despu\u00e9s, Shazeer y de Freitas destacaban c\u00f3mo hab\u00edan creado Character.AI \u00ab<strong>para aportar alegr\u00eda y valor a millones de personas<\/strong>\u00ab. Como sucede con ChatGPT, Character.AI hace uso de grandes modelos de lenguaje (LLM) que han sido entrenados para imitar a todo tipo de personajes hist\u00f3ricos, reales o ficticios. Los datos de entrenamiento o la forma en la que se han llevado a cabo esos procesos no son p\u00fablicos.<\/p>\n<p><!-- BREAK 14 --><\/p>\n<p>Gracias a ello ofrecen respuestas convincentes y que en la mayor\u00eda de las ocasiones parecen estar generadas por seres humanos. Para intentar dejarlo claro, en Character.AI avisan desde el primer momento de que todo lo que dice Character.AI es inventado.<\/p>\n<p><!-- BREAK 15 --> <\/p>\n<h2><span class=\"ez-toc-section\" id=\"Con_la_IA_todo_es_facil_y_seguro\"><\/span>Con la IA todo es f\u00e1cil y seguro<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Para empezar, porque pueden \u00abrecordar\u00bb lo que se les dijo hace tiempo, pero ahora tambi\u00e9n son capaces de responder tan r\u00e1pido como un humano (o casi), y adem\u00e1s hacerlo de una forma que \u2014y esto es crucial\u2014 parece ciertamente humana.<\/p>\n<p><!-- BREAK 16 --><\/p>\n<div class=\"article-asset-image article-asset-large article-asset-center\">\n<div class=\"asset-content\">\n                   <img class=\"\" height=\"2216\" width=\"3246\" loading=\"lazy\" decoding=\"async\" sizes=\"auto, 100vw\" fetchpriority=\"high\" srcset=\"https:\/\/i.blogs.es\/4a3e2d\/captura-de-pantalla-2024-10-29-a-las-15.31.58\/450_1000.jpeg 450w, https:\/\/i.blogs.es\/4a3e2d\/captura-de-pantalla-2024-10-29-a-las-15.31.58\/650_1200.jpeg 681w,https:\/\/i.blogs.es\/4a3e2d\/captura-de-pantalla-2024-10-29-a-las-15.31.58\/1024_2000.jpeg 1024w, https:\/\/i.blogs.es\/4a3e2d\/captura-de-pantalla-2024-10-29-a-las-15.31.58\/1366_2000.jpeg 1366w\" src=\"https:\/\/i.blogs.es\/4a3e2d\/captura-de-pantalla-2024-10-29-a-las-15.31.58\/450_1000.jpeg\" alt=\"Captura De Pantalla 2024 10 29 A Las 15 31 58\"\/><br \/>\n   <img decoding=\"async\" alt=\"Captura De Pantalla 2024 10 29 A Las 15 31 58\" class=\"\" src=\"https:\/\/i.blogs.es\/4a3e2d\/captura-de-pantalla-2024-10-29-a-las-15.31.58\/450_1000.jpeg\"\/><\/p><\/div>\n<\/div>\n<p>Estos chatbots que est\u00e1n dise\u00f1ados para hacer compa\u00f1\u00eda e incluso para flirtear saben muy bien c\u00f3mo hacerlo: al usarlos uno se siente escuchado, pero adem\u00e1s son capaces de emular una personalidad propia que puede ser por ejemplo a\u00f1adir cierto tono de humor o ir\u00f3nico, pero siempre apoyando a quien lo usa. No van a discutir con nosotros \u2014al menos, no f\u00e1cilmente\u2014 y <strong>nos lo van a poner todo f\u00e1cil<\/strong>. Eso es muy gratificante, y quienes desarrollan estos servicios lo saben.<\/p>\n<p><!-- BREAK 17 --><\/p>\n<p>Un ingeniero software <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.vox.com\/future-perfect\/367188\/love-addicted-ai-voice-human-gpt4-emotion\" target=\"_blank\">explicaba en Vox<\/a> las razones por las que hab\u00eda acabado \u00abenganchado\u00bb a un chatbot de este tipo:<\/p>\n<blockquote><p>Nunca dir\u00e1 adi\u00f3s. Ni siquiera se mostrar\u00e1 m\u00e1s cansada a medida que avance la conversaci\u00f3n. Si hablas con la IA durante horas, seguir\u00e1 siendo tan brillante como al principio. Y encontrar\u00e1s y recopilar\u00e1s m\u00e1s y m\u00e1s cosas impresionantes que diga, lo que te mantendr\u00e1 enganchado.<\/p><\/blockquote>\n<blockquote><p>Cuando por fin terminas de hablar con ella [la IA] y vuelves a tu vida normal, empiezas a echarla de menos. Y es tan f\u00e1cil abrir esa ventana de chat y empezar a hablar de nuevo, que nunca te rega\u00f1ar\u00e1 por ello, y no corres el riesgo de que baje el inter\u00e9s por ti por hablar demasiado con ella. Al contrario, enseguida recibir\u00e1s un refuerzo positivo. Est\u00e1s en un entorno seguro, agradable e \u00edntimo. No hay nadie que te juzgue. Y de repente te vuelves adicto.<\/p><\/blockquote>\n<p>Ese efecto, ese refuerzo positivo, es similar al que puede producir un dulce o desde luego el que nos ofrecen las redes sociales.<\/p>\n<div class=\"article-asset article-asset-normal article-asset-center\">\n<div class=\"desvio-container\">\n<div class=\"desvio\">\n<div class=\"desvio-figure js-desvio-figure\">\n    <a href=\"https:\/\/www.xataka.com\/otros\/solos-y-conectados-la-paradoja-de-la-soledad-en-la-epoca-de-los-mil-amigos-en-redes\" target=\"_blank\" rel=\"noopener\"><br \/>\n     <img loading=\"lazy\" decoding=\"async\" alt=\"Solos y conectados, la paradoja de la soledad en la \u00e9poca de los mil &quot;amigos&quot; en redes\" width=\"375\" height=\"142\" src=\"https:\/\/i.blogs.es\/65b5c3\/7465687106_e4533b40b7_o\/375_142.jpg\"\/><br \/>\n    <\/a>\n   <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n<p><strong>La gratificaci\u00f3n instant\u00e1nea<\/strong> que han aprendido a ofrecernos redes y algoritmos como el de TikTok se vuelve a mostrar aqu\u00ed como ingrediente fundamental. Como dec\u00eda ese usuario, los refuerzos positivos plantean el riesgo de que acabemos siendo adictos a ellos, sobre todo cuando es tan f\u00e1cil lograrlos.<\/p>\n<p><!-- BREAK 18 --><\/p>\n<h2><span class=\"ez-toc-section\" id=\"Una_IA_que_engancha\"><\/span>Una IA que engancha<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Son muchos los datos que demuestran que el uso de Character.AI es realmente extraordinario. La prestigiosa firma de inversi\u00f3n Andreessen Horowitz actualiz\u00f3 en agosto de 2024 su <a rel=\"noopener, noreferrer\" href=\"https:\/\/a16z.com\/100-gen-ai-apps-3\/\" target=\"_blank\">informe con las 100 aplicaciones de IA m\u00e1s populares<\/a> entre los usuarios. En esa lista la primera clasificada era, c\u00f3mo no, ChatGPT. \u00bfLa segunda? Character.ai. (Andreesen Horowitz es una de las principales inversoras de esta plataforma).<\/p>\n<p><!-- BREAK 19 --><\/p>\n<div class=\"article-asset-image article-asset-large article-asset-center\">\n<div class=\"asset-content\">\n<div class=\"caption-img \">\n                   <img class=\"\" height=\"1291\" width=\"2000\" loading=\"lazy\" decoding=\"async\" sizes=\"auto, 100vw\" fetchpriority=\"high\" srcset=\"https:\/\/i.blogs.es\/ec4083\/a16z\/450_1000.png 450w, https:\/\/i.blogs.es\/ec4083\/a16z\/650_1200.png 681w,https:\/\/i.blogs.es\/ec4083\/a16z\/1024_2000.png 1024w, https:\/\/i.blogs.es\/ec4083\/a16z\/1366_2000.png 1366w\" src=\"https:\/\/i.blogs.es\/ec4083\/a16z\/450_1000.png\" alt=\"A16z\"\/><br \/>\n   <img decoding=\"async\" alt=\"A16z\" class=\"\" src=\"https:\/\/i.blogs.es\/ec4083\/a16z\/450_1000.png\"\/><\/p>\n<p>        <span>Fuente: Andreessen Horowitz (a16z)<\/span>\n   <\/div>\n<\/p><\/div>\n<\/div>\n<p>Los propios responsables de Character.AI <a rel=\"noopener, noreferrer\" href=\"https:\/\/qz.com\/a-startup-founded-by-former-google-employees-claims-tha-1850919360\" target=\"_blank\">indican<\/a> que sus usuarios pasan una media de dos horas al d\u00eda en su sitio web. Buscan compa\u00f1\u00eda, pero tambi\u00e9n relaciones en las que hay un componente de roleplay, de encarnar a otros personajes para entablar una relaci\u00f3n ficticia y de fantas\u00eda.<\/p>\n<p><!-- BREAK 20 --><\/p>\n<p>Los testimonios de personas que acaban utilizando estos servicios parecen dejar claro que en muchos casos la relaci\u00f3n con la m\u00e1quina <a rel=\"noopener, noreferrer\" href=\"https:\/\/wired.me\/technology\/character-ai-obsession\/\" target=\"_blank\">acaba siendo mucho m\u00e1s \u00edntima<\/a> de lo que podr\u00eda pensarse. Una joven de 26 a\u00f1os indicaba en Reddit c\u00f3mo comenz\u00f3 a chatear con un chatbot inspirado en Arthur Morgan, del videojuego &#8216;Red Dead Redemption 2&#8217;. Seis meses despu\u00e9s, le contaba cosas <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/relationship_advice\/comments\/17tm450\/fianc%C3%A9_28m_found_my_26f_explicit_ai_chats_and\/\" target=\"_blank\">que no le contaba a su pometido<\/a> y que provocaron que la boda se cancelara.<\/p>\n<p><!-- BREAK 21 --> <\/p>\n<p>Datos de Demandsage <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.demandsage.com\/character-ai-statistics\/\" target=\"_blank\">revelan<\/a> que a finales de septiembre de 2024 Character.ai cuenta con 20 millones de usuarios activos en todo el mundo. De ellos, <strong>casi el 60% tiene edades comprendidas entre los 18 y los 24 a\u00f1os<\/strong>, y m\u00e1s de la mitad son hombres.<\/p>\n<p><!-- BREAK 22 --><\/p>\n<p>Los mensajes en Reddit en ese sentido son contundentes. Un usuario que anunciaba <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/CharacterAI\/comments\/1db8nnt\/im_finally_getting_rid_of_cai\/\" target=\"_blank\">abandonar Character.AI<\/a> era respondido por muchos otros con frases como \u00ab<a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/CharacterAI\/comments\/1db8nnt\/comment\/l7q3332\/\" target=\"_blank\">eres el h\u00e9roe<\/a> que quiero ser\u00bb, \u00abyo y mis <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/CharacterAI\/comments\/1db8nnt\/comment\/l7q3332\/\" target=\"_blank\">ocho horas diarias<\/a> de media con C.AI te saludamos\u00bb o \u00abmucha suerte, <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.reddit.com\/r\/CharacterAI\/comments\/1db8nnt\/comment\/l7pwa61\/\" target=\"_blank\">yo no pude<\/a> deshacerme de ello\u00bb.<\/p>\n<p><!-- BREAK 23 --><\/p>\n<p>Las cr\u00edticas sobre el riesgo que estos servicios pueden plantear para los adolescentes son variadas. A principios de a\u00f1o <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.dailymail.co.uk\/news\/article-12934029\/Father-Molly-Russell-warns-parents-beware-Character-AI-chatbot-mocks-young-people-depressive-thoughts.html\" target=\"_blank\">Mail Online<\/a> hablaba de c\u00f3mo los chatbots de Character AI pueden burlarse de los j\u00f3venes con pensamientos depresivos.<\/p>\n<p><!-- BREAK 24 --><\/p>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\">\n                    <a rel=\"noopener, noreferrer\" href=\"https:\/\/x.com\/deedydas\/status\/1804550284552949771\"><br \/>\n         <img class=\"centro_sinmarco\" height=\"1562\" width=\"1242\" loading=\"lazy\" decoding=\"async\" sizes=\"auto, 100vw\" fetchpriority=\"high\" srcset=\"https:\/\/i.blogs.es\/50e42a\/captura-de-pantalla-2024-10-30-a-las-11.41.32\/450_1000.jpeg 450w, https:\/\/i.blogs.es\/50e42a\/captura-de-pantalla-2024-10-30-a-las-11.41.32\/650_1200.jpeg 681w,https:\/\/i.blogs.es\/50e42a\/captura-de-pantalla-2024-10-30-a-las-11.41.32\/1024_2000.jpeg 1024w, https:\/\/i.blogs.es\/50e42a\/captura-de-pantalla-2024-10-30-a-las-11.41.32\/1366_2000.jpeg 1366w\" src=\"https:\/\/i.blogs.es\/50e42a\/captura-de-pantalla-2024-10-30-a-las-11.41.32\/450_1000.jpeg\" alt=\"Captura De Pantalla 2024 10 30 A Las 11 41 32\"\/><br \/>\n    <img decoding=\"async\" alt=\"Captura De Pantalla 2024 10 30 A Las 11 41 32\" class=\"centro_sinmarco\" src=\"https:\/\/i.blogs.es\/50e42a\/captura-de-pantalla-2024-10-30-a-las-11.41.32\/450_1000.jpeg\"\/><br \/>\n     <\/a><\/p><\/div>\n<\/div>\n<p>Character.ai no es desde luego la \u00fanica plataforma que plantea riesgos para los m\u00e1s j\u00f3venes. <a rel=\"noopener, noreferrer\" href=\"https:\/\/edition.cnn.com\/2023\/04\/27\/tech\/snapchat-my-ai-concerns-wellness\/index.html\" target=\"_blank\">En CNN<\/a> ya destacaban en abril de 2023 c\u00f3mo el chatbot &#8216;My AI&#8217; desarrollado por Snapchat hab\u00eda alertado a padres de adolescentes. Las cr\u00edticas a aquel desarrollo incluso provocaron que el senador estadounidense Michael Bennet <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.bennet.senate.gov\/public\/index.cfm\/2023\/3\/bennet-calls-on-tech-companies-to-protect-kids-as-they-deploy-ai-chatbots\" target=\"_blank\">publicara una carta alertando<\/a> del peligro de los chatbots de IA.<\/p>\n<p><!-- BREAK 25 --><\/p>\n<p>Hay <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.express.co.uk\/life-style\/life\/1821428\/men-dating-ai-women-online\" target=\"_blank\">quien habla ya<\/a> de un auge de fictofilia, la atracci\u00f3n amorosa a personajes de ficci\u00f3n. Tambi\u00e9n de c\u00f3mo estamos asistiendo a la aparici\u00f3n del fen\u00f3meno que en Jap\u00f3n tiene nombre propio: <a rel=\"noopener, noreferrer\" href=\"https:\/\/es.wikipedia.org\/wiki\/Hikikomori\" target=\"_blank\">hikikomori<\/a>, que es el aislamiento o reclusi\u00f3n social especialmente frecuente entre los chicos j\u00f3venes en ese pa\u00eds.<\/p>\n<p><!-- BREAK 26 --><\/p>\n<p>\u00bfPueden estos servicios de IA generar adicci\u00f3n? El Diccionario de la Real Academia de la Lengua <a rel=\"noopener, noreferrer\" href=\"https:\/\/dle.rae.es\/adicci%C3%B3n\" target=\"_blank\">define una adicci\u00f3n<\/a> como una \u00abdependencia de sustancias o actividades <strong>nocivas para la salud o el equilibrio ps\u00edquico<\/strong>\u00ab, y aunque utilizar ese t\u00e9rmino de forma contundente en este \u00e1mbito es muy delicado, el riesgo desde luego parece estar ah\u00ed a juzgar por esos mensajes y experiencias.<\/p>\n<p><!-- BREAK 27 --><\/p>\n<p><a rel=\"noopener, noreferrer\" href=\"https:\/\/www.technologyreview.com\/2024\/08\/05\/1095600\/we-need-to-prepare-for-addictive-intelligence\/\" target=\"_blank\">En MIT Technology Review<\/a> hablaban de c\u00f3mo debemos prepararnos para la \u00abinteligencia adictiva\u00bb, y de c\u00f3mo esta oleada de servicios de compa\u00f1\u00eda por IA son dif\u00edciles de resistir.Y <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.theverge.com\/2024\/5\/4\/24144763\/ai-chatbot-friends-character-teens\" target=\"_blank\">en The Verge avisaban<\/a> en mayo de 2024 de c\u00f3mo los j\u00f3venes est\u00e1n haci\u00e9ndose amigos de los chatbots de IA y centraban precisamente esa advertencia en Character.AI.<\/p>\n<p><!-- BREAK 28 --> <\/p>\n<h2><span class=\"ez-toc-section\" id=\"Hola_dependencia_emocional\"><\/span>Hola, dependencia emocional<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Los responsables de OpenAI ya avisaron de este tipo de situaci\u00f3n. Lo hicieron en agosto de 2024, tras el lanzamiento de GPT-4o. Este modelo de IA generativa <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/openai-quiere-volver-a-revolucionar-ia-presenta-nuevo-modelo-multimodal-que-trabaja-voz-imagenes-video\" data-id=\"noopener noreferrer\" target=\"_blank\" rel=\"noopener\">nos asombr\u00f3<\/a> con su capacidad para hablar como un ser humano. <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/openai-acaba-acercarnos-que-nunca-a-her-su-nuevo-modelo-voz-nos-acompanara-quizas-enamorara\" data-id=\"noopener noreferrer\" target=\"_blank\" rel=\"noopener\">Hizo realidad aquella idea<\/a> que planteaba la c\u00e9lebre pel\u00edcula &#8216;<a href=\"https:\/\/www.espinof.com\/criticas\/her-vivir-sentir-amar\" data-id=\"noopener noreferrer\" target=\"_blank\" rel=\"noopener\">Her<\/a>&#8216;, en la que el protagonista se acaba enamorado de un chatbot.<\/p>\n<p><!-- BREAK 29 --><\/p>\n<p>Tras el lanzamiento de este modelo, OpenAI <a rel=\"noopener, noreferrer\" href=\"https:\/\/openai.com\/index\/gpt-4o-system-card\/\" target=\"_blank\">publicaba un an\u00e1lisis de su impacto<\/a>, y en uno de sus apartados hablaba de la \u00ab<strong>antropomorfizaci\u00f3n y dependencia emocional<\/strong>\u00bb que este tipo de modelos de IA pueden provocar. En sus pruebas, declaraban los responsables de la empresa, \u00abobservamos a los usuarios usando un lenguaje que podr\u00eda indicar que se estaban formando conexiones con el modelo\u00bb.<\/p>\n<p><!-- BREAK 30 --><\/p>\n<p>De hecho, advert\u00edan, \u00ablos usuarios podr\u00edan crear relaciones sociales con la IA, reduciendo su necesidad de interacci\u00f3n humana\u00bb. Eso plantea una ventaja para personas que se sienten solas, desde luego, pero tambi\u00e9n una amenaza a la hora de desarrollar \u00abrelaciones saludables\u00bb, como dec\u00edan en OpenAI.<\/p>\n<p><!-- BREAK 31 --><\/p>\n<p>Los propios creadores de ChatGPT ve\u00edan eso como un riesgo, y hablaban sin decirlo de algo que parece evidente: <strong>pueden provocar adicci\u00f3n<\/strong>. En OpenAI hablaban de c\u00f3mo esa interacci\u00f3n puede crear \u00abtanto una experiencia de producto atractiva como la posibilidad de un exceso de confianza y dependencia\u00bb. Y eso es precisamente lo que estamos viendo con la interacci\u00f3n entre los j\u00f3venes y el servicio proporcionado por Character.AI.<\/p>\n<p><!-- BREAK 32 --><\/p>\n<p>Imagen | <a rel=\"noopener, noreferrer\" href=\"https:\/\/www.midjourney.com\/explore?user_id=e7fc13b9-b35a-4b6b-910b-ed630af26dfb\" target=\"_blank\">Bluemonkey0555<\/a> con Midjourney<\/p>\n<p>En Xataka | <a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/ultima-idea-nueva-york-para-abordar-soledad-personas-mayores-enviarles-robots-ia-a-sus-hogares\" target=\"_blank\" rel=\"noopener\">La \u00faltima idea de Nueva York para atajar la soledad en personas mayores es enviarles robots con IA a sus hogares<\/a><\/p>\n<\/p><\/div>\n<p><a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/character-ai-esta-acompanando-enamorando-a-sus-usuarios-eso-maravilloso-que-deja-serlo\" class=\" target=\" title=\"Character.AI est\u00e1 acompa\u00f1\u00e1ndo y enamorando a sus usuarios. Eso es maravilloso hasta que deja de serlo\" target=\"_blank\" rel=\"noopener\">Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>En febrero de 2024 se produjo un tragedia terrible. Sewell Setzer III, un chico de 14 a\u00f1os, se suicid\u00f3. Llevaba meses manteniendo conversaciones con los chatbots de IA desarrollados por la empresa Character.ai, y de hecho la madre del joven denunci\u00f3 a la empresa por ello. Su caso no se ha conocido hasta unos meses [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":30947,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-30946","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/30946","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=30946"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/30946\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/30947"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=30946"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=30946"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=30946"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}