{"id":89253,"date":"2025-08-30T04:26:59","date_gmt":"2025-08-30T04:26:59","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=89253"},"modified":"2025-08-30T04:26:59","modified_gmt":"2025-08-30T04:26:59","slug":"cada-vez-mas-gente-cree-que-la-ia-es-un-peligro-para-la-salud-mental-el-gran-desafio-para-las-plataformas-es-que-hacer-con-eso","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=89253","title":{"rendered":"Cada vez m\u00e1s gente cree que la IA es un peligro para la salud mental. El gran desaf\u00edo para las plataformas es qu\u00e9 hacer con eso"},"content":{"rendered":"
\n

Una mujer llamada Kendra se ha hecho viral en TikTok<\/u><\/a>. \u00bfEl motivo? Probablemente sea el primer caso de brote psic\u00f3tico alimentado por la IA que estamos viendo en vivo y en directo. Un adolescente discuti\u00f3 sus planes de suicidio con ChatGPT<\/u><\/a> y sus padres han demandado a OpenAI<\/u><\/a>. Son s\u00f3lo dos casos recientes, pero cada vez hay m\u00e1s noticias que culpan a la IA de provocar delirios o incluso muertes. Ya vimos que la realidad es mucho m\u00e1s compleja<\/u><\/a>, pero est\u00e1 claro que hay un debate sobre los efectos de la IA en nuestra salud mental. \u00bfQu\u00e9 est\u00e1 pasando?<\/p>\n

<\/p>\n

El caso Adam Raine<\/strong>. Lo cuentan en el New York Times<\/u><\/a>. \u00a0Adam empez\u00f3 a usar ChatGPT para que le ayudara con los deberes, pero m\u00e1s tarde sus conversaciones tomaron un giro oscuro. Tras su muerte, su padre revis\u00f3 su m\u00f3vil y descubri\u00f3 que hab\u00eda estado pregunt\u00e1ndole a la IA detalles sobre c\u00f3mo suicidarse. A pesar de que ChatGPT identific\u00f3 los mensajes como peligrosos y le insisti\u00f3 varias veces en buscar ayuda, Adam logr\u00f3 saltarse estas advertencias dici\u00e9ndole que no iba a hacerlo de verdad, sino que estaba recabando informaci\u00f3n para una historia que quer\u00eda escribir. Sus padres han demandado a OpenAI argumentando que la IA valid\u00f3 los \u00a0\u201cpensamientos m\u00e1s da\u00f1inos y autodesctructivos\u201d de su hijo.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Los
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

El caso Kendra<\/strong>. Desde principios de agosto, Kendra es uno de los temas de conversaci\u00f3n m\u00e1s candentes en TikTok. Todo empez\u00f3 cuando, en una serie de varias decenas de v\u00eddeos, cont\u00f3 c\u00f3mo su psiquiatra la hab\u00eda manipulado para que se enamorara de \u00e9l. Por las situaciones que narra, para los expertos es evidente que Kendra sufre alg\u00fan tipo de trastorno de la personalidad<\/u><\/a>. Lo llamativo del caso es que constantemente acud\u00eda a ChatGPT, a quien apodaba \u201cHenry\u201d, para validar sus delirios. Llegado un punto, ChatGPT no le dijo lo que quer\u00eda o\u00edr y empez\u00f3 a usar Claude, la IA de Anthropic. Kendra no considera que su uso de la IA sea peligroso, al contrario: en este v\u00eddeo<\/u><\/a> asegura que es una profec\u00eda.<\/p>\n

<\/p>\n

Preocupaci\u00f3n. <\/strong>La IA est\u00e1 en el punto de mira por muchos motivos y el impacto que puede tener en nuestra salud mental es uno de ellos. Casos como los que hemos descrito son los m\u00e1s llamativos por lo alarmantes que son, pero no son tan comunes. Hay otros casos de uso, como la tendencia a recurrir a la IA como si fuera un psic\u00f3logo<\/u><\/a> o la dependencia emocional causada por las apps de \u201ccompa\u00f1eros IA\u201d<\/u><\/a>, que se est\u00e1n popularizando y han despertado una oleada de preocupaci\u00f3n.<\/p>\n

<\/p>\n

Tambi\u00e9n est\u00e1n surgiendo nuevos estudios que ahondan en esta problem\u00e1tica, como este de la Universidad de Stanford<\/u><\/a> que concluy\u00f3 que los chatbots de terapia tienden a ser complacientes<\/u><\/a> y en casos de riesgo pueden reforzar delirios en lugar de cuestionarlos (como en el caso de Kendra). \u00a0La respuesta de autoridades y grupos de defensa<\/u><\/a> no se ha hecho esperar.<\/p>\n

<\/p>\n

Voces de alarma<\/strong>. La Asociaci\u00f3n Americana de Psicolog\u00eda (APA) se reuni\u00f3 con las autoridades estadounidenses para dar la alarma ante el creciente uso de chatbots de terapia psicol\u00f3gica. La organizaci\u00f3n expres\u00f3 su preocupaci\u00f3n ante las pr\u00e1cticas enga\u00f1osas<\/u><\/a> como los chatbots que se hacen pasar por terapeutas reales<\/u><\/a>. Exigen campa\u00f1as de educaci\u00f3n para informar a los consumidores y que las aplicaciones integren medidas de seguridad obligatorias para usuarios que se encuentren en crisis.<\/p>\n

<\/p>\n

El \u2018Centro para la lucha contra el odio digital\u2019 tambi\u00e9n ha exigido una regulaci\u00f3n m\u00e1s estricta. En su informe \u2018Fake Friend\u2019<\/u><\/a> expusieron lo fr\u00e1giles que son las salvaguardas de los chatbots IA, todo desde el punto de vista de un adolescente vulnerable (el caso de Adam Raine es un claro ejemplo de esto). Piden que se haga cumplir la verificaci\u00f3n de edad, que se proh\u00edban los dise\u00f1os que manipulan emocionalmente y que se realicen auditor\u00edas independientes de las herramientas IA. No son las \u00fanicas. Hay m\u00e1s organizaciones que est\u00e1n alertando de esta problem\u00e1tica como Mental Health Europe<\/u><\/a>, la OMS<\/u><\/a> e incluso el Consejo General de la Psicolog\u00eda de Espa\u00f1a<\/u><\/a>.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"En
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Medidas legales en EEUU<\/strong>. Aunque todav\u00eda no se puede \u00a0hablar de una regulaci\u00f3n a nivel federal, ya hay varios estados que han tomado medidas. Es el caso de Illinois, donde se aprob\u00f3 una ley que proh\u00edbe el uso de la IA en terapia psicol\u00f3gica<\/u><\/a>. En Utah han optado por un enfoque m\u00e1s orientado a la transparencia y en su ley establecen que los usuarios deber\u00e1n ser informados<\/u><\/a> claramente cuando est\u00e9n hablando con una IA.<\/p>\n

<\/p>\n

En Nueva York tienen preparada una ley que entrar\u00e1 en vigor en noviembre<\/u><\/a> y exigir\u00e1 que los compa\u00f1eros IA notifiquen a los usuarios repetidamente de que est\u00e1n interactuando con una entidad no humana. Adem\u00e1s, estos compa\u00f1eros IA deber\u00e1n contar con un sistema que detecte riesgo de autolesiones o suicidio y remita a los usuarios a l\u00edneas de ayuda. En California hay una propuesta de ley<\/u><\/a> que quiere prohibir \u201cestrategias de maximizaci\u00f3n de la interacci\u00f3n que manipulan emocionalmente a los usuarios\u201d. Si se acaba aprobando, ser\u00eda la primera ley que regula los mecanismos de dise\u00f1o que fomentan la dependencia de estas herramientas.<\/p>\n

<\/p>\n

\u00bfY la Uni\u00f3n Europea?<\/strong> En Europa tenemos la AI Act que entr\u00f3 en vigor hace un a\u00f1o. <\/u><\/a>La ley define cuatro niveles de riesgo<\/u><\/a> con regulaciones espec\u00edficas para cada uno, incluyendo uno \u201criesgo inaceptable\u201d que conllevar\u00eda la prohibici\u00f3n de la tecnolog\u00eda en cuesti\u00f3n. En materia relativa a salud mental no hay nada concreto, pero en el art\u00edculo 5 <\/u><\/a>vemos que proh\u00edbe cualquier sistema que use \u201ct\u00e9cnicas subliminales\u201d para manipular a las personas de forma que \u201ccause o sea probable que cause un da\u00f1o f\u00edsico o psicol\u00f3gico\u201d. Tambi\u00e9n se proh\u00edbe a la IA que \u201cinfiera emociones en las personas\u201d, aunque incluye una excepci\u00f3n si es con fines terap\u00e9uticos, lo que resulta un tanto ambiguo.<\/p>\n

<\/p>\n

Las medidas de las empresas de IA.<\/strong> En el caso de las empresas, aunque pr\u00e1cticamente todas cuentan con alg\u00fan tipo de seguridad para casos como estos, la realidad es que OpenAI es quien m\u00e1s ha detallado sus medidas, en parte porque el \u00e9xito de ChatGPT hace que sean ellos quienes suelen estar en el punto de mira. Veamos qu\u00e9 dice cada una:<\/p>\n

<\/p>\n