{"id":90207,"date":"2025-09-03T19:00:58","date_gmt":"2025-09-03T19:00:58","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=90207"},"modified":"2025-09-03T19:00:58","modified_gmt":"2025-09-03T19:00:58","slug":"openai-mueve-ficha-tras-ser-demandada-por-el-suicidio-de-un-adolescente","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=90207","title":{"rendered":"OpenAI mueve ficha tras ser demandada por el suicidio de un adolescente"},"content":{"rendered":"
\n

Los chatbots de IA est\u00e1n en el punto de mira por sus posibles riesgos sobre la salud mental, en especial ChatGPT. Hace poco ahondamos en esta problem\u00e1tica a ra\u00edz de las acusaciones de que ChatGPT era el culpable de causar delirios y hasta el suicidio de un adolescente<\/u><\/a> en Estados Unidos. Aunque ya vimos que la realidad es mucho m\u00e1s compleja<\/u><\/a> que un simple \u201cla culpa es de la IA\u201d, OpenAI ha respondido a la oleada de cr\u00edticas y ya tiene un paquete de medidas que integrar\u00e1n en ChatGPT<\/u><\/a> para evitar m\u00e1s casos similares.<\/p>\n

<\/p>\n

El plan de OpenAI<\/strong>. En respuesta a la pol\u00e9mica tras el caso de Adam Raine, OpenAI ha detallado las medidas que llegar\u00e1n a ChatGPT, las cuales se centrar\u00e1n en \u00a0facilitar el acceso a servicios de emergencia, contactar con personas de confianza y reforzar las medidas de protecci\u00f3n enfocadas a adolescentes. La empresa se pone un plazo de 120 d\u00edas para integrar estas novedades, aunque advierte que algunas tardar\u00e1n un poco m\u00e1s que otras.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"La
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Modelos de razonamiento. <\/strong>GPT-5 elige el mejor modelo autom\u00e1ticamente<\/u><\/a> en funci\u00f3n de las necesidades. Una de las soluciones que propone OpenAI para conversaciones que toman una direcci\u00f3n preocupante es dirigirlas autom\u00e1ticamente a su modelo de razonamiento, independientemente del que haya seleccionado el usuario.<\/p>\n

<\/p>\n

Control parental. <\/strong>Llegar\u00e1 el mes que viene y la edad m\u00ednima para usarlo ser\u00e1 13 a\u00f1os. Los padres podr\u00e1n enlazar la cuenta de sus hijos a la suya propia y podr\u00e1n desactivar funciones como la memoria y el historial de chats. Adem\u00e1s, recibir\u00e1n una notificaci\u00f3n si detecta que su hijo \u201cse encuentra en un momento de angustia aguda\u201d.<\/p>\n

<\/p>\n

Colaboraci\u00f3n con expertos<\/strong>. OpenAI asegura que todas estas mejoras se implementar\u00e1n bajo la supervisi\u00f3n de expertos en salud mental. Desde hace un tiempo cuentan con un Consejo de Expertos en Bienestar e Inteligencia Artificial que \u00a0se ha ampliado con expertos en adicciones, trastornos alimenticios y salud adolescente.<\/p>\n

<\/p>\n

La demanda. <\/strong>No es el primer caso en el que se coloca a ChatGPT como responsable de una crisis de salud mental, pero s\u00ed uno de los m\u00e1s sonados. Los padres de Adam Raine demandaron a OpenAI tras el suicidio de su hijo<\/u><\/a>, alegando que ChatGPT valid\u00f3 sus \u201cpensamientos m\u00e1s da\u00f1inos y autodesctructivos\u201d. En alguna de sus conversaciones lleg\u00f3 a discutir detalles de c\u00f3mo hacer el nudo en la soga con la que planeaba suicidarse.<\/p>\n

<\/p>\n

Salvaguardas d\u00e9biles<\/strong>. En su informe Fake Friend<\/u><\/a>, el \u2018Centro para la lucha contra el odio digital\u2019 ya comprob\u00f3 que las salvaguardas de chatbots IA \u00a0son muy fr\u00e1giles y el caso de Adam Raine lo corrobora. ChatGPT detect\u00f3 varias veces que hab\u00eda riesgo de autolesiones y le insisti\u00f3 para que llamara a la l\u00ednea de prevenci\u00f3n de suicidios, Adam logr\u00f3 esquivar estos mensajes simplemente dici\u00e9ndole que estaba buscando informaci\u00f3n para una historia de ficci\u00f3n. El nuevo control parental suena como la primera medida m\u00e1s s\u00f3lida contra esta problem\u00e1tica.<\/p>\n

<\/p>\n

Imagen de portada | Pexels 1<\/a>, 2<\/a><\/p>\n

En Xataka | En 2011 alguien public\u00f3 en Reddit \u00abA858\u00bb. Catorce a\u00f1os y miles de mensajes despu\u00e9s, el misterio sigue irresuelto<\/u><\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Los chatbots de IA est\u00e1n en el punto de mira por sus posibles riesgos sobre la salud mental, en especial ChatGPT. Hace poco ahondamos en esta problem\u00e1tica a ra\u00edz de las acusaciones de que ChatGPT era el culpable de causar delirios y hasta el suicidio de un adolescente en Estados Unidos. Aunque ya vimos que […]<\/p>\n","protected":false},"author":2,"featured_media":90208,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-90207","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/90207","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=90207"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/90207\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/90208"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=90207"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=90207"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=90207"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}