{"id":29276,"date":"2024-10-24T21:20:31","date_gmt":"2024-10-24T21:20:31","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/que-sabemos-y-que-no-sobre-la-primera-denuncia-a-una-ia-por-provocar-un-suicidio\/"},"modified":"2024-10-24T21:20:31","modified_gmt":"2024-10-24T21:20:31","slug":"que-sabemos-y-que-no-sobre-la-primera-denuncia-a-una-ia-por-provocar-un-suicidio","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=29276","title":{"rendered":"Qu\u00e9 sabemos y qu\u00e9 no sobre la primera denuncia a una IA por provocar un suicidio"},"content":{"rendered":"
\n

Megan Garcia ha denunciado a Character.AI<\/a> a ra\u00edz del suicidio de su hijo de 14 a\u00f1os, Sewell Setzer III, el pasado 28 de febrero. Seg\u00fan se describe en la propia demanda<\/a>, el ni\u00f1o llevaba meses hablando intensamente con varios personajes creados por inteligencia artificial basados en Juego de Tronos. Sus \u00faltimos mensajes, segundos antes de dispararse en la cabeza, fueron hacia un chatbot de Daenerys Targaryen, con el que llevaba casi un a\u00f1o conversando.<\/p>\n

<\/p>\n

Cu\u00e1l es la acusaci\u00f3n. <\/strong>La madre del menor fallecido ha demandado a Character.AI, as\u00ed como de manera particular a sus fundadores Noam Shazeer<\/a> y Daniel De Freitas<\/a>, adem\u00e1s de a Google, empresa para la que ahora trabajan los dos fundadores desde agosto de este a\u00f1o<\/a>.<\/p>\n

<\/p>\n

Entre los delitos que se intentan imputar est\u00e1 \u00abresponsabilidad estricta por el producto, negligencia per se, negligencia, muerte por negligencia, p\u00e9rdida del consorcio filial, enriquecimiento injusto, da\u00f1os intencionados de angustia emocional y violaci\u00f3n de la Ley de Pr\u00e1cticas Comerciales Enga\u00f1osas y Desleales de Florida\u00bb.<\/p>\n

<\/p>\n

M\u00faltiples acusaciones que giran alrededor de la idea defendida por Megan Garcia de que esta plataforma de chatbots con IA es \u00abil\u00f3gicamente peligrosa\u201d y que \u00abcarec\u00eda de las salvaguardas de seguridad necesarias\u00bb pese a que se comercializaba para menores.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"La
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Sewell era consciente que eran bots.<\/strong> Seg\u00fan describe New York Times<\/a>, pese a que Sewell llamaba cari\u00f1osamente \u00abDany\u00bb al chatbot, este era consciente de que se trataba de un chatbot y que las respuestas estaban producidas por un algoritmo. No obstante, los chats del fallecido muestran que muchas conversaciones tuvieron un fuerte componente emocional, e incluso rom\u00e1ntico y sexual.<\/p>\n

<\/p>\n

Seg\u00fan apunta la acusaci\u00f3n, Character.AI es una plataforma donde algunos chatbots ofrecen terapia psicol\u00f3gica supuestamente con licencia, como es el caso del chatbot ‘Therapist’. Un chat utilizado a fecha de agosto m\u00e1s de 27 millones de veces, entre otros por el propio Sewell.<\/p>\n

<\/p>\n

Es un caso concreto de un chatbot ilegal seg\u00fan las normas de la propia Character.AI, pero particularmente peligroso. Seg\u00fan la acusaci\u00f3n, el mensaje de \u00abRecuerda: \u00a1Todo lo que dicen los personajes es inventado!\u00bb es insuficiente y no constituye una advertencia efectiva.<\/p>\n

<\/p>\n

Cu\u00e1l ha sido la respuesta de Character.AI. <\/strong>En un comunicado<\/a>, desde Character.AI han expresado sus condolencias a la familia y han anunciado distintos cambios orientados a proteger a los menores de 18 a\u00f1os:<\/p>\n

<\/p>\n

Cambios en nuestros modelos para menores de 18 a\u00f1os dise\u00f1ados para reducir la probabilidad de encontrar contenido sensible o sugerente.<\/p><\/blockquote>\n

Detecci\u00f3n, respuesta e intervenci\u00f3n mejoradas relacionadas con las entradas de los usuarios que violan nuestros T\u00e9rminos o Pautas de la comunidad.<\/p><\/blockquote>\n

Un aviso legal revisado en cada chat para recordarles a los usuarios que la IA no es una persona real.<\/p><\/blockquote>\n

Notificaci\u00f3n cuando un usuario ha pasado una sesi\u00f3n de una hora en la plataforma con flexibilidad adicional para el usuario en proceso.<\/p><\/blockquote>\n

Adicionalmente, desde la compa\u00f1\u00eda de IA explican que proactivamente van eliminando los chatbots que incumplen sus condiciones de uso y que cumplen con la legislaci\u00f3n estadounidense actual al respecto, la Ley de Derechos de Autor de la Era Digital (DMCA<\/a>).<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Cuidado
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

No es el primer suicidio que se vincula con el uso de la IA. <\/strong>El caso de Sewell es el primero que llega a los tribunales, pero no es el primer suicidio que se vincula con el uso de los chatbots con IA. En 2023, un ciudadano belga se quit\u00f3 la vida despu\u00e9s de chatear con Chai<\/a>.<\/p>\n

<\/p>\n

\u00abSi no fuera por el \u2018chatbot\u2019, \u00e9l todav\u00eda estar\u00eda aqu\u00ed\u00bb, expresaba la mujer del fallecido entonces. Sin embargo, la relaci\u00f3n causa-efecto es muy dif\u00edcil de determinar. En el caso de Sewell, el menor ya hab\u00eda sido diagnosticado con trastornos mentales previamente de peque\u00f1o.<\/p>\n

<\/p>\n

\u00bfPuede tener responsabilidad la IA sobre el suicido? <\/strong>Seg\u00fan apuntaba Bernardo del Rosal en Confilegal<\/a>: \u00abEl C\u00f3digo Penal castiga la inducci\u00f3n al suicidio, pero se exige que se pruebe que la idea no se hab\u00eda presentado antes en la v\u00edctima y que amanece por primera vez gracias a esta interacci\u00f3n a trav\u00e9s de la palabra, sugerencias o actitudes\u00bb.<\/p>\n

<\/p>\n

Es decir, para que pudiera haber una responsabilidad hacia la IA y la empresa, tendr\u00eda que existir una l\u00ednea de c\u00f3digo concreto que \u00abdenote expl\u00edcitamente la intenci\u00f3n de inducir al suicidio\u00bb.<\/p>\n

<\/p>\n

Imagen | Mali desha<\/a> | Megan Garcia<\/p>\n

En Xataka | Ni TikTok ni Instagram hasta los 16 a\u00f1os: Espa\u00f1a subir\u00e1 en dos a\u00f1os la edad m\u00ednima para registrarse en redes sociales<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Megan Garcia ha denunciado a Character.AI a ra\u00edz del suicidio de su hijo de 14 a\u00f1os, Sewell Setzer III, el pasado 28 de febrero. Seg\u00fan se describe en la propia demanda, el ni\u00f1o llevaba meses hablando intensamente con varios personajes creados por inteligencia artificial basados en Juego de Tronos. Sus \u00faltimos mensajes, segundos antes de […]<\/p>\n","protected":false},"author":2,"featured_media":29277,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-29276","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/29276","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=29276"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/29276\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/29277"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=29276"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=29276"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=29276"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}