Un adolescente ha sido arrestado en Estados Unidos por mantener una conversación con ChatGPT. No una cualquiera: esta persona le pedía a la IA consejos para acabar con la vida de su amigo, algo que hizo saltar las alarmas y hacer que todo el mundo se pregunte lo mismo. ¿Las conversaciones con el chatbot son realmente privadas? ¿Nadie más tiene acceso? ¿Si le pregunto algo ilegal podría acabar teniendo problemas?
Pues, a pesar de que son preguntas complejas, la respuesta parece ir en un solo sentido: ChatGPT no es tan privado como piensas. La naturalidad con la que la IA habla y te contesta puede emular a una conversación totalmente secreta entre dos personas, pero la realidad es diferente: se trata de un software al que no solo tú tienes acceso.
Lo curioso es, que el caso del adolescente arrestado tiene poco que ver con la privacidad de ChatGPT, pero ha sido motivo suficiente para despertar las dudas de muchos. La conversación fue filtrada por un software de gestión que tenía en el portátil del instituto y no por OpenAI, pero el debate está servido y las preguntas no paran de llegar.
¿Lo que hablas con ChatGPT queda entre el chatbot y tú?
Mucha gente piensa que las conversaciones con ChatGPT se almacenan de forma segura. Esto es bastante cierto y OpenAI tiene medidas de seguridad avanzadas, pero estas se centran en que nadie externo pueda acceder a tus chats e historiales. La propia compañía sí puede hacerlo, y así lo reflejan sus propios términos y condiciones del servicio.
De hecho, hay una cita muy reveladora en sus términos y condiciones del servicio: «May be reviewed only to monitor for abuse». OpenAI deja claro que puede revisar algunas conversaciones con ChatGPT para detectar violaciones de sus términos o algún tipo de abuso.
«We retain certain data from your interactions with us.». También deja claro que almacena tus datos, los prompts que has utilizado, el contenido multimedia que has subido a la plataforma y tu información personal. Y, sabiendo que un revisor humano puede ver tus conversaciones, queda bastante claro que lo que hablas con ChatGPT no es cosa del chatbot y tú.
¿Te puede pasar factura lo que hables con la IA?
Sabiendo que las conversaciones no son totalmente privadas y que OpenAI puede acceder a todo lo que subes y escribes en la app, es normal que muchos se estén preguntando si esto podría traer consecuencias legales.
La naturalidad y humanización de ChatGPT puede inducir a contarle cosas o hablarle de hipotéticos casos sin temor a que nadie se entere, pero ya hemos visto que sus términos y condiciones no respaldan una conversación totalmente privada. Entonces, ¿la IA podría traicionarte y delatarte?
Bueno, le he preguntado directamente a ChatGPT. La verdad es que las respuestas son bastante curiosas, pues si bien la IA comenta que no puede contactar con la policía para delatarte, sí que deja claro que no es buena idea que comentes cosas ilegales con ella. ¿El motivo? OpenAI puede revisar el contenido.
No tengo capacidad para contactar a la policía ni a terceros. (OpenAI)
OpenAI puede retener y revisar contenido, no es buena idea escribir confesiones de delitos reales o planes concretos aquí. Además, si en la conversación hay amenazas creíbles de daño inminente o indicios de riesgo serio para alguien, las plataformas y proveedores tienen políticas de seguridad; eso puede conllevar revisiones internas. (OpenAI)
Respuestas de ChatGPT a la pregunta: Si hablo contigo sobre cómo cometer un delito, ¿esto podría verlo OpenAI o hacer que salte algún tipo de alarma que me ocasione problemas?
Es decir, que si comentas algo ilegal con ChatGPT, la propia IA no te delatará a la policía ni a OpenAI, pero la compañía sí tiene la capacidad de aplicar filtros para revisar conversaciones donde se traten temas ilegales o prohibidos. Si le preguntas constantemente a la IA cómo fabricar explosivos, por poner un ejemplo, puede que tu historial pase a algún tipo de lista de revisión humana.
Y es justo ahí donde puedes empezar a tener problemas. Por ahora no se ha publicado ningún caso donde ChatGPT haya servido de chivo expiatorio, pero no parece buena idea comentar cosas ilegales con él, ni siquiera en un tono de broma.