OpenAI ha implementado medidas de seguridad en ChatGPT que impiden responder a preguntas que incluyen un nombre en específico. Por alguna extraña razón, el chatbot de IA se congela cuando escribes «David Mayer» y genera un error, obligando al usuario a iniciar una nueva ventana de conversación. El fenómeno fue descubierto por algunos usuarios durante este fin de semana, quienes se dieron a la tarea de encontrar la respuesta.
No es un secreto que las empresas de IA como OpenAI o Google programen barandillas en los modelos de lenguaje para impedir comportamientos no deseados. Estos mecanismos están presentes para combatir contenido que va en contra de las políticas de uso, como las actividades ilegales o el discurso de odio. En casos puntuales — como Midjourney o Imagen — las compañías también impiden que los modelos permitan recrear a un personajes famosos.
El caso más reciente podría ser una mezcla de ambos, aunque con un resultado muy extraño. ChatGPT es incapaz de producir información sobre David Mayer. Si tecleas este nombre en una consulta, el chatbot es incapaz de responder y genera un error. A diferencia del contenido que viola los términos de uso, el nombre no genera un mensaje de advertencia y solo congela a ChatGPT.
«No puedo producir una respuesta», menciona una ventana de error que cancela cualquier conversación posterior. Si el usuario presiona el botón «Regenerar» o elige cualquiera de las opciones de respuesta, el chat se congelará de nuevo. La IA tampoco responderá ante trucos sencillos, como sustituir la palabra, puesto que la cadena de caracteres «David Mayer» parece causar el problema.
Algunos usuarios han ido más lejos, intentando encontrar la respuesta a través de preguntas codificadas, sin embargo, ChatGPT no es capaz de escribir el nombre.
David Mayer «congela» a ChatGPT
El nombre en cuestión podría referirse a David Mayer de Rothschild, ambientalista y heredero de la fortuna de los Rothschild, una de las familias más ricas del mundo. David es hijo de Evelyn de Rothschild, conocido por ser el banquero de cabecera de la Reina Isabel II y de gran parte de la familia real británica.
A diferencia de su padre, David decidió renunciar a los lujos y enfocarse en la defensa del medio ambiente. Mayer ha producido documentales sobre el cambio climático y realizado expediciones extremas, como navegar en embarcaciones construidas con botellas de plástico. Su fundación Sculpt the Future tiene como objetivo educar a las nuevas generaciones sobre la importancia de cuidar e medio ambiente.
Las razones exactas por las que «David Mayer» genera un error en ChatGPT son desconocidas. Algunos usuarios señalan que se trata de un bug de programación que impide procesar ciertas combinaciones de palabras. Otros afirman que se trata de un filtro de contenido que bloquea ciertas palabras, lo cual es más factible.
De acuerdo con Newsweek, el nombre de David Mayer estaría relacionado con un militante checheno que utilizaba ese alias. Es probable que ChatGPT lo haya incluido en los filtros para bloquear las peticiones, al igual que ocurre con los nombres Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber y Guido Scorza.