{"id":2920,"date":"2024-05-20T01:45:42","date_gmt":"2024-05-20T01:45:42","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/tecnologia\/openai-pierde-a-una-figura-clave-de-su-equipo-de-seguridad\/"},"modified":"2024-05-20T01:45:42","modified_gmt":"2024-05-20T01:45:42","slug":"openai-pierde-a-una-figura-clave-de-su-equipo-de-seguridad","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=2920","title":{"rendered":"OpenAI pierde a una figura clave de su equipo de seguridad"},"content":{"rendered":"
\n

OpenAI<\/strong> est\u00e1 cerrando una semana con varias novedades, aunque no todas han sido gratas. Tras el anuncio de GPT-4o<\/a>, la compa\u00f1\u00eda sufri\u00f3 el alejamiento<\/a> de Ilya Sutskever<\/strong>, exjefe cient\u00edfico de la startup, y de otros investigadores clave.<\/p>\n

Este viernes se oficializ\u00f3 la salida de Jan Leike<\/strong>, quien lideraba el equipo de OpenAI que analizaba los riesgos a largo plazo de la IA. La noticia se conoci\u00f3 a trav\u00e9s de un extenso hilo publicado por el susodicho en X (Twitter)<\/a>, poco despu\u00e9s de que Wired<\/a><\/em> reportara que el citado equipo de seguridad hab\u00eda sido desmantelado.<\/p>\n

El grupo en cuesti\u00f3n, conocido como \u00abequipo de superalineaci\u00f3n\u00bb, estaba bajo la conducci\u00f3n de Leike desde su conformaci\u00f3n en julio de 2023. Sin embargo, el experto llevaba unos tres a\u00f1os como parte de OpenAI. En el anuncio de su dimisi\u00f3n, el investigador expuso sus diferencias con la directiva de la startup liderada por Sam Altman. Argument\u00f3 que la compa\u00f1\u00eda ha optado por un rumbo priorizando el lanzamiento de nuevos productos, en detrimento de la seguridad<\/strong>.<\/p>\n

\u00abMe un\u00ed porque pens\u00e9 que OpenAI ser\u00eda el mejor lugar del mundo para realizar esta investigaci\u00f3n. Sin embargo, he estado en desacuerdo con el liderazgo de OpenAI sobre las prioridades centrales de la compa\u00f1\u00eda durante bastante tiempo, hasta que finalmente llegamos a un punto de quiebre\u00bb, indic\u00f3 Leike; y agreg\u00f3: \u00abCreo que se deber\u00eda destinar mucho m\u00e1s de nuestro ancho de banda en prepararnos para las pr\u00f3ximas generaciones de modelos en materia de seguridad, monitoreo, preparaci\u00f3n, protecci\u00f3n, solidez adversarial, (super)alineaci\u00f3n, confidencialidad, impacto social y temas relacionados. Es bastante dif\u00edcil solucionar estos problemas y me preocupa que no estemos en el camino correcto para llegar all\u00ed\u00bb.<\/p>\n

\n
\n
\n

I believe much more of our bandwidth should be spent getting ready for the next generations of models, on security, monitoring, preparedness, safety, adversarial robustness, (super)alignment, confidentiality, societal impact, and related topics.<\/p>\n

\u2014 Jan Leike (@janleike) May 17, 2024<\/a><\/p><\/blockquote>\n<\/div>\n<\/figure>\n

Pero Leike no se detuvo all\u00ed. El investigador dijo que su equipo se vio obligado a navegar contra la corriente en los \u00faltimos meses, padeciendo incluso la escasez del poder de c\u00f3mputo necesario para llevar a cabo sus investigaciones. Y lanz\u00f3 un dardo contra Sam Altman y compa\u00f1\u00eda: \u00abEn los \u00faltimos a\u00f1os, la cultura y los procesos de seguridad han quedado en segundo plano frente a los productos brillantes\u00bb<\/strong>.<\/p>\n

\n
\n

Tabla de Contenido<\/p>\nToggle<\/span><\/path><\/svg><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n