El CSO (Chief Scientist Officer) de OpenAI, Ilya Sutskever, encargó una efigie de madera que representara una IA que no cumplía con los objetivos de la humanidad. Le dijo "IA no-alineada" y le prendió fuego para ilustrar la misión fundacional de OpenAI: la llegada de una inteligencia artificial fuerte que fuera buena. AGI en inglés: Artificial General Intelligence, una IA hipotética que puede equiparar la humana.
Karen Hao y Charle Warzel explican al artículo Inside the Chaos at OpenAI, publicado en The Atlantic, que Sutskever empezó a comportarse cómo un líder espiritual dentro de OpenAI. A menudo repetía, con entusiasmo, "¡Escuchad el AGI!, ¡Escuchad el AGI!". Se convirtió en un lema y los empleados crearon un emoji para expresarlo en el Slack.
Después de quemar la efigie que representaba la IA no-alineada, el mes de julio de 2023 OpenAI anunciaba la creación del Superalignment Team, liderado por Sutskever. Su misión era aumentar el desarrollo de la seguridad y prepararse para la posibilidad de la llegada de la AGI esta década. De repente lo entendí todo, al leer la madrugada del lunes estos detalles en el extenso artículo acabado de publicar en The Atlantic.
Religión es una palabra a menudo asociada con el latín 'religare', que significa religar o unir de nuevo
Habíamos pasado el fin de semana pidiéndonos qué pasaba, en OpenIA, después de ver el despido drástico de Sam Altman y la dimisión de Greg Brockman. Lo había provocado un consejo de administración (board) aparentemente liderado por Sutskever. Mirando de entenderlo, usábamos el talante de las startups. Pero no era este, el ideario; había que leerlo en clave religiosa.
Religión es una palabra a menudo asociada con el latín religare, que significa religar o unir de nuevo. La religión actúa cómo un vínculo o una conexión entre los humanos y una entidad superior o un orden cósmico. El orden cósmico era la visión original de OpenAI, que tenía la misión de conectar los humanos con la llegada inminente de una entidad superior: el AGI. Otra interpretación vincula religión con el latín relegere, que significa considerar con atención para mantener la reverencia y el respeto hacia las prácticas y creencias sagradas. La semana pasada, el consejo directivo de OpenAI encontró que hacía falta relegere la visión y la misión original de OpenAI.
La fundación de OpenAI
El 11 de diciembre de 2015, Brockman y Sutskever presentaban OpenAI, en la página web de la casa, cómo una empresa de investigación en inteligencia artificial sin ánimo de lucro. "Nuestro objetivo es avanzar en la inteligencia digital de la manera que sea más probable que beneficie la humanidad en conjunto, sin estar limitados por la necesidad de generar un regreso financiero. Cómo que nuestra investigación está libre de obligaciones financieras, podemos centrarnos mejor en un impacto humano positivo".
Brockman sería el presidente de OpenAI y Sutskever el director de investigación. En la fundación también había Elon Musk y Sam Altman entre otros —no os aburriré con detalles que encontraréis en suficientes lugares. Altman era el copresidente y Musk tenía dinero, popularidad, influencia y la visión: estaba preocupado por el adelanto de la IA sin tener cuidado con la seguridad y la ética.
Steve Mollman recuerda, en un artículo para Yahoo Finance, que Elon Musk explicó que conseguir a Sutskever para OpenIA el 2015 "fue una de las batallas de reclutamiento más duras que he tenido, pero esto fue realmente el punto clave para que OpenAI tuviera éxito". Musk había discutido con Larry Page, fundador de Google. Musk encontraba que Page no prestaba atención por la seguridad de la IA. La compra de DeepMind, el 2014, le molestó porque Google acaparaba dos tercios de todos los investigadores de IA del mundo. Sutskever tenía que fichar por DeepMind, pero Musk lo convenció de que no, porque es "un buen humano, inteligente, de buen corazón".
El lunes después del trueno en OpenAI, el 20 de noviembre de 2023, Elon Musk publicaba un tuit diciendo que estaba muy preocupado, porque Sutskever 'tiene una buena moral, no busca poder y no tomaría una acción tan drástica salvo que creyera que es absolutamente necesaria'. Se refería al despido fulminante del CEO de OpenAI, Sam Altman.
Y am very worried.
— Elon Musk (@elonmusk) November 19, 2023
Ilya has a good moral compass and does not seek power.
He would not take such drastic action unless he felt it was absolutely necessary.
OpenAI LP
Retrocedemos un poco, no mucho: otro día 11, esta vez de marzo y de 2019, Brockman y Sutskever, anunciaban OpenAI LP, una nueva empresa de "beneficios limitados" en vez de "sin lucro". Serviría para conseguir inversión en vez de donaciones. Podrían contratar talento y comprar capacidad de computación. Actualizaban la misión: crear un AGI segura y compartir los beneficios con la humanidad.
Hacían falta mucho dinero, claro, pero los inversores tendrían "beneficios limitados" en vez de los beneficios infinitos clásicos. Microsoft entró con 1.000 millones —y después más. También se añadirían inversores individuales y corporativos.
La inversión haría posible acelerar la misión de OpenAI, pero también ayudó mucho un artículo científico, publicado el 2017 por Ashish Vaswani, del equipo de investigación de Google. Vaswani —y colaboradores— introdujeron el concepto de Transformers, que cambiaría cómo se hacían los modelos de lenguaje. El mecanismo de atención de los Transformers —que da título al estudio— permite que el modelo de lenguaje ponga el foco en diferentes partes de la entrada, escrita por humanos, para encontrar el contexto. En lugar de depender únicamente de la posición secuencial de las palabras, el mecanismo de atención da al modelo la flexibilidad necesaria para aprender relaciones complejas y sutilezas del lenguaje. El resultado fue el desarrollo del GPT (Generative Pre-trainer Transformer) de OpenAI y en Google el BERT (Bidirectional Encoder Representations from Transformers).
En Google se encantaron, con el BERT, pero OpenAI incorporó el espíritu dinámico de la emprendeduría y las startups. Pasó contratando a tiempo completo el cofundador Sam Altman, presidente de la mayor aceleradora e incubadora de startups del mundo: Y Combinator. Sería el nuevo CEO de OpenAI y de su variante LP de "beneficios limitados". Pasaba el marzo de 2019 y poco después, en verano, Altman consigue los primeros 1.000 millones de Microsoft. Servirán de combustible para crear ChatGPT.
El último año menos diez días
Hao y Warzel explican, en el mencionado artículo Inside the Chaos at OpenAI, cómo la dinámica startup provocaría el caos. Todo ello empezó con la presentación del ChatGPT el 30 de noviembre de 2022. Por cierto, Hao ha explicado que el artículo para The Atlantic es una pieza del libro que está escribiendo sobre OpenAI.
Now is probably the time tono announce that Y'viene been writing a book about @OpenAI, the AY industry & its impacts. Here is a slice of my book reporting, combined with reporting from the inimitable @cwarzel. Inside the year of chaos that led tono this weekend. https://t.co/6srzvhhdly
— Karen Hao 郝珂灵 (@_KarenHao) November 20, 2023
Altman estaba en su salsa de emprendedor después de presidir Y Combinator y ver muchas startups de éxito desde muy cerca. Tanto que hizo el Product-Market-Fit (PMF) y Go-To-Market (GTM) startupero más espectacular nunca visto.
El PMF consiste a encontrar la necesidad de mercado. El ChatGPT surgió en medio de una creciente demanda de herramientas de procesamiento de lenguaje. El corrector de los editores de texto nunca fue bien visto en ninguna parte. Presentar el ChatGPT en abierto permitió ver los errores y corregirlos. Hubo un efecto eureka mundial, y en un tiempo récord se convertía en una herramienta universal útil para casi todos los oficios. Fue un PMF similar al del fuego, la rueda o el libro; cosas que llegan para quedarse. Lo tuve muy claro cuando vi que algunos usuarios le ponían nombre. Sí, como las mascotas.
Presentar el ChatGPT en abierto permitió ver los errores y corregirlos
El GTM no fue menos colosal: en menos de un año hemos visto la IA basada en ChatGPT aplicada a productos tan extendidos como los offices. El software que mueve las empresas más ágiles hizo mucha vía al incorporar el ChatGPT: Slack, Figma, Notion, Canva, GitHub, Zoom, etc... Todo ello fue posible gracias a una buena política de distribución: las API a partir del 1 de marzo de 2023. Y el boca-oreja de millones de personas que, de golpe —no ha pasado ni un año— descubrían una herramienta universal para resolver multitud de problemas complejos y aumentar la productividad.
No hablo de oído. En un taller reciente en Lanzadera —la mayor aceleradora de startups en España— nos sugirieron que usáramos ChatGPT para la creación y validación de productos simulando perfiles de clientes. Lo probé para nuestra startup y fue espectacular —siempre que no te engañes a ti mismo, claro. Explicar nuestros planes en el ChatGPT ha tenido, para nosotros, efectos absolutamente rompedores. Es difícil encontrar mentores mejores —vuelvo a decir que no hablo de oído; he hecho de mentor y he asistido a un par de formaciones para mentores.
El pecado
El Product-Market-Fit (PMF) y Go-To-Market (GTM) más espectaculares nunca vistos habrán sido el pecado de Sam Altman. Y claro, el pasado fin de semana nadie entendía por qué. Nadie pensaba en la palabra pecado, pero había que incorporarla al relato para entender qué había pasado.
Altman había dirigido OpenIA hacia la dirección opuesta, "ampliando y empeorando las fracturas ideológicas ya presentes", explican Hao y Warzel en The Atlantic. "ChatGPT aumentó la carrera para crear productos con beneficio y la presión sin precedente sobre la infraestructura de la empresa y sobre quienes tenían que evaluar los riesgos de la tecnología", esto es, el Superalignment Team, que surgió después de quemar la efigie que representaba 'la IA no-alineada'.
Mira tú. A partir de aquí todo es fácil de entender.
Fin de semana del 18 de noviembre
Viernes 17, a última hora en Europa, leímos una comunicación excepcionalmente agresiva para explicar el despido de un CEO. Acusarlo de esconder cosas al board es grave. Tanto que la historia puede acabar en los tribunales. Pero claro, no era exactamente un problema de transparencia, sino de no aceptar el pecado. La religión es muy dura, expulsando gente que no muestra arrepentimiento.
A continuación nos sorprendió que el principal inversor, Microsoft, no supiera nada del despido hasta el minuto antes de publicarlo. El resto de inversores lo supo por las redes sociales. Es una situación inverosímil desde el punto de vista empresarial, pero no del religioso. Los inversores eran parte del pecado de Altman, y no merecían más consideración que los mercaderes que Jesucristo expulsó del templo. Bien, en realidad el board de OpenAI no los expulsaba explícitamente, pero quedarían fuera; todo el mundo sabía que eran allí por la capacidad de ejecución del CEO, Altman.
Los inversores eran parte del pecado de Altman
La sorpresa recuerda el meme basado en un gag de los Monty Python: "Nobody expects the Spanish Inquisition". No lo esperaba Galileo Galilei, para no renegar del heliocentrismo, ni tampoco lo esperaban Altman ni Brockman después de no renegar su estrategia que, según el board, era contraria a la visión y misión de OpenAI para gestionar la llegada de la AGI a la humanidad. Decidle inquisición, decidle Superalignment Team.
¿Y ahora?
Tengo que parar de escribir en algún momento mientras los acontecimientos siguen su curso a un ritmo frenético. No puede ser de otro modo; son momentos históricos. Satya Nadella, el CEO de Microsoft, acaba de contratar Altman y Brockman para continuar con su proyecto sin interferencias. Lo ha sabido hacer muy bien con GitHub. Tanto, que nos lo hemos repensado incluso los defensores del software libre más críticos —muy crítico— con la Microsoft de Ballmer.
Casi 700 de los 800 empleados de OpenAI dicen que se irán. Microsoft ha dicho que son bienvenidos. No tengo ninguna duda; en Redmond acaban de conseguir gratis una empresa valorada en 80.000 millones en solo un año. Su inversión de más de 13.000 millones en OpenAI ya tenía retorno con los productos Microsoft AY que han presentado. Será el proceso M&A (Mergers & Adquisitions) más redondo de la historia en una cosa tan complicada cómo es fichar el mejor talento mundial en IA.
Casi 700 de los 800 empleados de OpenAI dicen que se irán
Por supuesto, Nadella ha dicho que ayudará todo el mundo, a OpenAI también. Le sobran incentivos. Todo el mundo, en la industria digital, ahora mismo querría ser Nadella. Sabemos cómo lo está gestionando Altman, Brockman y Nadella. ¿Qué hará OpenAI? Dios proveerá. Son sus tradiciones y hay que respetarlas.