El CSO (Chief Scientist Officer) d’OpenAI, Ilya Sutskever, va encarregar una efígie de fusta que representés una IA que no complia amb els objectius de la humanitat. Li va dir “IA no-alineada” i li va calar foc per a il·lustrar la missió fundacional d’OpenAI: l’arribada d’una intel·ligència artificial forta que fos bona. AGI en anglès: Artificial General Intelligence, una IA hipotètica que pot equiparar la humana.
Karen Hao i Charle Warzel expliquen a l’article Inside the Chaos at OpenAI, publicat a The Atlantic, que Sutskever va començar a comportar-se com un líder espiritual dins OpenAI. Sovint repetia, amb entusiasme, “sentiu l’AGI!, sentiu l’AGI!”. Es va convertir en un lema i els empleats van crear un emoji per a expressar-ho a l’Slack.
Després de cremar l’efígie que representava la IA no-alineada, el mes de juliol de 2023 OpenAI anunciava la creació del Superalignment Team, liderat per Sutskever. La seva missió era augmentar el desenvolupament de la seguretat i preparar-se per a la possibilitat de l’arribada de l’AGI aquesta dècada. De cop i volta ho vaig entendre tot, en llegir la matinada de dilluns aquests detalls a l’extens article acabat de publicar a The Atlantic.
Religió és una paraula sovint associada amb el llatí 'religare', que significa relligar o unir de nou
Havíem passat el cap de setmana demanant-nos què passava, a OpenIA, després de veure l’acomiadament dràstic de Sam Altman i la dimissió de Greg Brockman. Ho havia provocat un consell d’administració (board) aparentment liderat per Sutskever. Mirant d’entendre-ho, fèiem servir el tarannà de les startups. Però no era aquest, l’ideari; calia llegir-ho en clau religiosa.
Religió és una paraula sovint associada amb el llatí religare, que significa relligar o unir de nou. La religió actua com un vincle o una connexió entre els humans i una entitat superior o un ordre còsmic. L’ordre còsmic era la visió original d’OpenAI, que tenia la missió de connectar els humans amb l’arribada imminent d’una entitat superior: l’AGI. Una altra interpretació vincula religió amb el llatí relegere, que significa considerar amb atenció per a mantenir la reverència i el respecte cap a les pràctiques i creences sagrades. La setmana passada, el consell directiu d’OpenAI va trobar que calia relegere la visió i la missió original d’OpenAI.
La fundació d’OpenAI
L’11 de desembre de 2015, Brockman i Sutskever presentaven OpenAI, a la pàgina web de la casa, com una empresa de recerca en intel·ligència artificial sense ànim de lucre. “El nostre objectiu és avançar en la intel·ligència digital de la manera que sigui més probable que beneficiï a la humanitat en conjunt, sense estar limitats per la necessitat de generar un retorn financer. Com que la nostra recerca està lliure d'obligacions financeres, podem centrar-nos millor en un impacte humà positiu”.
Brockman seria el president d’OpenAI i Sutskever el director de recerca. En la fundació també hi havia Elon Musk i Sam Altman entre d’altres —no us avorriré amb detalls que trobareu a prou llocs. Altman era el copresident i Musk tenia diners, popularitat, influència i la visió: estava amoïnat per l’avenç de la IA sense tenir cura per la seguretat i l’ètica.
Steve Mollman recorda, en un article per a Yahoo Finance, que Elon Musk va explicar que aconseguir a Sutskever per a OpenIA el 2015 “va ser una de les batalles de reclutament més dures que he tingut, però això va ser realment el punt clau perquè OpenAI tingués èxit”. Musk havia discutit amb Larry Page, fundador de Google. Musk trobava que Page no parava esment per la seguretat de la IA. La compra de DeepMind, el 2014, el va molestar perquè Google acaparava dos terços de tots els investigadors d’IA del món. Sutskever havia de fitxar per DeepMind, però Musk el va convèncer que no, perquè és “un bon humà, intel·ligent, de bon cor”.
El dilluns després del tro a OpenAI, el 20 de novembre de 2023, Elon Musk publicava un tuit dient que estava molt preocupat, perquè Sutskever ‘té una bona moral, no cerca poder i no prendria una acció tan dràstica llevat que cregués que és absolutament necessària’. Es referia a l’acomiadament fulminant del CEO d’OpenAI, Sam Altman.
I am very worried.
— Elon Musk (@elonmusk) November 19, 2023
Ilya has a good moral compass and does not seek power.
He would not take such drastic action unless he felt it was absolutely necessary.
OpenAI LP
Retrocedim una mica, no molt: un altre dia 11, aquest cop de març i de 2019, Brockman i Sutskever, anunciaven OpenAI LP, una nova empresa de “beneficis limitats” en comptes de “sense lucre”. Serviria per a aconseguir inversió en comptes de donacions. Podrien contractar talent i comprar capacitat de computació. Actualitzaven la missió: crear un AGI segura i compartir els beneficis amb la humanitat.
Calien molts diners, clar, però els inversors tindrien “beneficis limitats” en comptes dels beneficis infinits clàssics. Microsoft va entrar-hi amb 1.000 milions —i després més. També s’hi afegirien inversors individuals i corporatius.
La inversió faria possible accelerar la missió d’OpenAI, però també hi va ajudar molt un article científic, publicat el 2017 per Ashish Vaswani, de l’equip de recerca de Google. Vaswani —i col·laboradors— varen introduir el concepte de Transformers, que canviaria com es feien els models de llenguatge. El mecanisme d’atenció dels Transformers —que dona títol a l’estudi— permet que el model de llenguatge posi el focus en diferents parts de l’entrada, escrita per humans, per a trobar el context. En lloc de dependre únicament de la posició seqüencial de les paraules, el mecanisme d'atenció dona al model la flexibilitat necessària per aprendre relacions complexes i subtileses del llenguatge. El resultat fou el desenvolupament del GPT (Generative Pre-trainer Transformer) d’OpenAI i a Google el BERT (Bidirectional Encoder Representations from Transformers).
A Google es varen encantar, amb el BERT, però OpenAI va incorporar l’esperit dinàmic de l’emprenedoria i les startups. Va passar contractant a temps complet el cofundador Sam Altman, president de la major acceleradora i incubadora d’startups del món: Y Combinator. Seria el nou CEO d’OpenAI i de la seva variant LP de “beneficis limitats”. Passava el març de 2019 i poc després, a l’estiu, Altman aconsegueix els primers 1.000 milions de Microsoft. Serviran de combustible per a crear ChatGPT.
El darrer any menys deu dies
Hao i Warzel expliquen, a l’esmentat article Inside the Chaos at OpenAI, com la dinàmica startup provocaria el caos. Tot plegat va començar amb la presentació del ChatGPT el 30 de novembre de 2022. Per cert, Hao ha explicat que l’article per a The Atlantic és una peça del llibre que està escrivint sobre OpenAI.
Now is probably the time to announce that I've been writing a book about @OpenAI, the AI industry & its impacts. Here is a slice of my book reporting, combined with reporting from the inimitable @cwarzel. Inside the year of chaos that led to this weekend. https://t.co/6sRzvHHdLY
— Karen Hao 郝珂灵 (@_KarenHao) November 20, 2023
Altman era a la seva salsa d’emprenedor després de presidir Y Combinator i veure moltes startups d’èxit des de ben a prop. Tant que va fer el Product-Market-Fit (PMF) i Go-To-Market (GTM) startupaire més espectacular mai vist.
El PMF consisteix a trobar la necessitat de mercat. El ChatGPT va sorgir enmig d’una creixent demanda d’eines de processament de llenguatge. El corrector dels editors de text mai no va ser gaire bo enlloc. Presentar el ChatGPT en obert va permetre veure els errors i corregir-los. Va haver-hi un efecte eureka mundial, i en un temps rècord es convertia en una eina universal útil per a gairebé tots els oficis. Fou un PMF similar al del foc, la roda o el llibre; coses que arriben per a quedar-s’hi. Ho vaig tenir molt clar quan vaig veure que alguns usuaris li posaven nom. Sí, com a les mascotes.
Presentar el ChatGPT en obert va permetre veure els errors i corregir-los
El GTM no fou menys colossal: en menys d’un any hem vist la IA basada en ChatGPT aplicada a productes tan estesos com els offices. El programari que mou les empreses més àgils va fer molta via en incorporar el ChatGPT: Slack, Figma, Notion, Canva, GitHub, Zoom, etc.. Tot plegat fou possible gràcies a una bona política de distribució: les API a partir de l’1 de març de 2023. I el boca-orella de milions de persones que, de cop —no ha passat ni un any— descobrien una eina universal per a resoldre multitud de problemes complexos i augmentar la productivitat.
No parlo d’oïda. En un taller recent a Lanzadera —la major acceleradora de startups a Espanya— ens varen suggerir que féssim servir ChatGPT per a la creació i validació de productes simulant perfils de clients. Ho vaig provar per la nostra startup i va ser espectacular —sempre que no t’enganyis a tu mateix, clar. Explicar els nostres plans al ChatGPT ha tingut, per a nosaltres, efectes absolutament trencadors. És difícil trobar mentors millors —torno a dir que no parlo d’oïda; he fet de mentor i he assistit a un parell de formacions per a mentors.
El pecat
El Product-Market-Fit (PMF) i Go-To-Market (GTM) més espectaculars mai vistos hauran estat el pecat de Sam Altman. I clar, el passat cap de setmana ningú no entenia per què. Ningú no pensava en la paraula pecat, però calia incorporar-la al relat per a entendre què havia passat.
Altman havia dirigit OpenIA cap a la direcció oposada, “ampliant i empitjorant les fractures ideològiques ja presents”, expliquen Hao i Warzel a The Atlantic. “ChatGPT va augmentar la carrera per a crear productes amb benefici i la pressió sense precedents sobre la infraestructura de l’empresa i sobre els qui havien d’avaluar els riscos de la tecnologia”, això és, el Superalignment Team, que va sorgir després de cremar l'efígie que representava ‘la IA no-alineada’.
Mira tu. A partir d’aquí tot és fàcil d’entendre.
Cap de setmana del 18 de novembre
Divendres 17, a darrera hora a Europa, vàrem llegir una comunicació excepcionalment agressiva per explicar l’acomiadament d’un CEO. Acusar-lo d’amagar coses al board és greu. Tant que la història pot acabar als tribunals. Però clar, no era exactament un problema de transparència, sinó de no acceptar el pecat. La religió és molt dura, expulsant gent que no mostra penediment.
A continuació ens va sobtar que el principal inversor, Microsoft, no sabés res de l'acomiadament fins al minut abans de publicar-lo. La resta d’inversors ho va saber per les xarxes socials. És una situació inversemblant des del punt de vista empresarial, però no del religiós. Els inversors eren part del pecat d'Altman, i no mereixien més consideració que els mercaders que Jesucrist va expulsar del temple. Bé, en realitat el board d’OpenAI no els expulsava explícitament, però quedarien fora; tothom sabia que eren allà per la capacitat d’execució del CEO, Altman.
Els inversors eren part del pecat d'Altman
La sorpresa recorda el mem basat en un gag dels Monty Python: "Nobody expects the Spanish Inquisition”. No l’esperava pas Galileo Galilei, per no renegar de l’heliocentrisme, ni tampoc no l’esperaven Altman ni Brockman després de no renegar la seva estratègia que, segons el board, era contrària a la visió i missió d’OpenAI per gestionar l’arribada de l’AGI a la humanitat. Digueu-li inquisició, digueu-li Superalignment Team.
I ara?
He d’aturar d’escriure en algun moment mentre els esdeveniments segueixen el seu curs a un ritme frenètic. No pot ser d’una altra manera; són moments històrics. Satya Nadella, el CEO de Microsoft, acaba de contractar Altman i Brockman per a continuar amb el seu projecte sense interferències. Ho ha sabut fer molt bé amb GitHub. Tant, que ens ho hem repensat fins i tot els defensors del programari lliure més crítics —molt crític— amb la Microsoft de Ballmer.
Gairebé 700 dels 800 empleats d’OpenAI diuen que plegaran. Microsoft ha dit que són benvinguts. No en tinc pas cap dubte; a Redmond acaben d’aconseguir gratis una empresa valorada en 80.000 milions en només un any. La seva inversió de més de 13.000 milions en OpenAI ja tenia retorn amb els productes Microsoft AI que han presentat. Serà el procés M&A (Mergers & Adquisitions) més rodó de la història en una cosa tan complicada com és fitxar el millor talent mundial en IA.
Gairebé 700 dels 800 empleats d’OpenAI diuen que plegaran
Per descomptat, Nadella ha dit que ajudarà tothom, a OpenAI també. Li sobren incentius. Tothom, a la indústria digital, ara mateix voldria ser Nadella. Sabem com ho està gestionant Altman, Brockman i Nadella. Què farà OpenAI? Déu proveirà. Són les seves tradicions i cal respectar-les.