Tensió i por: què hi ha darrere la destitució del cofundador de l'empresa de ChatGPT?

Nova YorkDurant l'últim any, Sam Altman va portar OpenAI a la taula dels adults de la indústria tecnològica. Gràcies al seu popular xatbot ChatGPT, la nova empresa de San Francisco estava en el centre de l'auge de la intel·ligència artificial, i Altman, director executiu d'OpenAI, s'havia convertit en una de les persones més reconegudes en el camp tecnològic.

Però l'èxit va generar tensions dins l'empresa. Ilya Sutskever, un respectat investigador d'intel·ligència artificial (IA) que va fundar OpenAI amb Altman i nou persones més, cada cop estava més preocupat pel fet que la tecnologia d'OpenAI pogués ser perillosa. Temia que Altman no estigués prestant prou atenció a aquest risc, segons tres persones familiaritzades amb el seu pensament. Sutskever, membre de la junta directiva de l'empresa, també es va oposar al que considerava un paper poc rellevant dins de l'empresa, segons dues d'aquestes persones.

Aquest conflicte entre el ràpid creixement i la seguretat de la IA es va posar en relleu divendres a la tarda, quan Altman va ser destituït per quatre dels sis membres de la junta directiva d'OpenAI, encapçalats per Sutskever. La mesura va sorprendre els empleats d'OpenAI i la resta de la indústria tecnològica, inclòs Microsoft, que ha invertit 13.000 milions de dòlars a l'empresa. Alguns experts de la indústria deien que la divisió era tan significativa com quan Steve Jobs va ser expulsat d'Apple el 1985. Però dissabte, en un gir sorprenent, es va dir que Altman estava en converses amb la junta directiva d'OpenAI sobre el retorn a l'empresa.

Des que es va llançar ChatGPT fa gairebé un any, la intel·ligència artificial ha capturat la imaginació del públic, amb l'esperança que es pugui fer servir per a treballs importants com la investigació de drogues o per ajudar a ensenyar els nens. Però alguns científics i líders polítics es preocupen pels seus riscos, com ara la desaparició de treballs automatitzats o la guerra autònoma que va més enllà del control humà. Els temors que els investigadors d'IA estiguessin construint alguna cosa una mica perillosa han estat una part fonamental de la cultura d'OpenAI. Els seus fundadors creien que, com que entenien aquests riscos, eren les persones adequades per construir-la.

La junta directiva d'OpenAI no ha ofert una raó de l'expulsió Altman, a banda de dir que no creia que s'estigués comunicant honestament amb ells. Als empleats d'OpenAI se'ls va dir dissabte al matí que la seva destitució no tenia res a veure amb “malversació ni res relacionat amb les nostres pràctiques financeres, comercials, de seguretat o de privadesa”, segons un missatge vist pel New York Times.

Greg Brockman, un altre cofundador i president de l'empresa, va renunciar en protesta divendres a la nit. El mateix va fer el director de recerca d'OpenAI. Dissabte al matí, l'empresa estava sumida al caos, segons mitja dotzena d'empleats actuals i anteriors, i els seus aproximadament 700 empleats lluitaven per entendre per què la junta va prendre aquesta decisió. "Estic segur que tots vostès senten confusió, tristesa i potser una mica de por", va dir Brad Lightcap, director d'operacions d'OpenAI, en un escrit als empleats d'OpenAI. "Estem completament concentrats en manejar això, avançar cap a la resolució i la claredat i tornar a la feina".

Divendres se li va demanar a Altman que s'unís a una reunió de la junta directiva per vídeo. Allà, Sutskever, de 37 anys, va llegir un guió que s'assemblava molt a la publicació del bloc que la companyia va publicar minuts després, segons una persona familiaritzada amb aquest tema. La publicació deia que Altman “no va ser consistentment sincer en les seves comunicacions amb la junta, cosa que va obstaculitzar la seva capacitat per exercir les seves responsabilitats”.

Temor als perills de la IA

Però en les hores següents, els empleats d'OpenAI i d'altres es van centrar no només en el que Altman podia haver fet, sinó també en la manera com està estructurada la nova empresa de San Francisco i les opinions extremes sobre els perills de la IA. Dissabte no va ser possible contactar amb Sutskever i Altman per fer comentaris.

En les últimes setmanes, Jakub Pachocki, que va ajudar a supervisar GPT-4, la tecnologia al cor de ChatGPT, va ser ascendit a director de recerca de l'empresa. Pachocki va renunciar a l'empresa divendres a la nit, van dir les fonts, poc després de Brockman. Més d'hora aquell mateix dia, OpenAI va dir que Brockman havia estat destituït com a president de la junta i reportaria la nova directora executiva interina, Mira Murati. Altres aliats d'Altman, incloent-hi dos investigadors d'alt nivell, Szymon Sidor i Aleksander Madry, també van abandonar l'empresa.

Brockman va dir en una publicació a X (abans Twitter) que, encara que era el president de la junta, no va formar part de la reunió de la junta en què Altman va ser destituït. Això va deixar Sutskever i tres membres més de la junta directiva: Adam D'Angelo, director executiu del lloc de preguntes i respostes Quora; Tasha McCauley, científica adjunta d'alta direcció a RAND Corporation; i Helen Toner, directora d'estratègia i beques de recerca fonamental del Centre de Seguretat i Tecnologia Emergent de la Universitat de Georgetown.

McCauley i Toner tenen vincles amb els moviments Racionalista i Altruista Efectiu, una comunitat que està profundament preocupada que la IA algun dia pugui destruir la humanitat.

El 2021, un investigador anomenat Dario Amodei, que també té vincles amb aquesta comunitat, i 15 empleats més d'OpenAI, van abandonar l'empresa per formar una nova empresa d'IA anomenada Anthropic. Sutskever estava cada cop més alineat amb aquestes creences. El 2015, Sutskever va deixar la seva feina a Google i va ajudar a fundar OpenAI juntament amb Altman, Brockman i el director executiu de Tesla, Elon Musk. Van construir el laboratori com una organització sense ànim de lucre i van dir que, a diferència de Google i altres empreses, no estaria impulsat per incentius comercials.

Altman va transformar OpenAI en una empresa amb finalitat de lucre el 2018 i va negociar una inversió de mil milions de dòlars amb Microsoft. Sumes de diners tan enormes són essencials per desenvolupar tecnologies com ara GPT-4, que es va llançar a principis d'aquest any. Des de la seva inversió inicial, Microsoft ha invertit 12.000 milions de dòlars més a l'empresa.

L'empresa encara estava governada per la junta sense ànim de lucre. Els inversors com Microsoft reben beneficis d'OpenAI, però els beneficis estan limitats. Qualsevol quantitat de diners que superi el límit es canalitzen novament a l'organització sense ànim de lucre. Al veure el poder de GPT-4, Sutskever va ajudar a crear un nou equip de Superalineació dins de l'empresa que exploraria maneres de garantir que les versions futures de la tecnologia no causin mal.

Cerca de finançament

Altman estava obert a aquestes preocupacions, però també volia que OpenAI es mantingués davant dels seus competidors molt més grans. A finals de setembre, Altman va volar a l'Orient Mitjà per reunir-se amb inversors, segons dues persones familiaritzades amb l'assumpte. Va buscar fins a mil milions de dòlars en finançament de SoftBank, l'inversor japonès en tecnologia liderat per Masayoshi Son, per a una possible empresa OpenAI que construiria un dispositiu de maquinari per executar tecnologies d'IA com ChatGPT.

OpenAI també està en converses per a un finançament amb una oferta pública que permetria als empleats retirar accions de l'empresa. Aquest acord valoraria OpenAI en més de 80.000 milions de dòlars, gairebé el triple del seu valor fa uns sis mesos. Però l'èxit de l'empresa sembla que ha augmentat la preocupació que alguna cosa pugui sortir malament amb la IA.

“No sembla gens inversemblant que tinguem ordinadors (centres de dades) que siguin molt més intel·ligents que les persones”, va dir Sutskever en un pòdcast el 2 de novembre. “Què faria aquesta IA? No ho sé".