La lluita per l’ànima de la IA

Una de les coses bones d’OpenAI és que es va fundar sobre la base de la desconfiança. Va començar com un laboratori d’investigació sense ànim de lucre perquè els seus fundadors pensaven que la intel·ligència artificial no l’havien de promoure les empreses comercials, impulsades molt majoritàriament per l’afany de lucre.

A mesura que anava evolucionant, OpenAI es va convertir en el que podríem definir com una fructífera contradicció: una empresa amb ànim de lucre supervisada per un consell d’administració sense ànim de lucre amb una cultura empresarial situada en un punt intermedi.

Molts dels que hi treballen semblen motivats alhora pel desig de descobrir del científic, el desig del capitalista de comercialitzar el producte i el desig de l’idealista de fer tot això preservant la seguretat.

Els esdeveniments de la setmana passada –l’acomiadament de Sam Altman, tot el drama i el fet que l’hagin tornat a contractar– giren al voltant d’una pregunta fonamental: ¿és sostenible aquesta contradicció tan fructífera?

¿Pot una organització, o una persona, reunir el cervell d’un científic, l’impuls d’un capitalista i el cor prudent d’un organisme regulador? O, com va escriure Charlie Warzel a The Atlantic, ¿sempre s’han d’imposar els diners?

És important recordar que la IA és força diferent d’altres àmbits del món tecnològic. És (o si més no era) més acadèmica. La IA és un camp que té uns antecedents de recerca que es remunten a segles enrere. Encara avui dia molts dels gegants d’aquesta especialitat són sobretot investigadors, no emprenedors: persones com Yann LeCun i Geoffrey Hinton, que el 2018 van compartir el premi Turing (el premi Nobel de la informàtica) i ara no estan d’acord sobre cap on ens porta la IA.

Aquests últims anys, però, els investigadors acadèmics han anat abandonant les àrees universitàries per passar-se en massa a la indústria. Tot i així, els investigadors d’empreses com Alphabet, l’empresa matriu de Google, Microsoft, OpenAI i Meta, propietària de Facebook, encara es comuniquen entre ells publicant articles de recerca, com els professors.

Però aquest camp també té la intensitat i l’audàcia dels sectors més dinàmics de les start-ups. Quan l’any passat parlava amb investigadors d’IA, sovint tenia la sensació de trobar-me en una d’aquelles cintes automàtiques dels aeroports que van a prop de 5 km per hora, mentre que les d’ells anaven a més de 5.000. Els investigadors em deien que aquesta fase de la història de la IA és tan emocionant precisament perquè ningú pot predir què passarà a continuació. “L’objectiu de ser un investigador d’IA és entendre què està passant. No pares de tenir sorpreses”, em va dir Rishi Bommasani, estudiant de doctorat a Stanford.

Pel que sembla, els que es dediquen a la IA passen per estats mentals radicalment diferents però simultanis. M’ha resultat extraordinàriament difícil escriure sobre la IA perquè és literalment impossible saber si aquesta tecnologia ens porta al cel o a l’infern i, per tant, la meva actitud en aquest sentit canvia segons el meu estat d’ànim.

Quan al maig vaig visitar la seu d’OpenAI, em va impressionar la seva cultura empresarial. Molts dels empleats que vaig entrevistar s’havien incorporat a OpenAI quan era un laboratori d’investigació sense ànim de lucre, abans de tot l’enrenou del ChatGPT, quan la majoria de nosaltres no havíem sentit mai a parlar de l’empresa. “Els meus pares no sabien a què es dedicava en realitat OpenAI –comenta Joanne Jang, gerent de producció–. Em deien: «¿De debò que plegues de Google?»”. Mark Chen, un investigador que va participar en la creació de l’eina visual DALL-E 2, va tenir una experiència semblant: “Abans del ChatGPT, la meva mare em trucava cada setmana i em deia: «Escolta, potser podries deixar ja de fer el gandul i entrar a treballar a Google o un lloc d’aquests»”. El que els motiva per damunt de tot no són els diners.

Quan el ChatGPT va saltar als titulars, treballar a OpenAI era com estar a l’ull d’un huracà. Però segons Jang, “aquí dintre tot està molt més tranquil que a la resta del món”. I segons el que explica Elena Chatziathanasiadou, tècnica de selecció de personal: “Als primers temps era més aviat un laboratori de recerca, perquè en realitat només contractàvem investigadors. Però més tard, quan vam créixer, tothom es va començar a adonar que els avenços vindrien tant de l’enginyeria com de la recerca”.

Al maig no hi vaig trobar cap tech bro (enginyers creguts que només busquen fer diners), ni tampoc cap d’aquells elements que fanfarronegen dient “estem canviant el món” i que segurament hauria conegut si jo fos un dels promotors d’aquesta tecnologia. Vet aquí el que em va dir Diane Yoon, vicepresidenta de recursos humans: “La paraula amb què definiria aquesta plantilla és seriosa... seriositat”.

Normalment, quan visito una empresa tecnològica com a periodista, aconsegueixo reunir-me amb molt pocs directius, i els que entrevisto se centren implacablement en transmetre un missatge concret. OpenAI es va limitar a repartir un full perquè s’hi apuntessin els que volguessin parlar amb mi.

Tots eren impressionants, però recordo que em vaig dir a mi mateix: “Això no durarà gaire”. Vaig pensar que hi havia massa diners al voltant. Potser són uns investigadors seriosos, però, tant si en són conscients com si no, participen en una cursa per llançar productes al mercat, generar ingressos i ser els primers.

També saltava a la vista que estaven dividits pel que fa al tema de la seguretat. D’una banda, tothom la tenia present. Per exemple, quan vaig preguntar a Marc Chen què va sentir el dia que es va estrenar DALL-E 2, em va contestar: “Sobretot tenia una sensació d’aprensió. Hem aconseguit que sigui prou segur?” D’altra banda, tothom amb qui vaig parlar estava entregat a la missió principal d’OpenAI: crear una tecnologia amb una intel·ligència artificial general, capaç d’igualar o superar la intel·ligència humana en una àmplia gamma de tasques.

Al camp de la IA hi ha persones molt brillants que fan unes descripcions tremendament divergents, però també força convincents, de cap on va tot això. Marc Andreessen, inversor de capital de risc, subratlla que la IA canviarà moltíssim el món a millor. L’especialista en ciència cognitiva Gary Marcus presenta un panorama també força convincent de tot el que pot sortir malament.

Ningú sap del cert qui té raó, però els investigadors continuen avançant. El seu comportament em recorda el que Alan Turing va escriure el 1950: “Només podem veure el que tenim a una distància curta, però ja hi veiem un munt de coses per fer”.

Tenia l’esperança que OpenAI seria capaç de capejar les tensions, tot i que hi continuaria havent motius per a la inquietud. Com em va dir Brad Lightcap, director d’operacions d’OpenAI: “El més important és mantenir la nostra cultura empresarial i l’orientació de la nostra missió mentre creixem. Si vol que li digui la veritat, el que de debò em fa perdre la son és si sabrem mantenir aquest plantejament a gran escala”.

Aquestes paraules han sigut premonitòries. La cultura organitzativa no es construeix fàcilment, però es destrueix amb facilitat. La seguretat del món en sentit literal està continguda en aquesta pregunta: “Sam Altman, ara de nou amb les mans lliures, ¿preservarà la fructífera contradicció d’OpenAI o sucumbirà a les pressions del «vinga va, no t’aturis»”?

Copyright The New York Times