Un grup d'investigadors va avisar la junta d'OpenAI dels perills per a la humanitat del seu nou descobriment

BarcelonaAbans de la destitució i posterior retorn a l'empresa del conseller delegat d'OpenAI, Sam Altman, diversos investigadors del projecte van escriure una carta al consell d'administració en què advertien d'un poderós descobriment vinculat a la intel·ligència artificial que podria amenaçar la humanitat. Segons ha avançat Reuters aquest dimecres, dues persones coneixedores d'aquests avenços van explicar que es tractava d'un algoritme clau que estava en desenvolupament just abans de la sortida del directiu. Aquesta carta amb un avís clar sobre els potencials riscos dels productes dissenyats per la companyia seria un dels elements en la llarga llista de greuges que van provocar l'acomiadament d'Altman per part de la junta.

Internament, d'aquest misteriós projecte se'n deia "Q*" i se centrava en la recerca de sistemes autònoms que superen els humans en les tasques amb més valor afegit. Segons una de les fonts citades per Reuters, aquest nou model era capaç de resoldre determinats problemes matemàtics. Precisament, els investigadors consideren que les matemàtiques són una de les fronteres en el desenvolupament de la IA. Actualment, aquests sistemes són bons per escriure i traduir a altres idiomes perquè preveuen estadísticament quina serà la següent paraula. Per això, les respostes a una mateixa pregunta poden variar molt. Però conquerir la capacitat d'entendre les matemàtiques, on només hi ha una resposta correcta, implicaria que la IA tingués capacitats de raonament superiors i més semblants a la intel·ligència humana. Això es podria aplicar a la investigació científica nova, creuen els investigadors.

A diferència d'una calculadora que pot resoldre un nombre limitat d'operacions, aquests sistemes autònoms podrien generalitzar, aprendre i comprendre. A la seva carta dirigida a la junta, els investigadors van assenyalar la destresa d'aquesta nova IA i el seu perill potencial. Així i tot, aquestes fonts no van especificar quines eren les preocupacions de seguretat concretes. Fa temps que s'ha obert un debat públic entre enginyers arreu del món sobre el perill que representen les màquines altament intel·ligents i, per exemple, si aquestes podrien decidir destruir la humanitat en el seu interès.

Ciència versus negoci

Com a conseller delegat d'OpenAI, Altman havia concentrat els seus esforços en convertir ChatGPT en una de les aplicacions de més ràpid creixement de la història. Per aquest motiu, el directiu es va assegurar d'aconseguir la inversió i els recursos informàtics necessaris a través de Microsoft. De fet, a banda d'anunciar noves eines que estava a punt de llançar, Altman havia dit la setmana passada en una cimera de líders mundials a San Francisco que hi havia avenços importants a la vista. "Ja ha passat quatre vegades en la història d'OpenAI, la més recent va ser en les últimes dues setmanes, en les quals he estat en una sala on ens hem tret dels ulls el vel de la ignorància i hem travessat la frontera del descobriment. Aconseguir-ho és l'honor professional de tota una vida", va dir a la cimera de Cooperació Econòmica Àsia-Pacífic. Un dia després, la junta el va acomiadar.

Després d'un ultimàtum de la plantilla, en què pràcticament el 90% de l'equip d'OpenAI va signar una carta demanant la reincorporació d'Altman, l'executiu va acabar tornant dimarts a la companyia en una posició encara més reforçada. Alguns dels membres de la junta que van forçar la seva marxa ja no hi són, mentre que s'hi han incorporat nous consellers propers al guru tecnològic que farien costat als seus posicionaments pro negoci.