¿Viurem dins dels somnis de la intel·ligència artificial?

Imagineu-vos que, en el moment d’embarcar en un avió, la meitat dels enginyers que van construir l’aparell us diuen que hi ha un 10% de possibilitats que l’avió s’estavelli i us mati a vosaltres i a tots els altres passatgers. Hi embarcaríeu igualment?

El 2022 es va fer una enquesta a més de 700 acadèmics i investigadors de les principals empreses d’intel·ligència artificial sobre el risc de la futura intel·ligència artificial (IA). La meitat dels enquestats va declarar que hi havia com a mínim un 10% de possibilitats que els sistemes d’IA del futur portin a l’extinció humana (o a un desempoderament permanent i greu equivalent). Les empreses tecnològiques que construeixen els grans models lingüístics actuals es veuen atrapades en una cursa per fer pujar tota la humanitat en aquest avió.

Les companyies farmacèutiques no poden vendre nous medicaments a la gent sense sotmetre abans els seus productes a uns controls de seguretat molt rigorosos. Els laboratoris de biotecnologia no poden llançar nous virus a l’esfera pública per impressionar els accionistes amb la seva màgia. De la mateixa manera, els sistemes d’IA amb la potència del GPT-4 i més enllà no haurien d’interferir en la vida de milers de milions de persones a un ritme més ràpid del ritme al qual les cultures són capaces d’assumir aquests sistemes d’una manera segura. Una cursa per dominar el mercat no hauria de determinar la velocitat de desplegament de la tecnologia més transcendental de la humanitat. Hauríem d’avançar a una velocitat que ens permeti fer-ho bé.

El fantasma de la IA ronda la humanitat des de mitjans del segle XX, però fins fa poc no deixava de ser una perspectiva llunyana, una cosa que pertanyia a la ciència-ficció més que no pas als debats científics i polítics seriosos. Per a la ment humana és difícil comprendre les noves capacitats del GPT-4 i d’eines semblants, i és encara més difícil comprendre la velocitat exponencial amb què aquestes eines estan desenvolupant habilitats encara més avançades i potents. Però la majoria es redueixen a una cosa: la capacitat de manipular i generar llenguatge, sigui amb paraules, sons o imatges.

Al principi existia la paraula. El llenguatge és el sistema operatiu de la cultura humana. A partir del llenguatge sorgeixen els mites i les lleis, els déus i els diners, l’art i la ciència, les amistats i les nacions, fins i tot el codi informàtic. El nou domini del llenguatge de la IA és tan gran que ara pot sabotejar i manipular el sistema operatiu de la civilització. A l’aconseguir el domini del llenguatge, la IA s’apodera de la clau mestra de la civilització, des de les caixes fortes dels bancs fins als sants sepulcres.

Què significaria per als humans viure en un món on un gran percentatge d’històries, melodies, imatges, lleis, polítiques i eines estan conformades per una intel·ligència no humana, que sap explotar amb una eficàcia sobrehumana les debilitats, els biaixos i les addiccions de la ment humana, alhora que és capaç d’establir relacions íntimes amb els éssers humans? En jocs com els escacs, cap humà pot esperar vèncer un ordinador. Què passa si es dona el mateix en els àmbits de l’art, la política i fins i tot la religió?

La IA podria menjar-se ràpidament tota la cultura humana –tot el que hem produït al llarg de milers d’anys–, digerir-la i començar a inundar-nos amb una riuada de nous artefactes culturals. No només treballs escolars, sinó també discursos polítics, manifestos ideològics i fins i tot llibres sagrats per a nous cultes. El 2028, la carrera presidencial dels Estats Units podria deixar de ser dirigida pels humans.

Sovint els humans no tenim un accés directe a la realitat. Estem embolcallats per la cultura i experimentem la realitat a través d’un prisma cultural. Les nostres opinions polítiques estan modelades pels informes dels periodistes i les anècdotes dels amics. Les nostres preferències sexuals es veuen alterades per l’art i la religió. Fins ara aquest embolcall cultural l’han teixit altres humans. Què comportarà experimentar la realitat a través d’un prisma produït per la intel·ligència no humana?

Fa milers d’anys que els humans vivim dins dels somnis d’altres humans. Hem adorat déus, hem perseguit ideals de bellesa i hem dedicat la nostra vida a causes originades en la imaginació d’algun profeta, poeta o polític. Aviat també ens trobarem vivint dins les al·lucinacions de la intel·ligència no humana.

La franquícia Terminator va retratar robots que corrien pels carrers i disparaven a la gent. A Matrix es dona per descomptat que, per aconseguir el control total de la societat humana, primer la IA ha d’aconseguir el control físic del nostre cervell i connectar-lo directament a una xarxa informàtica. De fet, però, simplement amb el domini del llenguatge la IA tindria tot el que necessita per mantenir-nos a ratlla en un món d’il·lusions semblant al de Matrix, sense disparar a ningú ni implantar-nos cap xip al cervell. Si calgués disparar, la IA podria fer que els humans preméssim el gallet només explicant-nos la història adient.

El fantasma de viure atrapats en un món d’il·lusions ronda la humanitat des de fa molt més temps que el fantasma de la IA. Aviat ens trobarem per fi cara a cara amb el geni maligne de Descartes, amb la cova de Plató, amb els maies budistes. Un teló d’il·lusions podria caure sobre la humanitat, i potser no podrem apartar-lo mai més, ni tan sols adonar-nos que hi és.

Les xarxes socials han sigut el “primer contacte” entre la IA i la humanitat, i la humanitat ha perdut. El “primer contacte” ens ha permès tastar el gust amarg del que vindrà. A les xarxes socials, la primitiva IA no s’ha utilitzat per crear contingut, sinó per tractar un contingut generat pels usuaris. La IA que hi ha darrere dels nostres canals de notícies continua escollint quines paraules, sons i imatges ens arriben a la retina i als timpans, a còpia de seleccionar el que comportarà més viralitat, més reacció i més lligam.

Tot i ser molt primitiva, amb la IA que hi ha darrere les xarxes socials n’hi ha hagut prou per crear un teló d’il·lusions que ha augmentat la polarització de la societat, ha soscavat la nostra salut mental i ha desbaratat la democràcia. Milions de persones han confós aquestes il·lusions amb la realitat. Els Estats Units tenen la millor tecnologia de la informació de la història, però els ciutadans dels EUA ja no poden posar-se d’acord sobre qui va guanyar les eleccions. Tot i que a hores d’ara tothom és conscient dels inconvenients de les xarxes socials, no s’han intentat solucionar, perquè les nostres institucions socials, econòmiques i polítiques hi estan massa implicades.

Els grans models lingüístics són el nostre “segon contacte” amb la IA. No ens podem permetre el luxe de tornar a perdre. ¿Però sobre quina base podem creure que la humanitat serà capaç de posar aquestes noves formes d’IA al seu servei? Si seguim com fins ara, les noves capacitats de la IA tornaran a ser utilitzades per obtenir beneficis i poder, encara que de retruc destrueixin els fonaments de la nostra societat.

La IA, de fet, té el potencial d’ajudar-nos a vèncer el càncer, descobrir medicaments que salven vides i inventar solucions per a les nostres crisis climàtiques i energètiques. Hi ha tot un seguit d’altres beneficis que no podem ni imaginar. Però si els fonaments s’ensorren, tant se val fins on arribi el gratacel de beneficis aportats per la IA.

Cal saber què comporta la IA abans que la nostra política, la nostra economia i la nostra vida diària en depenguin. La democràcia és una conversa, la conversa es basa en el llenguatge, i quan el llenguatge mateix és segrestat, la conversa es trenca i la democràcia es fa insostenible. Si esperem que esclati el caos, serà massa tard per posar-hi remei.

Però tal vegada hi ha una pregunta que no deixi de rosegar-nos: “Si no anem el més ràpid possible, ¿pot ser que Occident s’arrisqui a perdre la batalla davant de la Xina?” No. El desplegament i la introducció d’una IA incontrolada en la societat, cosa que desencadenaria forces divines desvinculades de la responsabilitat, podria ser precisament el que faria que Occident perdés la batalla davant de la Xina.

Encara podem triar quin futur volem amb la IA. Quan les forces divines es combinin amb una responsabilitat i un control proporcionats, podrem fer realitat els beneficis que la IA promet.

Hem conjurat una intel·ligència estranya. No en sabem gaire, excepte que és extremadament poderosa i ens ofereix possibilitats enlluernadores, però també podria rebentar els fonaments de la nostra civilització. Demanem als líders mundials que responguin a aquest moment posant-se a l’altura del repte que se’ns presenta. El primer pas és guanyar temps per actualitzar les nostres institucions del segle XIX de cara a un món post-IA i aprendre a dominar la IA abans que ens domini ella a nosaltres.

Tristan Harris i Aza Raskin són coautors d'aquest article.

Copyright The New York Times