La IA agreuja el mal que han fet les xarxes socials

Durant la passada dècada, la societat es va anar transformant a mesura que guanyaven terreny les xarxes socials. Al començament, les empreses propietàries d’aquestes xarxes ­–com ara Facebook, Instagram i Twitter­– presentaven aquesta transformació com una millora sense precedents; al cap i a la fi, interconnectaven el món com no s’havia vist mai. L’eslògan de Twitter el 2014 era el concís i brillant “Què està passant?” El d’Instagram era “Captura i comparteix els moments del món”. I a la pàgina d’inici de sessió de Facebook s’afirmava que “Facebook t’ajuda a connectar i compartir amb les persones de la teva vida”.

Però com va dir el difunt Charlie Munger, soci de Warren Buffett: “Digue’m quin és l’incentiu i et diré quins són els resultats”. I aquests eslògans ocultaven la perversa estructura dels incentius que hi ha al darrere de les xarxes socials: un motor invisible que ha arribat a guiar l’experiència psicològica de milers de milions de persones. Però han sortit a la llum realitats més fosques. Mentre les xarxes socials controlaven cada vegada més la nostra existència quotidiana, assistíem a la disminució constant de la capacitat d’atenció, la indignació que anava impregnant el discurs polític i un gran creixement de la solitud i l’ansietat. Les xarxes socials fomentaven la polarització i traslladaven les situacions negatives que es produïen en línia a espais fora d’internet, amb resultats de vegades tràgics i funestos.

Vaig començar a preocupar-me pels efectes nocius de les xarxes socials fa més d’una dècada, quan treballava com a especialista en ètica del disseny a Google. Vaig veure clar que les xarxes estaven pensades per captar i mantenir la nostra atenció i per aprofitar-se dels nostres instints subconscients, tot això sense tenir en compte les possibles ramificacions a llarg terme. Els perversos incentius del model de negoci de les xarxes socials –maximitzar les bases d’usuaris i la seva implicació– afavorien una societat més addicta i desconcentrada, a la recerca sempre de l’aprovació dels altres, i també indignada i polaritzada.

Ara el món es troba al davant d’una nova tecnologia: la IA generativa. Sovint sentim dir que encara és massa d’hora per saber com afectarà la societat. Però crec que ja podem predir-ne les conseqüències fent el mateix que els que van analitzar amb prou deteniment les xarxes socials i van pronosticar-ne les conseqüències: ens hem de fixar en els incentius que impulsen el desenvolupament i la implantació d’aquesta tecnologia.

Les xarxes socials van ser el nostre primer contacte a gran escala amb la IA; més ben dit, amb una IA dedicada a la “cura de continguts”, que es limitava a triar quins posts, vídeos i tuits resultarien més atractius per a la vista i l’oïda. Aquesta IA es programava amb un incentiu ben senzill: impulsar l’ús de la plataforma per generar ingressos publicitaris. Resulta, però, que fer servir la participació en la xarxa com a incentiu pot crear profundes disfuncions a la societat, la cultura i la política. N’hi ha hagut prou amb deu anys de convivència amb aquest tipus d’IA i els seus incentius per reconfigurar els fluxos globals d’informació, fragmentar una realitat compartida i atiar crisis de salut mental sense precedents entre els joves.

La societat comença ara un segon contacte amb la IA: la IA generativa o “creativa”. S’està desplegant un nou tipus de tecnologia, des de chatbots que generen text i copilots d’IA que generen codi fins a l’hipertrucatge d’imatges i generadors d’àudio per a la clonació de veu. Tot i que les tecnològiques comercialitzen la IA generativa com una mena de déu que multiplica la productivitat i altres beneficis, ja s’ha demostrat que les seves conseqüències són inquietants i fins i tot destructives: s’han perfeccionat les estafes financeres contra la gent gran amb clonacions de veu dels éssers estimats; les aplicacions per convertir qualsevol foto en un nu s’utilitzen com a arma contra els adolescents, i el contingut de clonacions d’àudio serveix per fer xantatge a gent de totes les edats.

La IA generativa intensifica les disfuncions preexistents de l’ecosistema digital. El motiu és que simplifica molt els processos i fa que sigui molt més fàcil crear continguts. Per exemple, imatges per a les quals s’havien de tenir competències avançades de Photoshop es poden crear ara gairebé en un moment amb una petició d’una única frase. Les campanyes de desinformació política en què havia de col·laborar un munt de gent es poden generar i desplegar ara a gran escala amb només un grapat d’agents humans i, a més, apuntant amb precisió quirúrgica als votants a qui es vol arribar.

Què porta una tecnologia potencialment tan perillosa com la IA generativa a créixer a un ritme tan furiós? La resposta es pot trobar una vegada més en els perversos incentius que estan en joc, sobretot la pressió per ocupar la posició capdavantera al mercat.

Tot i les advertències d’empleats i investigadors externs, moltes empreses punteres en IA s’afanyen a llançar productes arriscats, poc fiables, poc segurs i fins i tot poc ètics, amb l’esperança de dominar el mercat. Durant aquest procés, encobreixen els efectes nocius i descarreguen en els governs i la ciutadania la responsabilitat de trobar solucions per als problemes creats pels seus productes d’IA.

Els governs tenen la potestat d’intervenir i modificar els incentius. Tot i així, els representants polítics s’enfronten a un problema molt antic: al llarg de la història ha sigut difícil regular les tecnologies emergents, ja des de l’arribada del ferrocarril i el telègraf. En part, això passa perquè les noves tecnologies no se solen entendre bé. També perquè els pioners tecnològics acostumen a fer tots els possibles per minimitzar qualsevol mena de supervisió. En aquests moments les afirmacions dels directius de la indústria de la IA, fetes amb la boca petita i fins i tot amb mala fe, sobre la seva predisposició a acceptar una regulació, van acompanyades habitualment d’un lobisme intens i ben finançat que contribueix a crear un bloqueig polític.

Els polítics han de trobar una sortida per a aquest bloqueig. Hem d’exigir responsabilitats als gegants tecnològics pels danys que causen els seus productes; no els hem d’animar només a innovar. Fins ara empreses com Meta, Google, Amazon i Microsoft han hagut de donar escasses explicacions per les seves accions. Aquestes companyies han d’estar sotmeses a un marc de responsabilitat que les exposi a considerables pèrdues financeres en cas que es descobreixi que són responsables d’uns danys. Només aleshores es prendran més seriosament la seguretat tant en el procés de desenvolupament de la IA com posteriorment, un cop s’hagi desplegat. La rendició de comptes té la capacitat d’introduir uns nous incentius en els fonaments de la indústria de la IA.

Fa una dècada, davant de les xarxes socials, el món va adoptar l’estratègia d’esperar i veure com aquesta tecnologia canviava la societat. Les conseqüències han sigut devastadores. En el cas de la IA, no ens podem permetre el luxe d’acceptar com si res els eslògans i les campanyes de màrqueting. Ja ens ha quedat ben clar el que impulsa la investigació, el desenvolupament i el desplegament de la IA: l’incentiu, sempre perillós, de situar-se al capdavant. Si aquesta vegada volem que els resultats siguin millors, no podem esperar una altra dècada –potser ni tan sols un any– per prendre mesures.

Copyright The Economist