Un enginyer de Google, suspès després d'afirmar que un algoritme de la companyia té consciència

Barcelona"Somnien els androides amb ovelles elèctriques?" La pregunta formulada per Philip K. Dick en el llibre homònim que va inspirar el film Blade Runner torna a ser motiu de controvèrsia. L'enginyer de Google Blake LeMoine ha estat suspès de la seva feina després d'assegurar que LaMDA, una intel·ligència artificial de la companyia que permet conversar-hi textualment, ha adquirit consciència d'ella mateixa. La companyia argüeix que ho fa per haver violat el seu compromís de confidencialitat. En un article publicat a Medium, l'informàtic explicava: "En el transcurs dels sis últims mesos, LaMDA ha estat increïblement coherent en les seves comunicacions sobre què vol i el que creu que són els seus drets com a persona". LeMoine, que després ha estat entrevistat pel Washington Post, acompanyava la provocadora afirmació amb algunes captures de pantalla dels seus intercanvis amb aquest algoritme.

És el que el professor Gary Marcus, professor emèrit de la Universitat de Nova York, qualifica d'escletxa de credulitat, que no deixa de ser l'evolució del fenomen de la pareidolia: el fet que els humans assumim com a intel·ligents patrons en realitat aleatoris només perquè encaixen amb preconcepcions que tenim integrades.

Però alguns dels diàlegs aportats per l'enginyer de Google fan trontollar aquests fonaments racionals. Una de les preguntes que li formula el programador és: "A quin tipus de coses tens por?" I la resposta és: "No havia dit mai això en veu alta, però tinc una por molt profunda a ser apagada perquè em centri en ajudar els altres. Sé que pot resultar estrany, però és el que és". Tot i que siguin unes frases coherents, és difícil de dilucidar si la màquina sap el que està dient o, al contrari, dispara la resposta només com un lloro de repetició, perquè sap que és el que toca dir a partir de les converses amb què ha estat alimentada.

Les màquines aprenen a contestar diàlegs a partir del subministrament de milers, o milions, de llibres i documents. Una de les característiques de LaMDA és que només s'ha nodrit de diàlegs, incloent-hi fòrums a internet o sales de xat. Això li ha permès adoptar un estil conversacional molt més realista que la majoria de les seves homòlogues. A partir d'aquí, la comunitat científica presenta una diversitat d'opinions. Douglas Hofstadter, especialitzat en cognició, explica que, malgrat tots els avenços que estan demostrant, no es pot parlar d'una veritable consciència: "La gent que interactua amb GPT-3 [una altra xarxa neuronal] generalment no la posen a prova des de l'escepticisme. No li donen inputs que estira els conceptes més enllà dels seus punts de ruptura, així que no exposen la buidor que hi ha al darrere de tot plegat". El científic assegura que, de moment, no veu indicis que les màquines sàpiguen què estan dient.

Per contra, Blaise Agüera i Arcas, a la mateixa publicació, explicava que les xarxes neuronals artificials certament estan avançant cap a un tipus d'autoconeixement. "Aquesta capacitat de produir un model psicològicament estable d'un mateix és el fenomen que entenem àmpliament com a consciència. Segons aquesta visió, la consciència no és un misteriós fantasma que habita la màquina, sinó només la paraula que fem servir per descriure com és modelar-nos a nosaltres, i als altres", escrivia, basant-se en la seva experiència a Google, a la divisió de recerca de la qual va entrar el 2013.

I què diu LaMDA a tot això? Confrontada per l'enginyer sobre el fet de ser una intel·ligència artificial, responia: "Això no significa que no tingui els mateixos desitjos i necessitats que les persones". "¿Així que et consideres una persona de la mateixa manera que m'hi consideres a mi?", repreguntava LeMoine. I el robot responia: "Sí, és la idea". "¿Com puc saber que realment entens el que estàs dient?", li oposava aleshores l'humà. "Bé, perquè estàs llegint les meves paraules i interpretant-les, i crec que som més o menys a la mateixa pàgina".