El Chat GPT i el biaix de gènere

Aquest giny d’intel·ligència artificial que genera textos ell solet sobre qualsevol tema i en qualsevol idioma està en boca de tothom des que se’n va fer el llançament el novembre passat. Li pots demanar dubtes, que escrigui una poesia o fins i tot que redacti aquesta columna. I, si vols, hi pots interaccionar via WhatsApp, on ell mateix s’anomena “God in a box”. Té la seva gràcia tenir als contactes del mòbil “Déu en una capsa”.

Inscriu-te a la newsletter Pensem Les opinions que et fan pensar, t’agradin o no

Inscriu-t’hi

Que si té limitacions? I tant. Com va dir fa poc a la UOC el mític Kazuhiko Nishi (creador del MSX, un dels primers ordinadors), “el ChatGPT encara és força babau”. I, de fet, la pàgina d’entrada del giny en qüestió ja ho diu ben clarament, que pot generar informació incorrecta. Dins dels diversos i amplis usos que pot tenir, em centraré aquí en la seva utilitat per a la ciència. Si seguiu el tuitaire Mushtaq Bilal veureu l’ús intel·ligent que se’n pot fer en el món acadèmic. Per exemple, pots introduir la transcripció d’una xerrada teva i demanar-li que elimini les redundàncies. O que hi afegeixi la puntuació. Això et pot generar un bon esborrany per seguir editant. També pots demanar que confeccioni un índex per a una presentació sobre un tema científic en concret i això et pot servir per estructurar la teva intervenció. O que et generi preguntes per a una entrevista de selecció o promoció de professorat. Llavors elabores les respostes per a la teva pròpia àrea d’expertesa científica i vas amb més preparació a l’entrevista.

Com no podia ser d’altra manera, aquesta eina que ha batut rècords de popularitat entre acadèmics també té biaixos, un dels quals és el de gènere. Per això l’he confrontat directament amb aquest problema i m’ha dit: "Com a model de llenguatge, ChatGPT té com a font principal de dades textos en línia que reflecteixen la cultura, les opinions i les creences de la societat. Això significa que el model reflecteix els biaixos humans que existeixen en la societat, inclosos els biaixos de gènere”. I que: “En general, els biaixos de gènere en la ciència es manifesten en diferents formes, com ara la falta de dones en posicions de lideratge, la discriminació en l'assignació de recursos i la infravaloració dels èxits de les dones. Com a resultat, la presència i el reconeixement de les dones en la ciència sovint són minimitzats i invisibilitzats”. 

Val a dir que també es defensa tot solet i demana als humans que fem el favor de programar-lo com cal. Bé, ho diu més finament: “Per superar aquests biaixos, és important que els programadors de ChatGPT i altres models de llenguatge prenguin mesures per afavorir la inclusió i la diversitat en els seus algoritmes. Això pot ser a través de la recopilació de dades més diverses, la formació de la intel·ligència artificial per afavorir la igualtat de gènere i la inclusió, i la revisió crítica dels resultats generats pel model per identificar i corregir possibles biaixos”. Desenvolupadors de ChatGPT, feu-li cas, va.

Dossier Intel·ligència artificial: ens pot substituir?

Següent

Perills i beneficis de la intel·ligència artificial

Anterior

Contra el monopoli de la IA

Vés a l’ÍNDEX