Què és pitjor, atropellar dues noies o dues dones grans?

BarcelonaEl primer accident mortal d’un cotxe autònom la setmana passada als EUA, en què va morir una vianant, revifa el debat sobre la sinistralitat d’aquest tipus de vehicles. La qüestió sobre com han d’actuar aquestes màquines en cas d’accident ja la va posar sobre la taula ara fa uns mesos el Massachusetts Institute of Technology (MIT). Aquest prestigiós institut promou un test online anomenat Moral Machine, la moral de les màquines, que planteja als internautes diferents dilemes ètics: ¿a qui ha d’atropellar un cotxe autònom, a dues noies, dues dones grans i un home gran o bé a dues nenes, un nen i dues dones? Si el vehicle sense conductor ha de triar encastar-se contra un mur i que morin els seus quatre ocupants o bé atropellar quatre transeünts que travessen en vermell i són una persona sense sostre i tres criminals, ¿quina serà l’elecció? La iniciativa intenta obtenir una moral universal per a les màquines, criteris que els informàtics puguin aplicar a l’hora de programar algoritmes per als cotxes sense conductor.

La qüestió no és trivial, ja que es preveu un auge d’aquest tipus de vehicles: l’Institute of Electrical and Electronics Engineers calcula que el 75% de cotxes el 2040 seran autònoms. “Són preguntes capcioses -afirma Guillem Bernatallada, cap de projectes de vehicle connectat del RACC-. Els vehicles no hauran de decidir a qui atropellaran, perquè l’ordre que donarà l’algoritme serà frenar”. Per a Bernatallada, aquestes màquines milloraran la seguretat viària, ja que s’eliminaran les que, segons el Servei Català de Trànsit, són les principals causes d’accident: les infraccions i les distraccions del conductor. “Els sensors i els sistemes cooperatius li permetran avançar-se. Si el cotxe de davant detecta congestió, informarà els que van al darrere”, assegura Bernatallada.

Els experts reconeixen, però, que el risc zero no existeix, hi haurà accidents que no poden ser evitats ni per cotxes tradicionals ni pels autònoms, com sembla que ha passat als EUA. A més, emergiran noves causes de sinistralitat, com ara el hacking dels vehicles o dels senyals de trànsit, l’error o el frau en els algoritmes, i problemes amb la interacció entre cotxes sense conductor i vehicles tradicionals. “La ciberseguretat és més important que mai -remarca Josep Domingo Ferrer, director de la Càtedra Unesco en Privadesa de Dades a la URV-. Els algoritmes dels cotxes autònoms han de seguir les regles que se’ls han donat i han de ser inviolables”.

En alguns assajos, ja s’han produït sinistres amb cotxes que incorporen algun tipus de conducció autònoma. Amb l’augment d’aquest parc de vehicles, és previsible que se’n produeixin més. En aquests casos, qui assumirà la responsabilitat?

Per a Miquel Campos, advocat especialitzat en tecnologia d’Augusta Abogados, és una qüestió encara oberta: “El que més s’accepta és la teoria de la responsabilitat del fabricant, perquè el vehicle es mou amb un programari que pren les decisions”. Campos afegeix que la responsabilitat recauria en el fabricant del cotxe o el del programari, si és que els algoritmes s’han desenvolupat fora de l’empresa de vehicles. L’advocat nega que es pugui traspassar la responsabilitat al conductor amb una clàusula en un contracte de termes i condicions que es podria considerar “abusiva”. Tot i això, si el conductor pot prendre el control del vehicle quan la màquina el perd, sí que en seria culpable.

“Si els fabricants de vehicles diuen que han fet servir la Moral Machine, es poden descarregar part de la culpa. En certa manera, traspassen la responsabilitat a la societat”, puntualitza Domingo Ferrer, que qüestiona també que hi hagi una moral universal que es pugui extrapolar a les màquines, ja que l’ètica no és aliena a cultures, societats i el pas del temps. I en cas de hackeig? “El fabricant seria el culpable d’haver fet un programari poc segur; però, d’altra banda, s’excusaria en el fet que algú l’ha alterat”, respon l’expert de la URV.

Prevenir els ‘hackejos’

L’equip de Domingo Ferrer està treballant amb fabricants de vehicles en matèria de ciberseguretat, amb qüestions com ara la criptografia postquàntica, és a dir, un protocol d’encriptació més segur que l’actual i que els ordinadors quàntics que venen no puguin trencar. En l’últim MWC ja es va poder veure l’aposta dels fabricants de cotxes per la tecnologia.

Els vehicles autònoms plantegen reptes socials i legislatius. “El principal problema serà la convivència entre cotxes autònoms i convencionals, i també amb vianants. Si un vianant sap que un vehicle sempre frenarà, podria no parar-se mai en un semàfor en vermell”, explica Bernatallada. Aquest expert del RACC afegeix que caldrà més formació: “Els conductors han d’aprendre a fer anar aquesta tecnologia i saber reaccionar quan el cotxe, en un moment determinat, perd el control”. Campos afirma que hi ha poca normativa específica per a aquest tipus de màquines i creu que els legisladors, a més d’abordar la ciberseguretat i la convivència entre vehicles sense conductor i tradicionals, també hauran de tenir en compte la recopilació de dades i la privacitat.