Filòlegs, meteoròlegs, tecnòlegs i entrenadors del Barça
29
de Setembre
de
2016
Dilluns passat La Vanguardia va publicar un article meu que havia escrit arran de l'accident que va tenir el cotxe del President de la Generalitat (aquí en obert al meu Medium). L'article explorava el dilema de la vagoneta aplicat a la decisió que hauria de prendre un cotxe sense conductor en cas d'accident inevitable amb víctimes. Em vaig basar en el Moral Machine, una plataforma interactiva del MIT per a recollir la perspectiva humana en decisions morals fetes per vehicles sense conductor.
El president va llegir l'article i el va recomanar a Twitter. A banda de la injecció d'ego que suposa que el president et llegeixi i te'n faci un tuit —li torno l'interessant i l'inquietant—, li voldria agrair també el debat posterior que l'article va generar a Twitter del qual se'n poden aprendre moltes coses.
La primera és que els catalans, a banda de portar a dins un filòleg, un meteoròleg i un entrenador del Barça, també hi portem un expert en robòtica i intel·ligència artificial. I no ho dic de broma. Els usuaris de Twitter que van participar de manera espontània en el debat van fer aportacions molt interessants que m'agradaria compartir. En línies generals els arguments que van sortir es poden classificar en tres categories: els referents a les tres lleis de la robòtica d'Asimov, els referents a la internet de les coses i els arguments tecnòfobs o ludites.
Les tres lleis de la robòtica
En un conte escrit l'any 1942 Isaac Asimov explorava la relació que tindríem els humans amb els robots al segle XXI. Hi enunciava les tres lleis següents:
No pocs lectors em van fer notar que el cotxe del president no podia fer mal a ningú atès que violaria la primera llei. Però en la situació que plantejava a l'article la premissa era que els sistemes de seguretat del cotxe no podien evitar un accident amb víctimes. No es tractava doncs d'una acció deliberada d'un robot —del cotxe sense conductor— sinó d'una situació forçada amb resultat fatal inevitable, i és aquí on sorgeix el dilema.
L'Alan Winfield ha fet una simulació on un robot ha de salvar dos humans que van cap a un precipici. El fet de respectar la primera llei el porta en alguns casos al bloqueig amb el resultat de la mort dels dos humans.
La internet de les coses
Un altre argument recurrent va ser el de la intel·ligència de les coses. El 2026, any on se situava l'acció, els vehicles tindran consciència i sabran en tot moment l'estat dels seus components. Una roda mai no es podrà desprendre d'un camió atès que molt abans que hi hagi un risc prou alt el camió se n'adonaria i ja no sortiria del garatge.
Compro l'argument i l'aixeco al fet que qualsevol vehicle que circuli en una xarxa de transport intel·ligent tindrà les condicions mínimes de seguretat i fiabilitat, i només sortirà a la carretera si és conscient que pot garantir que respectarà les tres lleis d'Asimov.
Això seria així si el canvi del parc de vehicles amb conducció humana a vehicles sense conductor fos d'un dia per l'altre, però em temo que això no passarà i durant molt de temps conviuran els dos models. D'altra banda, bo i estant en un escenari 100% intel·ligent i hiperconnectat, el factor aleatori sempre existirà, i això sense tenir en compte possibles accions de hackers sobre xarxes de transport i vehicles.
Els arguments tecnòfobs
L'altra gran línia argumental —l'article hi portava— era la dels lectors reticents al canvi, en un fals debat persona-màquina. "No vull deixar la meva vida en mans de les màquines", deia una lectora. Massa tard. El moment en què les màquines van començar a controlar les nostres vides ja fa temps que ha passat: darrere la música que escoltem, les pel·lícules que veiem i les parades que fem als semàfors del carrer Aragó hi ha complexos algorismes d'intel·ligència artificial que condicionen el nostre comportament.
Uber està donant servei de transport amb vehicles sense conductor a Pittsburghi l'ajuntament de Helsinki ja ha posat en funcionament minibusos elèctrics autònoms. Semblaria que les màquines estan més ben preparades que nosaltres pel canvi i que la pressió la tenim ara els humans per a resoldre tots els problemes ètics i legals que se'n deriven. A mi de moment, més que les màquines, encara em preocupen més els conductors que van pel carril del mig de l'autopista; aquests segur que no compleixen la primera llei de la robòtica d'Asimov.
El president va llegir l'article i el va recomanar a Twitter. A banda de la injecció d'ego que suposa que el president et llegeixi i te'n faci un tuit —li torno l'interessant i l'inquietant—, li voldria agrair també el debat posterior que l'article va generar a Twitter del qual se'n poden aprendre moltes coses.
La primera és que els catalans, a banda de portar a dins un filòleg, un meteoròleg i un entrenador del Barça, també hi portem un expert en robòtica i intel·ligència artificial. I no ho dic de broma. Els usuaris de Twitter que van participar de manera espontània en el debat van fer aportacions molt interessants que m'agradaria compartir. En línies generals els arguments que van sortir es poden classificar en tres categories: els referents a les tres lleis de la robòtica d'Asimov, els referents a la internet de les coses i els arguments tecnòfobs o ludites.
Les tres lleis de la robòtica
En un conte escrit l'any 1942 Isaac Asimov explorava la relació que tindríem els humans amb els robots al segle XXI. Hi enunciava les tres lleis següents:
- Un robot no pot fer mal a un ésser humà o, per inacció, permetre que un ésser humà prengui mal.
- Un robot ha d'obeir les ordres dels éssers humans, sempre que no entrin en conflicte amb la primera llei.
- Un robot ha de protegir la seva pròpia existència sempre que això no entri en conflicte amb la primera o la segona llei.
No pocs lectors em van fer notar que el cotxe del president no podia fer mal a ningú atès que violaria la primera llei. Però en la situació que plantejava a l'article la premissa era que els sistemes de seguretat del cotxe no podien evitar un accident amb víctimes. No es tractava doncs d'una acció deliberada d'un robot —del cotxe sense conductor— sinó d'una situació forçada amb resultat fatal inevitable, i és aquí on sorgeix el dilema.
L'Alan Winfield ha fet una simulació on un robot ha de salvar dos humans que van cap a un precipici. El fet de respectar la primera llei el porta en alguns casos al bloqueig amb el resultat de la mort dels dos humans.
La internet de les coses
Un altre argument recurrent va ser el de la intel·ligència de les coses. El 2026, any on se situava l'acció, els vehicles tindran consciència i sabran en tot moment l'estat dels seus components. Una roda mai no es podrà desprendre d'un camió atès que molt abans que hi hagi un risc prou alt el camió se n'adonaria i ja no sortiria del garatge.
Compro l'argument i l'aixeco al fet que qualsevol vehicle que circuli en una xarxa de transport intel·ligent tindrà les condicions mínimes de seguretat i fiabilitat, i només sortirà a la carretera si és conscient que pot garantir que respectarà les tres lleis d'Asimov.
Això seria així si el canvi del parc de vehicles amb conducció humana a vehicles sense conductor fos d'un dia per l'altre, però em temo que això no passarà i durant molt de temps conviuran els dos models. D'altra banda, bo i estant en un escenari 100% intel·ligent i hiperconnectat, el factor aleatori sempre existirà, i això sense tenir en compte possibles accions de hackers sobre xarxes de transport i vehicles.
Els arguments tecnòfobs
L'altra gran línia argumental —l'article hi portava— era la dels lectors reticents al canvi, en un fals debat persona-màquina. "No vull deixar la meva vida en mans de les màquines", deia una lectora. Massa tard. El moment en què les màquines van començar a controlar les nostres vides ja fa temps que ha passat: darrere la música que escoltem, les pel·lícules que veiem i les parades que fem als semàfors del carrer Aragó hi ha complexos algorismes d'intel·ligència artificial que condicionen el nostre comportament.
Uber està donant servei de transport amb vehicles sense conductor a Pittsburghi l'ajuntament de Helsinki ja ha posat en funcionament minibusos elèctrics autònoms. Semblaria que les màquines estan més ben preparades que nosaltres pel canvi i que la pressió la tenim ara els humans per a resoldre tots els problemes ètics i legals que se'n deriven. A mi de moment, més que les màquines, encara em preocupen més els conductors que van pel carril del mig de l'autopista; aquests segur que no compleixen la primera llei de la robòtica d'Asimov.