Tecnologia babau

La humanitat va molt curta d’autoestima. I no és un problema d’ara, sinó que ve de lluny. Sense faltar-nos res per a poder viure amb dignitat, sempre ens ha pesat portar les regnes i amb elles, la responsabilitat sobre la nostra pròpia sort. Aquest estigma, el de la por a la llibertat, ens condemna així sempre de nou a misterioses forces irracionals que, per obra de deu, del mercat i ara de l’algoritme, ens sotmeten a la voluntat aliena, confiant-los la justícia i el poder a sacerdots, economistes i matemàtics. En nom d’absurdes deïtats antropomòrfiques, d’indemostrables principis econòmics o d’un oxímoron tan emmurriat com ho és, si ho pensem en profunditat, el concepte ‘d’intel·ligència artificial’, condemnem sempre de nou la nostra emancipació i progrés social al dictat de veus del tot alienes als nostres interessos, per tal de no voler assumir l’autonomia que ens correspon per la nostra pròpia naturalesa.

L’encaix de les veritats inqüestionables ha respòs sempre a una sola lògica: reproduir les relacions de poder i fer callar, fins a fer-la inaudible, qualsevol temptativa de lucidesa col·lectiva. El nou actor que s’aixeca davant nostre, l’algoritme, ve vestit amb un hàbit codificat i en companyia d’una host d’analistes impol·lutes. La seva església és la de l’ADM; el ‘Algorithm Decision Making’ (presa de decisió algorítmica) que pel seu caràcter ‘inhumà’ sembla ser se li atorga un caire més objectiu i neutral. La clau, com en el cas del mercat o de la religió, és la d’una intel·ligència ‘superior’, la interpretació de la qual queda reservada als ‘iniciats’. Però en realitat son moltes les evidències que mostren fins a quin punt l’ADM afecta ja les nostres vides, i com la seva lògica, no és altre que la d’incrementar beneficis i quotes de poder. Com denuncia Algorithm wach, l’ADM és tot menys neutral. És opac, invasiu i poc democràtic.

Ho descriu encara amb més detall Cathy O’Neil, doctora en matemàtiques per Harvard i que va passar del mon financer al moviment ‘Occupy Wall Street’. Al seu llibre ‘Armes de destrucció matemàtica’ ens mostra com l’ADM incideix avui en l’avaluació del risc creditici, en l’accés a la universitat, en la publicitat i la decisió de compra, en la justícia (per exemple en la predicció de delictes), en l’accés al crèdit o les assegurances, i fins i tot en la recerca d’una parella. Tampoc s’hi lliura el món del treball. La campanya iniciada pel gran sindicat de serveis Uni Global Union defensant acords i contractes col·lectius que delimitin la incidència de l’ADM en les relacions laborals, posa en evidència fins a quin punt aquest comporta riscos per a la salut, deshumanitza la feina o comporta més discriminació. Els casos relatats per UNI, però també per l’autora nord-americana mostren com la dimensió algorítmica és tot menys neutral.

En el telemàrqueting les eines ADM s’utilitzen per exemple per a monitoritzar el llenguatge i el to de veu dels treballadors/es per tal d’assegurar que mantenen una ‘actitud positiva’. Al comerç als EEUU, reforcen la irregularitat dels horaris d’apertura calculant la probabilitat de que tingui visita o no la tenda. A la planificació d’horaris s’hi ha de sumar el control de la productivitat (neotaylorisme), o la selecció de personal que discorre al marge de qualsevol respecte a l’anonimat o a l’equitat en l’accés a una feina. Els ADM gairebé sempre reforcen tendències ja existents, al codificar tan sols el ‘passat’. Simplifiquen i ‘justifiquen’ la presa de decisions (els barems son fixats per altres), i promouen la desigualtat perquè confonen causalitat i correlació (que un afroamericà aporti menys seguretat creditícia pot ser estadístic, però és un prejudici que es confirma a sí mateix).

Tot això passa com sempre sota l’aura de la ‘perfecció’ i la ‘imparcialitat’ ultraterrenes, en aquest cas d’una màquina, en d’altres anteriors de la divinitat o gràcies al inveterat i imparcial motor de la demanda i l’oferta. Ens diu Cathy O’Neil que “si ens retirem i tractem els models matemàtics com si fossin una força neutra e inevitable com la meteorologia o les marees, estarem renunciant a la nostra responsabilitat”. Per això el primer pas és quelcom tan senzill i necessari com “agafar les regnes de la nostra utopia tecnològica”, i desconfiar profundament d’aquells/es que assignin a una màquina un criteri objectiu i neutral. El veredicte d’una màquina és tan interessat i limitat en la seva ‘autonomia’ como ho és una bula papal o el codi ètic d’una multinacional. Per aquesta raó es tracta d’intervenir, participar i assumir la pròpia responsabilitat. Si no ho fem seran ‘altres’ els que, com sempre, ens acabin escrivint la nostra història.