LOADING

Type to search

Societat

La bretxa de gènere als algoritmes

Share
ordinador amb algoritmes

Una pantalla d’ordinador amb algoritmes. Font: Pexels

N’hi ha prou amb buscar a Google Imatges els termes “ceo empresa” i “neteja cuina” per adonar-se que alguna cosa falla. En el primer cas la majoria de resultats mostren homes blancs de mitjana edat, mentre que en el segon les protagonistes de les imatges són dones. L’ordre amb què ens apareixen els resultats als cercadors no és casualitat i al darrere hi ha els algoritmes, un conjunt de fórmules matemàtiques dissenyades bàsicament per homes. Així ho constata el baròmetre CTecno del sector tecnològic del 2020: a Catalunya, entre els professionals que creen aquest tipus de codi, les dones representen un 8%.

“És com si les ciutats les dissenyessin només homes, concretament homes blancs i rics”, apunta la tecnòloga i jurista Thais Ruiz. En aquesta línia, Ruiz explica que el món digital que s’està construint té “mancances” perquè s’està fent des d’una mirada determinada, que als Estats Units s’ha batejat com a “cultura brogrammer“. El terme fa referència al perfil que impera entre els dissenyadors de programari: homes blancs de classe mitjana-alta que viuen en grans ciutats. “Si no ho parem ja, portarà molts problemes”, alerta Ruiz.

“Cultura brogrammer” fa referència al perfil que impera entre els dissenyadors de programari: homes blancs de classe mitjana-alta que viuen en grans ciutats 

Malgrat que els algoritmes poden semblar un concepte abstracte, la realitat és que estan darrere de moltes eines que fem servir en el nostre dia a dia: assistents com Siri o Alexa, la llista de suggeriments de Spotify o Netflix, les notificacions de xarxes socials com Instagram o Facebook o els traductors en línia, entre molts altres.

De fet, la Universitat Pompeu Fabra ha publicat recentment un estudi que constata que hi ha un biaix en els algoritmes de recomanacions musicals. Després d’estudiar resultats de dos conjunts de dades, els autors van confirmar que les artistes dones, de per si, tenen menys exposició a partir de les recomanacions del sistema. A més, asseguren que la situació s’agreuja si es té en compte que, a mesura els usuaris escolten les cançons, l’algoritme n’aprèn. Tot plegat crea una espiral que es retroalimenta en detriment de les artistes. 

Les artistes dones, de per si, tenen menys exposició a partir de les recomanacions del sistema

Ara bé, el problema no només està en qui dissenya les fórmules. Els algoritmes es regeixen per la intel·ligència artificial, de manera que repliquen i amplien els biaixos de gènere que hi ha en les dades. En aquest sentit, Ruiz explica que si les dades no estan estructurades seguint enfocaments interseccionals, ja sigui de gènere, de classe, d’ètnia o altres categories socials, ja existeix un biaix de partida. Tot plegat s’agreuja quan, qui dissenya codi a partir de les dades, no veu estrany que totes les recomanacions musicals, posem per cas, siguin d’homes.

“La tecnologia ens està superant i en aquests moments no sabem gestionar-la”, alerta Ruiz. La jurista assegura que existeix un problema i no en som conscients. “Els dirigents de Twitter no saben per què l’algoritme escull depèn quines imatges”, assegura.

Tot plegat s’agreuja quan, qui dissenya codi a partir de les dades, no veu estrany que totes les recomanacions musicals, posem per cas, siguin d’homes

Ruiz és la fundadora i directora de DigitalFems una entitat que dissenya projectes per augmentar la presència de dones en entorns tecnològics. Un dels últims que han creat és Datos contra el ruido, una base de dades que visibilitza la informació que publica el sistema judicial i la policia sobre les violències masclistes. “Fem una manifestació molt gràfica de com el feminisme de dades ens pot ajudar a entendre la realitat d’una altra manera”, detalla Ruiz. 

Així, per exemple, el que fa Datos contra el ruido és agafar les dades oficials i incloure’n d’altres per tal de donar una perspectiva més curosa. “Per saber quina és la incidència de denúncies de dones en un cert territori el que fem és comparar-ho amb el territori total de població, per exemple, i el total de dones que viuen en l’àrea geogràfica, cosa que altres fonts de dades oficials no fan”, explica Ruiz. Entre moltes altres xifres, la plataforma posa de manifest, per exemple, que el 2019 hi va haver 22 denúncies cada hora per violència masclista.

DigitalFems és una entitat que dissenya projectes per augmentar la presència de dones en entorns tecnològics

DigitalFems també ha impulsat juntament amb l’Ajuntament de Barcelona Bcn Fem Tech, un programa que pretén aconseguir l’equitat de gènere al sector tecnològic i potenciar la inserció laboral d’una cinquantena de dones en situació de vulnerabilitat. A més, Ruiz assegura que és un sector on hi ha més demanda laboral que no pas oferta.

“És important crear espais no mixtes perquè és on realment les nenes poden sentir-se una mica més lliures i estar empoderades”, defensa Ruiz. El biaix de gènere existent al món laboral també està present als estudis de les professions tecnològiques. En la majoria de graus d’enginyeria que es poden cursar a les universitats catalanes, el nombre de matriculades no arriba al 20%. A més, segons la Universitat Politècnica de Catalunya (UPC), la manca de dones s’accentua encara més als estudis de tecnologies de la informació i la comunicació (TIC). Tot plegat perpetua els rols de gènere. 

“És important crear espais no mixtes perquè és on realment les nenes poden sentir-se una mica més lliures i estar empoderades”

“L’única manera que hi ha de millorar tot això és visibilitzant la necessitat d’incorporar més perspectives diverses al món de la tecnologia”, conclou Ruiz. Les dades ho constaten: l’Institut Català de les Dones ha publicat aquest mes d’abril l’estudi “Dones en les TIC”, on conclou que els homes reben més estímuls que les dones per dedicar-se a àmbits relacionats amb la tecnologia. Tenint en compte que és un sector que any rere any està en creixement, queda molta feina per fer. 

Tags:
Maria Asmarat

Periodista. També estudio Ciències Polítiques a la UPF.

  • 1