Menu
19 d'abril de 2024
Les aplicacions de la IA ocupen un lloc cada cop més important a la nostra societat, gràcies als desenvolupaments tecnològics relacionats amb la recollida i l’anàlisi de dades (big data). Per això, i perquè hi ha zones grises preocupants, el desenvolupament d’aquestes noves tecnologies demana una seriosa reflexió ètica i les consegüents mesures institucionals. Entre aquestes preocupacions hi ha l’amenaça que la IA suposa per a la vida democràtica, com ho va demostrar l’aliança entre Facebook i Cambridge Analytica, especialitzada en extracció de dades, per manipular l’opinió pública durant les eleccions presidencials dels Estats Units del 2016.
La recollida massiva de dades personals, essencials per a l’aprenentatge automàtic, és un altre tema preocupant. L’ús de dades personals molt sensibles (relacionades amb l’orientació sexual, l’origen ètnic, l’afiliació religiosa i les opinions polítiques, per exemple) no només es pot utilitzar per crear perfils estàndard per a operacions de màrqueting dirigides, sinó també per entrenar algorismes per identificar o, fins i tot, predir el comportament dels usuaris. A més de plantejar greus problemes en matèria de drets humans, aquest tipus de tecnologia ha sigut molt criticada perquè pot contribuir a reforçar l’exclusió i les desigualtats socials: és probable que les persones que programen els formularis de captura de dades, que codifiquen algorismes i creen aplicacions integrin diferents biaixos discriminatoris a la fórmula.
El sociòleg Dominique Cardon es pregunta, a Con qué sueñan los algoritmos. Nuestras vidas en el tiempo de los big data (Dado Ediciones, 2018), no només quins mons estan produint els algorismes, sinó sobretot quines característiques del món actual –inclosos els prejudicis i els judicis racistes– reproduiran. Davant les diferents amenaces que planteja la IA, estan sorgint noves formes de resistència. Per exemple, algunes organitzacions han assumit la tasca de conscienciar el públic sobre la IA i els seus diferents problemes principals. L’organització internacional de drets humans Access Now publica articles crítics sobre els efectes de les aplicacions d’IA sobre la llibertat d’expressió, la democràcia i la privadesa.
Tant de bo Catalunya esdevingui líder en termes de reflexió ètica al servei de les empreses per al desenvolupament responsable de la IA. Entre els temes cabdals per tractar: la justícia social, cobrint temes com els biaixos algorísmics i el deure de representar la diversitat. Calen mesures institucionals per garantir que els principis ètics es tinguin en compte des de la creació de projectes concrets i es posin com a condicions per a qualsevol finançament públic. Crear un espai institucional que tingui com a missió supervisar les inversions per tal que tothom se’n beneficiï. Car, com tot en el sector tecnològic, el neoliberalisme imperant tendeix a eclipsar la reflexió ètica, sovint infrafinançada i marginada.
Sense mesures d’aquest tipus, el discurs ètic corre el risc de servir només de garantia moral per a un desenvolupament fortament finançat amb fons públics però que, en realitat, no serveix necessàriament a l’interès general i principalment beneficia la comunitat empresarial i un cercle restringit d’investigadors universitaris.
Actualment, el desenvolupament de la IA se centra principalment en la creació de ginys cars i la necessitat de les empreses de millorar la seva eficiència i productivitat sense cap consideració real pel bé comú. No obstant això, si cap mesura política regula les activitats econòmiques de la IA, els riscos socials que porta associats no es poden realment minimitzar i res no garanteix que les grans inversions públiques es metamorfosegin en resultats per a tota la ciutadania.
Ezequiel Mir Casas
Tècnic de Càritas Diocesana de Girona. Docent i llicenciat en Ciències Religioses per l’ISCREB
@CasasMir
