2a Berenar: IA, poder comunitari i tecnologies no extractivistes

La sessió va comptar amb dues convidades principals: Nadia Nadesan, investigadora a Platoniq, que va abordar la relació entre IA i comunitats queer, i Eva Navarro, catedràtica de ciència computacional i responsable de l'arquitectura tecnològica de LaNuestra, que va presentar una mirada humanista i feminista sobre l'arquitectura tecnològica.

La trobada va combinar preguntes preparades, dilemes col·lectius i una conversa oberta sobre biaixos, representació, extractivisme de dades, violència digital i possibilitats d'una IA més comunitària.

Queer a IA

Nadia va proposar entendre la presència queer a la IA des de tres àmbits: la incidència política i la seguretat comunitària; la crítica artística i cultural; i la creació de dades, arxius i visibilitat. Va parlar de xarxes com Queer in AI, de projectes de detecció de transfòbia construïts per comunitats trans i no binàries, i d'obres com The Zizi Project, on els errors dels deepfakes drag mostren els biaixos normatius dels models. La seva pregunta central va travessar tota la sessió: “Com poden les infraestructures d'IA retre comptes davant les comunitats queer i trans, en lloc de limitar-se a extreure'n informació o classificar-les?”.

La conversa va abordar després els biaixos de la IA a la vida quotidiana i en sistemes d'alt impacte. Nadia va explicar que un error aparentment menor -com que una eina generativa assigni sempre el masculí a una artista com Karol G- revela patrons més profunds d'invisibilització. Eva va ampliar el diagnòstic amb exemples d'imatges mèdiques, reclutament automatitzat i recomanació musical: quan manquen dades de dones, persones racialitzades o col·lectius vulnerables, els sistemes produeixen diagnòstics, filtres i recomanacions discriminatòries. "Desafortunadament, els biaixos existeixen. No és una cosa que ja s'hagi superat perquè se n'estigui parlant", va assenyalar.

Prompts humans per entendre com ens relacionem amb les eines tecnològiques

Cristian va obrir també una reflexió sobre la relació corporal amb la tecnologia: no només què contenen aquestes eines, sinó com ens fan moure'ns, expressar-nos i orientar-nos al món. Nadia va respondre amb una imatge clara: “La tecnologia és un portal al qual accedim al món”. Va posar com a exemple Google Maps i els mapes heretats de visions imperials, per recordar que fins i tot les interfícies més quotidianes contenen maneres de mirar, ordenar i simplificar la realitat. La IA, en aquest sentit, no és només una eina externa: hi ha la nostra manera de navegar el món i convé aturar-se a preguntar si aquesta mediació està alineada amb els nostres cossos, experiències i formes de vida.

La nostra com a IA humanista

Eva va presentar també LaNuestra, una comunitat digital impulsada per Cristina Fallarás a partir del moviment Cuéntalo, pensada per recollir, protegir i activar testimonis de violència masclista. El projecte no vol ser un fitxer mort, sinó una infraestructura de cura, memòria i suport mutu, amb acompanyament terapèutic, jurídic i comunitari. La IA pot ajudar a organitzar, anonimitzar i categoritzar testimonis, però sempre de manera supervisada, ètica i no extractivista. “Aquestes dades són dades molt reals, són or, vénen directament de les dones que han estat violentades i abusades”, va explicar Eva, subratllant que les dades oficials només recullen una petita part de la violència existent.

A la seva explicació, Eva va defensar una IA humanista i feminista que no comenci per preguntar què es pot dissenyar, sinó per a qui serveix, qui decideix i quines formes de comunitat permet construir. LaNuestra aspira a convertir-se en un catalitzador: un arbre amb arrels fortes del que puguin créixer altres arxius democràtics, aprenentatges tecnològics i xarxes de suport. Per això va imaginar fins i tot una futura Acadèmia LaNuestra, on joves i persones de diferents edats puguin aprendre programació, dades i IA des de bases sòlides, sense delegar el coneixement en prompts ni en eines que no es comprenen del tot.

La part més crítica de la sessió es va centrar a la IA generativa. Eva va qüestionar la seva adopció indiscriminada: “Per què no ens hem preguntat per què ho hem d'utilitzar?”. Va assenyalar problemes de contaminació de l'aprenentatge, errors, desinformació, plagi, robatori de dades, explotació de moderadors a països de la majoria global, consum d'aigua i energia a centres de dades, violència digital contra dones i usos militars. Davant la fascinació pels grans models, va defensar tornar a preguntes bàsiques de necessitat, escala i responsabilitat: no sempre cal “matar mosques a canonades”.

Tensions i oportunitats

Olivier va tancar la sessió recollint algunes de les tensions principals. El grup havia identificat riscos relacionats amb la discriminació algorítmica, la manca de representació, la petjada ecològica de la IA, la comparació infinita, la pressió estètica, l'autoestima, la definició del “normal” i la invisibilització de diversitats corporals, funcionals, culturals i afectives.

A partir d'aquestes turbulències, es va proposar continuar treballant en dilemes concrets durant els quinze dies següents a la plataforma del projecte. Entre ells: com anonimitzar testimonis sense esborrar-ne la força política; quan ha d'intervenir una IA en una comunitat vulnerable; quines dades val la pena recollir; qui els ha de controlar; i com evitar que la tecnologia que promet reparar una violència acabi amplificant-la.

El tancament va deixar diversos dilemes per continuar treballant: quines dades cal recollir, sota quin control comunitari, com anonimitzar testimonis sense esborrar la seva força política, quan ha d'intervenir una IA en comunitats vulnerables i com evitar que una tecnologia que promet reparar una violència acabi amplificant-la. La conclusió compartida va ser que la pregunta no és simplement si la IA és bona o dolenta, sinó què IA volem, qui la dissenya, amb quins recursos, a partir de quines dades i davant de qui ha de retre comptes.

Dilemes per seguir treballant

Dilema “Soledat connectada”: https://openspaces.platoniq.net/processes/R1/f/540/debates/144

Dilema “Economia de l'atenció”: https://openspaces.platoniq.net/processes/R2/f/542/debates/145

Dilema “Comunitats Digitals”: https://openspaces.platoniq.net/processes/R3/f/543/debates/146

Dilema “Auto-explotació personal”: https://openspaces.platoniq.net/processes/R4/f/544/debates/147

Dilema “Discursos d'odi”: https://openspaces.platoniq.net/processes/R5/f/545/debates/148