2a Merienda: IA, poder comunitario y tecnologías no extractivistas

La sesión contó con dos invitadas principales: Nadia Nadesan, investigadora en Platoniq, que abordó la relación entre IA y comunidades queer, y Eva Navarro, catedrática de ciencia computacional y responsable de la arquitectura tecnológica de LaNuestra, que presentó una mirada humanista y feminista sobre la arquitectura tecnológica.

El encuentro combinó preguntas preparadas, dilemas colectivos y una conversación abierta sobre sesgos, representación, extractivismo de datos, violencia digital y posibilidades de una IA más comunitaria.

Queer en IA

Nadia propuso entender la presencia queer en la IA desde tres ámbitos: la incidencia política y la seguridad comunitaria; la crítica artística y cultural; y la creación de datos, archivos y visibilidad. Habló de redes como Queer in AI, de proyectos de detección de transfobia construidos por comunidades trans y no binarias, y de obras como The Zizi Project, donde los fallos de los deepfakes drag muestran los sesgos normativos de los modelos. Su pregunta central atravesó toda la sesión: “¿Cómo pueden las infraestructuras de IA rendir cuentas ante las comunidades queer y trans, en lugar de limitarse a extraer información de ellas o clasificarlas?”.

La conversación abordó después los sesgos de la IA en la vida cotidiana y en sistemas de alto impacto. Nadia explicó que un error aparentemente menor —como que una herramienta generativa asigne siempre el masculino a una artista como Karol G— revela patrones más profundos de invisibilización. Eva amplió el diagnóstico con ejemplos de imágenes médicas, reclutamiento automatizado y recomendación musical: cuando faltan datos de mujeres, personas racializadas o colectivos vulnerables, los sistemas producen diagnósticos, filtros y recomendaciones discriminatorias. “Desafortunadamente, los sesgos existen. No es algo que ya se haya superado porque se esté hablando de ello”, señaló.

Prompts humanos para entender como nos relacionamos con las herramientas tecnológicas

Cristian abrió también una reflexión sobre la relación corporal con la tecnología: no solo qué contienen estas herramientas, sino cómo nos hacen movernos, expresarnos y orientarnos en el mundo. Nadia respondió con una imagen clara: “La tecnología es un portal al que accedemos al mundo”. Puso como ejemplo Google Maps y los mapas heredados de visiones imperiales, para recordar que incluso las interfaces más cotidianas contienen formas de mirar, ordenar y simplificar la realidad. La IA, en ese sentido, no es solo una herramienta externa: media nuestra manera de navegar el mundo y conviene detenerse a preguntar si esa mediación está alineada con nuestros cuerpos, experiencias y formas de vida.

LaNuestra como IA humanista

Eva presentó también LaNuestra, una comunidad digital impulsada por Cristina Fallarás a partir del movimiento Cuéntalo, pensada para recoger, proteger y activar testimonios de violencia machista. El proyecto no quiere ser un archivo muerto, sino una infraestructura de cuidado, memoria y apoyo mutuo, con acompañamiento terapéutico, jurídico y comunitario. La IA puede ayudar a organizar, anonimizar y categorizar testimonios, pero siempre de forma supervisada, ética y no extractivista. “Estos datos son datos muy reales, son oro, vienen directamente de las mujeres que han sido violentadas y abusadas”, explicó Eva, subrayando que los datos oficiales solo recogen una pequeña parte de la violencia existente.

En su explicación, Eva defendió una IA humanista y feminista que no empiece por preguntar qué se puede diseñar, sino para quién sirve, quién decide y qué formas de comunidad permite construir. LaNuestra aspira a convertirse en un catalizador: un árbol con raíces fuertes del que puedan crecer otros archivos democráticos, aprendizajes tecnológicos y redes de apoyo. Por eso imaginó incluso una futura Academia LaNuestra, donde jóvenes y personas de distintas edades puedan aprender programación, datos e IA desde bases sólidas, sin delegar el conocimiento en prompts ni en herramientas que no se comprenden del todo.

La parte más crítica de la sesión se centró en la IA generativa. Eva cuestionó su adopción indiscriminada: “¿Por qué no nos hemos preguntado por qué lo tenemos que utilizar?”. Señaló problemas de contaminación del aprendizaje, errores, desinformación, plagio, robo de datos, explotación de moderadores en países de la mayoría global, consumo de agua y energía en centros de datos, violencia digital contra mujeres y usos militares. Frente a la fascinación por los grandes modelos, defendió volver a preguntas básicas de necesidad, escala y responsabilidad: no siempre hace falta “matar moscas a cañonazos”.

Tensiones y oportunidades

Olivier cerró la sesión recogiendo algunas de las tensiones principales. El grupo había identificado riesgos relacionados con la discriminación algorítmica, la falta de representación, la huella ecológica de la IA, la comparación infinita, la presión estética, la autoestima, la definición de lo “normal” y la invisibilización de diversidades corporales, funcionales, culturales y afectivas.

A partir de estas turbulencias, se propuso continuar trabajando en dilemas concretos durante los siguientes quince días en la plataforma del proyecto. Entre ellos: cómo anonimizar testimonios sin borrar su fuerza política; cuándo debe intervenir una IA en una comunidad vulnerable; qué datos merece la pena recoger; quién debe controlarlos; y cómo evitar que la tecnología que promete reparar una violencia termine amplificándola.

El cierre dejó varios dilemas para seguir trabajando: qué datos recoger, bajo qué control comunitario, cómo anonimizar testimonios sin borrar su fuerza política, cuándo debe intervenir una IA en comunidades vulnerables y cómo evitar que una tecnología que promete reparar una violencia termine amplificándola. La conclusión compartida fue que la pregunta no es simplemente si la IA es buena o mala, sino qué IA queremos, quién la diseña, con qué recursos, a partir de qué datos y ante quién debe rendir cuentas.

Dilemas para seguir trabajando

Dilema “Soledad conectada”: https://openspaces.platoniq.net/processes/R1/f/540/debates/144

Dilema “Economía de la atención”: https://openspaces.platoniq.net/processes/R2/f/542/debates/145

Dilema “Comunidades Digitales”: https://openspaces.platoniq.net/processes/R3/f/543/debates/146

Dilema “Auto-explotación personal”: https://openspaces.platoniq.net/processes/R4/f/544/debates/147

Dilema “Discursos de odio”: https://openspaces.platoniq.net/processes/R5/f/545/debates/148