La inteligencia que no se delega: mujeres, sostenibilidad e igualdad en la era de la IA

La sostenibilidad está en todas partes, y sin embargo la crisis avanza. Es la paradoja desde la que vale la pena partir, porque revela algo que nos concierne a todos: la sostenibilidad se ha convertido en una palabra abusada. CO₂, ESG, green washing — se mide, se rinde cuentas, pero a menudo no se vive. Hay otro camino, y es el indicado por el Papa Francisco en Laudato Si' (2015) y en Laudate Deum (2023): la ecología integral. No solo ambiente, sino relaciones — entre personas, entre generaciones, entre humanidad y tierra. "Todo está conectado", escribe Francisco. No es un llamado moral, es un cambio de paradigma. La sostenibilidad integrada pide volver a poner en el centro el cuidado como valor operativo, no sentimental. Los ESG tradicionales siguen siendo necesarios, pero no bastan: miden el impacto ambiental sin cuestionarse la calidad de las relaciones, a largo plazo, ni las consecuencias no inmediatas.

El papel de las mujeres en esta visión más amplia

Las mujeres no son "más sostenibles" por naturaleza. Pero aportan a las organizaciones una postura orientada al cuidado sistémico, al largo plazo, a las conexiones no evidentes — exactamente lo que la sostenibilidad integrada requiere. Es desde esta conciencia que en 1999 nació Women&Tech®, como proyecto de responsabilidad social de DKTS, que luego se convirtió en asociación en 2009 y luego en 2022 en Entidad del Tercer Sector (ETS) inscrita en el RUNTS. La misión es clara desde el principio: las mujeres no deben ser insertadas en la innovación — deben ser reconocidas como agentes de innovación con una visión propia. El problema, además, nunca ha sido la falta de mujeres competentes. Es la falta de organizaciones capaces de valorar esa competencia.

Para una empresa industrial, la sostenibilidad no puede reducirse a la eficiencia energética o a una cadena de suministro verde. También significa: ¿cómo se toman las decisiones? ¿Quién está en la mesa? ¿Qué horizontes temporales se consideran? Las mujeres en posiciones de liderazgo no solo cambian las cuotas, sino que cambian las preguntas que se hacen. Y son las preguntas correctas las que producen soluciones duraderas.

La inteligencia artificial no es neutral

La inteligencia artificial a menudo se presenta como la herramienta clave para la sostenibilidad y la igualdad. Pero los sistemas reflejan las prioridades, los valores y los sesgos de quienes los diseñan y de quienes encargan su desarrollo. Un sistema entrenado con una visión fragmentada de la sostenibilidad, o de la sociedad, optimizará esa fragmentación — más rápido y a escala global.

La pregunta correcta, entonces, no es "¿la IA nos ayudará a ser sostenibles o más justos?", sino: ¿quién decide qué considera un sistema sostenible, justo, merecedor? Cada revolución tecnológica modifica las herramientas con las que trabajamos. La inteligencia artificial está haciendo algo más: está modificando la forma en que tomamos decisiones, atribuimos valor, distribuimos oportunidades y construimos confianza. Por eso, la cuestión de la igualdad está destinada a convertirse en uno de los temas centrales del debate sobre la IA. Durante muchos años hemos considerado la tecnología como un factor neutro, capaz simplemente de aumentar la eficiencia de los procesos. Hoy sabemos que no es así: la informática moderna se ha convertido en un fenómeno social. Los algoritmos no solo organizan información: organizan relaciones, influyen en comportamientos, modifican el funcionamiento de las organizaciones y, cada vez más, inciden en el ejercicio de los derechos.

Quienes, como yo, se ocupan de la inteligencia artificial desde los años ochenta, cuando esta disciplina era aún predominantemente investigación académica e interdisciplinaria, han visto cambiar profundamente su naturaleza: del problema de representar el conocimiento y sostener el razonamiento humano, al de entender cómo sistemas cada vez más autónomos influyen en la sociedad. La inteligencia artificial nació del encuentro entre la informática y las ciencias cognitivas, y esta doble naturaleza la caracteriza aún hoy: por un lado algoritmos, modelos matemáticos y capacidad de cálculo; por otro, personas, procesos decisionales, organizaciones y contextos sociales. Separarlas significa comprender solo la mitad del problema.

El riesgo de los sesgos y la transparencia como derecho

La igualdad no depende solo de la calidad de los algoritmos, sino de la calidad de las relaciones que estos contribuyen a construir. Pensemos en los sistemas utilizados en el crédito, en los seguros, en la salud, en la selección de personal o en el acceso a los servicios públicos: cada vez que un algoritmo contribuye a clasificar a una persona, asignarle una puntuación o sugerir una decisión, interviene indirectamente en la distribución de las oportunidades.

Aquí surge el tema de los sesgos. Los algoritmos aprenden de los datos, pero los datos no son una fotografía objetiva de la realidad: cuentan la historia de la sociedad, con sus desigualdades, sus exclusiones, sus estereotipos. Si en el pasado algunas categorías tuvieron menos oportunidades de acceso al crédito, al trabajo o a la formación, un sistema entrenado con datos históricos corre el riesgo de considerar esa desigualdad como una regularidad a confirmar, no como un problema a corregir. El algoritmo no es discriminatorio porque "quiera" discriminar: lo es porque aprende de una realidad que ya discriminaba. Y este es uno de los aspectos más delicados de la IA: su aparente objetividad puede hacer que las desigualdades sean menos visibles en lugar de eliminarlas.

Por eso la cuestión de la igualdad no puede dejarse solo en manos de los desarrolladores. Concierne a juristas, economistas, sociólogos, psicólogos, filósofos, educadores, instituciones, empresas y partes sociales: se necesita una gobernanza interdisciplinaria. En el proceso que llevó al AI Act europeo, al cual contribuí en el marco de los trabajos del STOA del Parlamento Europeo, surgió con fuerza esta conciencia: algunos sistemas deben considerarse de alto riesgo no tanto por la sofisticación tecnológica, sino por el impacto en los derechos fundamentales de las personas. El punto no es detener la innovación, sino hacerla confiable — con supervisión humana, responsabilidad, trazabilidad, evaluación preventiva de riesgos, monitoreo continuo y transparencia.

Entre estos principios merece atención la Explainable AI, a menudo reducida a un problema técnico — hacer comprensible el funcionamiento de un algoritmo. Su significado es más profundo: la explicabilidad es un derecho democrático. Cuando una persona recibe una decisión que influye en su vida — un crédito denegado, una póliza rechazada, una candidatura excluida — debe poder comprender los criterios que contribuyeron a ello: no cada fórmula del modelo, sino el razonamiento que produjo ese resultado. La transparencia se convierte así en una forma de respeto hacia la persona.

La inteligencia que no se delega

Existe también un riesgo menos discutido pero igualmente relevante: lo que defino como "descarga cognitiva". Cuanto más delegamos a los algoritmos actividades de análisis, memoria y decisión, más corremos el riesgo de reducir el ejercicio de nuestras capacidades cognitivas. La comodidad de la delegación puede transformarse lentamente en dependencia. Por eso considero fundamental desarrollar lo que llamo flexibilidad cognitiva: la capacidad de colaborar con sistemas inteligentes manteniendo autonomía crítica, espíritu de evaluación y responsabilidad personal. La inteligencia artificial debería ampliar nuestras capacidades, no sustituir nuestra capacidad de pensar. Hay una inteligencia que no se delega: la capacidad de dar sentido, de plantear las preguntas correctas antes incluso de buscar las respuestas. También es, en el fondo, una cuestión de soberanía cognitiva — decidir nosotros, como sociedad, qué valores debe incorporar un sistema, en lugar de sufrirlos.

Por eso las mujeres deben estar dentro del diseño de la inteligencia artificial — no como usuarias finales, no como objetivo de políticas de inclusión, sino como arquitectas de los valores que los sistemas incorporan. La sostenibilidad integrada en la era de la IA significa diseñar sistemas que consideren el impacto en las relaciones, en las comunidades, en las generaciones futuras — no solo la eficiencia del proceso.

Una alianza entre generaciones y entre inteligencias

También el trabajo está cambiando profundamente. Durante años hemos discutido si la IA reemplazaría a las personas; hoy la pregunta es diferente: ¿qué profesionalidad será necesaria en una organización donde hombres y algoritmos deciden juntos? Ya no se trata de competencias tecnológicas contra competencias humanísticas, sino de inteligencias plurales: técnica, ciertamente, pero también ética, relacional, organizativa, jurídica y social.

Y es aquí donde la alianza entre generaciones adquiere un valor estratégico. Las nuevas generaciones aportan familiaridad con las herramientas digitales; las generaciones más experimentadas custodian conocimiento contextual, memoria organizativa, capacidad para interpretar situaciones complejas y asumir responsabilidades. La igualdad se construye haciendo dialogar estas competencias, no enfrentándolas — así como se construye haciendo dialogar visiones masculinas y femeninas en la mesa donde se diseñan los sistemas.

De Francesco a León XIV: una doctrina que continúa

Esta lectura no nace aislada. El Papa León XIV ha hecho de la inteligencia artificial uno de los temas centrales de su pontificado, dedicándole la primera encíclica, Magnifica Humanitas, y eligiendo un nombre que remite explícitamente a la Rerum Novarum de León XIII: así como ese texto abordó la primera revolución industrial, hoy la Iglesia ofrece su patrimonio de doctrina social para responder a esta nueva revolución tecnológica. No es una ruptura respecto a Laudato Si', sino una continuidad que se actualiza: de la ecología integral a la inteligencia integral, el hilo rojo sigue siendo el mismo — todo está conectado, y ninguna innovación puede ser evaluada separándola de su impacto en las personas y en las relaciones.

León XIV advierte contra el riesgo de construir "una nueva Torre de Babel donde el poder, la eficiencia y el control oscurecen el rostro de la persona humana", y recuerda que "el mundo no necesita una inteligencia artificial que menosprecie la humanidad". Son palabras que dialogan directamente con el tema de esta reflexión: la tecnología debe seguir siendo una herramienta al servicio del desarrollo integral de la persona, no un sistema que la reduzca a dato. El Papa pide marcos jurídicos claros que protejan derechos, privacidad y transparencia, y advierte del riesgo de que la IA abra nuevas formas de dependencia tecnológica entre quienes diseñan los sistemas y quienes los sufren — una brecha que corre el riesgo de transformar la innovación en una forma de desequilibrio global, en lugar de en una palanca de equidad.

Es la misma pregunta que planteaba antes, declinada a escala planetaria: ¿quién se sienta en la mesa donde se decide qué considera justo, sostenible y humano un sistema? La doctrina social de la Iglesia, desde Francisco hasta León XIV, ofrece aquí un criterio de discernimiento que va más allá de la técnica: dignidad inviolable de la persona, bien común, destino universal de los bienes, subsidiariedad, solidaridad. Principios antiguos, aplicados a un desafío nuevo — y que confirman cómo la verdadera apuesta de la inteligencia artificial nunca es solo tecnológica.

Quién se sienta a la mesa

PapaFrancisco escribía que la crisis ecológica es también una crisis de relación. La inteligencia artificial, si está mal diseñada, corre el riesgo de agravarla: optimiza, desconecta, acelera — sin cuidado. Si está bien diseñada — con visión integrada, presencia femenina en las mesas que importan, gobernanza interdisciplinaria y transparencia — puede convertirse en cambio en una herramienta de cuidado sistémico, de conexión, de equidad.

Ningún algoritmo podrá jamás garantizar por sí solo una sociedad más justa. La igualdad no nace de la tecnología: nace de las decisiones que tomamos al diseñarla, regularla, usarla. La pregunta fundamental no es cuán inteligente será la inteligencia artificial, sino si nosotros seremos lo suficientemente inteligentes para utilizarla para construir una sociedad más justa, más inclusiva, más capaz de valorar a cada persona.

La sostenibilidad integrada en la era de la IA no es una cuestión técnica. Es una cuestión de quién se sienta en la mesa, y con qué visión — porque la verdadera prueba de fuego de la inteligencia artificial no será imitar al ser humano, sino fortalecer lo que hace auténticamente humana a una sociedad: dignidad, responsabilidad, libertad, igualdad.