Diseñar sistemas de IA que hagan crecer a las personas y el conocimiento

Cuando introducimos un sistema de inteligencia artificial en una organización, deberíamos preguntarnos qué capacidades queremos desarrollar en las personas que lo utilizarán. El tiempo ahorrado cuenta. También cuenta qué sucede con el conocimiento, la autonomía profesional y la capacidad de tomar decisiones fundamentadas.

Dos lecturas publicadas en septiembre de 2026 ofrecen perspectivas útiles para abordar esta pregunta. Working with AI, del grupo de investigación de la Universidad de Auckland, propone un modelo para diseñar la colaboración entre personas y sistemas de IA. Educating minds with generative AI, de Laura Desiree Di Paolo, Andy Clark y Thomas Wachter, invita a reconsiderar las condiciones y los propósitos del aprendizaje. Las leo como una invitación a hacer explícitas las elecciones que acompañan la adopción tecnológica.

La colaboración requiere un proyecto

El white paper de Auckland relaciona cinco dimensiones: persona, sistema de IA, tarea, organización y sociedad. Propone evaluar el éxito también a través de la experiencia de los trabajadores y la calidad de la colaboración. En el caso ilustrativo, 30 participantes ensamblan una válvula con un robot que les pasa las herramientas. Pueden experimentar diferentes configuraciones y elegir cómo interactuar. Un error deliberado del robot reduce la confianza declarada; en la prueba siguiente, con comportamiento correcto, la confianza vuelve a subir. El resultado se refiere a una actividad de laboratorio limitada: no demuestra efectos duraderos en la productividad empresarial, ni permite generalizar a los sistemas generativos. [1]

Para quien dirige una empresa, estos elementos sugieren una pregunta concreta: ¿puede el trabajador realmente intervenir en el proceso? En un proyecto de IA para el servicio al cliente, por ejemplo, es necesario establecer quién verifica una respuesta, cuándo un caso debe pasar a una persona y cómo se conserva lo aprendido de un error. Es un ejemplo de diseño que propongo, no una aplicación verificada por el white paper.

La informática moderna es social. Cada elección sobre el funcionamiento de un sistema entra en las relaciones laborales, influye en la distribución de responsabilidades y puede cambiar el valor reconocido a las competencias. Por eso la formación debe acompañar también a las personas que definen objetivos y procesos, además de a quienes utilizan la interfaz.

Evaluar la competencia más allá del resultado

Educating minds with generative AI es un artículo de perspectiva sometido a revisión científica, no un nuevo experimento. Los autores describen la escuela como un entorno en el que prácticas sociales, materiales y tecnologías contribuyen a formar el pensamiento. Identifican una brecha entre el diseño de la IA y las ciencias del aprendizaje, y una segunda entre el rendimiento medible y el desarrollo de la persona. Además, cuestionan la concentración de explicación, retroalimentación y evaluación en una única interfaz. Las consecuencias cognitivas y sociales a largo plazo aún están por estudiar. [2]

La distinción también interesa a la formación de adultos. Un trabajo bien escrito por un sistema generativo no nos dice, por sí solo, si quien lo presenta ha comprendido el problema. En el diseño de los recorridos DKTS considero esencial pedir a la persona que explique sus elecciones y enfrente situaciones nuevas. La verificación debe hacer visible la contribución de la IA y la de quien la utiliza.

Imaginemos un ejercicio de formación empresarial: el sistema propone una solución a un problema organizativo, los participantes verifican las premisas y discuten qué información falta. Luego, cada uno aborda un caso diferente, justificando su decisión. Es una propuesta didáctica para experimentar y evaluar, incluso después de un tiempo, para entender qué conocimientos han quedado disponibles.

Conocimiento y responsabilidad en la decisión

Uso a menudo cuatro verbos: pido, obtengo, evalúo, decido. Son un recordatorio para mantener consciente la relación con los sistemas de IA. La pregunta ya requiere una elección: definir el problema, reconocer el contexto y entender qué información se necesita. La evaluación requiere conocimiento. La decisión implica la responsabilidad de una persona y de la organización en la que opera.

La Inteligencia Artificial es una disciplina. Su adopción requiere una cultura capaz de relacionar competencias tecnológicas y comprensión de las personas. En mi experiencia, el encuentro entre la formación humanística y la tecnología ha hecho posible concebir los problemas desde perspectivas diferentes. Es esta capacidad la que me gustaría seguir cultivando también en la formación profesional.

Para DKTS, valorar el conocimiento también significa preguntarse dónde queda la experiencia adquirida durante el trabajo. Si un sistema produce una síntesis, ¿quién verifica sus fuentes? Si surge un error, ¿cómo se convierte en conocimiento compartido? Si una persona experta reconoce una excepción, ¿cómo hacemos comprensible su razonamiento a los colegas? Son preguntas que hay que plantear antes de automatizar un proceso.

El mismo criterio debe orientar la inclusión. Desde mi punto de vista, el acceso a la formación y la posibilidad de influir en las decisiones son condiciones que deben verificarse para todas las personas, incluidas aquellas con menor familiaridad digital. La experiencia de quien conoce un oficio puede ayudar a evaluar lo que un sistema propone; debe encontrar espacio en el diseño y en el diálogo.

Experimentar y verificar con el tiempo

Mi propuesta es partir de un problema reconocible y definir de antemano cómo evaluaremos el resultado. Junto con los tiempos y la calidad del servicio, observamos la capacidad de reconocer los errores, explicar las elecciones y afrontar un caso sin asistencia cuando sea necesario. Una experimentación delimitada permite entender qué modificar antes de extender el uso del sistema.

Primero experimentar, luego validar y continuar observando. Las necesidades pueden cambiar con la experiencia de las personas y con las actualizaciones de los sistemas. También los criterios de evaluación deben mantenerse abiertos a la revisión.

Necesitamos inteligencias: humana, artificial, colectiva, organizativa y científica. Hacerlas trabajar juntas requiere cuidado en las condiciones en las que las personas aprenden y deciden. El valor de la innovación también se ve aquí: en el conocimiento que permanece en las organizaciones y en la capacidad de las personas para usarlo con responsabilidad.

Referencias

[1] Yuqian Lu, Regina Lee, Rui Zhou, Lixin Jiang, Andrew McDaid y Amy Lawrence. Trabajando con IA: Un marco de diseño para la colaboración humano-IA. Universidad de Auckland, septiembre de 2026; versión arXiv depositada el 25 de septiembre de 2026. Documento técnico, revisión científica no indicada.
https://doi.org/10.48550/arXiv.2609.31793

[2] Laura Desiree Di Paolo, Andy Clark y Thomas Wachter. Educando mentes con IA generativa. Communications Psychology, 4, 128, 14 de septiembre de 2026. Artículo de perspectiva sometido a revisión científica.
https://doi.org/10.1038/s44271-026-00522-8