Projetar sistemas de IA que desenvolvem pessoas e conhecimento

Quando introduzimos um sistema de inteligência artificial em uma organização, devemos nos perguntar quais capacidades queremos desenvolver nas pessoas que o utilizarão. O tempo economizado é importante. Também importa o que acontece com o conhecimento, a autonomia profissional e a capacidade de tomar decisões fundamentadas.

Duas leituras publicadas em setembro de 2026 oferecem perspectivas úteis para enfrentar esta questão. Working with AI, do grupo de pesquisa da Universidade de Auckland, propõe um modelo para projetar a colaboração entre pessoas e sistemas de IA. Educating minds with generative AI, de Laura Desiree Di Paolo, Andy Clark e Thomas Wachter, convida a reconsiderar as condições e os objetivos da aprendizagem. Leio-as como um convite para tornar explícitas as escolhas que acompanham a adoção tecnológica.

A colaboração requer um projeto

O white paper de Auckland relaciona cinco dimensões: pessoa, sistema de IA, tarefa, organização e sociedade. Propõe avaliar o sucesso também através da experiência dos trabalhadores e da qualidade da colaboração. No caso ilustrativo, 30 participantes montam uma válvula com um robô que entrega as ferramentas. Eles podem experimentar diferentes configurações e escolher como interagir. Um erro deliberado do robô reduz a confiança declarada; na prova seguinte, com comportamento correto, a confiança aumenta. O resultado refere-se a uma atividade de laboratório restrita: não demonstra efeitos duradouros na produtividade empresarial, nem permite generalizar para sistemas generativos. [1]

Para quem dirige uma empresa, esses elementos sugerem uma pergunta concreta: o trabalhador pode realmente intervir no processo? Em um projeto de IA para o serviço ao cliente, por exemplo, é necessário estabelecer quem verifica uma resposta, quando um caso deve ser encaminhado a uma pessoa e como se conserva o que foi aprendido com um erro. É um exemplo de design que proponho, não uma aplicação verificada pelo white paper.

A informática moderna é social. Cada escolha sobre o funcionamento de um sistema entra nas relações de trabalho, influencia a distribuição das responsabilidades e pode mudar o valor reconhecido às competências. Por isso, a formação deve acompanhar também as pessoas que definem objetivos e processos, além de quem utiliza a interface.

Avaliar a competência além do resultado

Educando mentes com IA generativa é um artigo de perspectiva submetido à revisão científica, não um novo experimento. Os autores descrevem a escola como um ambiente no qual práticas sociais, materiais e tecnologias contribuem para formar o pensamento. Identificam uma lacuna entre o design da IA e as ciências da aprendizagem, e uma segunda entre desempenho mensurável e desenvolvimento da pessoa. Também questionam a concentração de explicação, feedback e avaliação em uma única interface. As consequências cognitivas e sociais a longo prazo ainda precisam ser estudadas. [2]

A distinção também interessa a formação de adultos. Um trabalho bem escrito por um sistema generativo não nos diz, por si só, se quem o apresenta compreendeu o problema. No planejamento dos percursos DKTS considero essencial pedir à pessoa que explique suas escolhas e enfrente situações novas. A verificação deve tornar visível a contribuição da IA e a de quem a utiliza.

Imaginemos um exercício de formação empresarial: o sistema propõe uma solução para um problema organizacional, os participantes verificam as premissas e discutem quais informações estão faltando. Depois, cada um enfrenta um caso diferente, justificando sua decisão. É uma proposta didática para experimentar e avaliar, também após algum tempo, para entender quais conhecimentos permaneceram disponíveis.

Conhecimento e responsabilidade na decisão

Uso frequentemente quatro verbos: peço, obtenho, avalio, decido. São um lembrete para manter consciente a relação com os sistemas de IA. A pergunta já exige uma escolha: definir o problema, reconhecer o contexto e entender quais informações são necessárias. A avaliação requer conhecimento. A decisão envolve a responsabilidade de uma pessoa e da organização em que atua.

A Inteligência Artificial é uma disciplina. Sua adoção requer uma cultura capaz de relacionar competências tecnológicas e compreensão das pessoas. Na minha experiência, o encontro entre formação humanística e tecnologia tornou possível conceber os problemas a partir de perspectivas diferentes. É essa capacidade que gostaria de continuar a cultivar também na formação profissional.

Para a DKTS, valorizar o conhecimento significa também questionar onde permanece a experiência adquirida durante o trabalho. Se um sistema produz uma síntese, quem verifica as suas fontes? Se surge um erro, como ele se torna conhecimento compartilhado? Se uma pessoa experiente reconhece uma exceção, como tornamos compreensível seu raciocínio para os colegas? São perguntas a serem feitas antes de automatizar um processo.

O mesmo critério deve orientar a inclusão. Do meu ponto de vista, o acesso à formação e a possibilidade de influenciar as decisões são condições a serem verificadas para todas as pessoas, incluindo aquelas com menor familiaridade digital. A experiência de quem conhece uma profissão pode ajudar a avaliar o que um sistema propõe; deve encontrar espaço no planejamento e no diálogo.

Experimentar e verificar ao longo do tempo

Minha proposta é partir de um problema reconhecível e definir antecipadamente como avaliaremos o resultado. Além dos prazos e da qualidade do serviço, observamos a capacidade de reconhecer os erros, explicar as escolhas e enfrentar um caso sem assistência quando necessário. Uma experimentação delimitada permite entender o que modificar antes de estender o uso do sistema.

Primeiro experimentar, depois validar e continuar a observar. As necessidades podem mudar com a experiência das pessoas e com as atualizações dos sistemas. Também os critérios de avaliação devem permanecer abertos à revisão.

Precisamos de inteligências: humana, artificial, coletiva, organizacional e científica. Fazer com que trabalhem juntas requer cuidado com as condições nas quais as pessoas aprendem e decidem. O valor da inovação também se vê aqui: no conhecimento que permanece nas organizações e na capacidade das pessoas de usá-lo com responsabilidade.

Referências

[1] Yuqian Lu, Regina Lee, Rui Zhou, Lixin Jiang, Andrew McDaid e Amy Lawrence. Trabalhando com IA: Um Quadro de Design para Colaboração Humano-IA. Universidade de Auckland, setembro de 2026; versão arXiv depositada em 25 de setembro de 2026. White paper, revisão científica não indicada.
https://doi.org/10.48550/arXiv.2609.31793

[2] Laura Desiree Di Paolo, Andy Clark e Thomas Wachter. Educando mentes com IA generativa. Communications Psychology, 4, 128, 14 de setembro de 2026. Artigo de perspectiva submetido à revisão científica.
https://doi.org/10.1038/s44271-026-00522-8