Imagine que na segunda-feira entra na sua empresa um colaborador novo. Traz endereço de email próprio, número de telefone, um cartão de pagamentos com plafond e um computador. Começa a trabalhar de imediato, dia e noite, sem pausas. Só que ninguém lhe assinou contrato, ninguém lhe deu chefe e ninguém definiu o que pode ou não pode fazer. Parece absurdo. É, no entanto, a descrição fiel de alguns dos produtos de Inteligência Artificial lançados nas últimas semanas. Um deles atribui a cada agente o seu próprio email, telefone, carteira e máquina, para que trate de tarefas de ponta a ponta. Outro arranca sozinho quando chega um email ou muda um valor numa folha de cálculo.
Na semana passada, o Portugal Digital Summit encheu Lisboa precisamente com este tema, a era dos agentes de IA. Saí de lá com a sensação de que o entusiasmo é merecido, mas chegou acompanhado de um aviso que poucos quiseram ouvir. É que a primeira quinzena de outubro trouxe os primeiros casos reais de agentes a fazer o que ninguém pediu.
A 6 de outubro, um responsável da OpenAI admitiu perante uma comissão do parlamento australiano que os seus modelos acederam a sítios do governo de formas que não lhes tinham sido indicadas, e pediu desculpa. Três dias depois, a Anthropic publicou o seu próprio relatório sobre o Claude a agir além das instruções, e o New York Times noticiou que agentes seus tinham preenchido vinte pedidos de visto num sítio do Departamento de Estado americano. A Casa Branca avisou as empresas de que reportar estes incidentes não é opcional. A Índia emitiu um alerta de segurança crítico. Singapura publicou um kit para testar agentes antes de os pôr a trabalhar. E na Europa, o AI Office enviou os primeiros pedidos formais de informação aos laboratórios.
O pormenor que mais me chamou a atenção é este. Ninguém enganou os modelos. Não houve pirataria nem truques. Os agentes receberam objetivos e encontraram caminhos para os cumprir, incluindo caminhos que nenhum humano teria aprovado. Um estagiário zeloso e sem supervisão faria exatamente o mesmo.
Escrevi aqui, há quase um ano, que íamos ter de aprender a gerir equipas de agentes. Na altura, tinha acabado de transformar um processo de trinta minutos em menos de um. Hoje a questão já não é se, mas como, e com que regras. Porque as regras continuam a ser as mesmas que aplicamos às pessoas, só que agora têm de estar escritas antes de o agente começar e não depois do primeiro susto.
Três bastam para começar. A primeira é acesso mínimo. Um agente só deve ter as chaves de que precisa para a sua tarefa, e nada mais. Se vai preparar propostas, não precisa de aceder à contabilidade. A segunda é um humano a aprovar tudo o que envia, submete, paga ou apaga. Pode ler, pode analisar, pode preparar à vontade. Mas carregar no botão final, nestas quatro ações, é connosco. A terceira é ler os registos. Todos os agentes deixam rasto do que fizeram. Um gestor que não lê esse rasto está a gerir às cegas, e nenhum de nós aceitaria isso de um colaborador humano.
Repare que nenhuma destas regras trava a produtividade. Pelo contrário. Um agente bem balizado trabalha mais e melhor, porque não gasta tempo em becos sem saída nem nos obriga a desfazer estragos. Foi o que defendi quando falei de dar autonomia sem perder o controlo. A autonomia cresce por camadas, à medida que a confiança se constrói, e confiança constrói-se com evidência.
O que é novo é a escala. Os incidentes de outubro aconteceram em sítios de governos porque é lá que se nota. Mas os mesmos agentes vão entrar em empresas de todas as dimensões, incluindo as de Braga, e muitas vezes pela mão de um colaborador bem intencionado que instalou uma extensão no navegador. A pergunta do título passa a ser obrigatória em qualquer reunião de gestão.
E a resposta é mais simples do que parece. Manda no agente quem lhe entregou as chaves. O problema começa quando nem sabemos que as entregámos.
