É cada vez mais custoso saber como administrar a confiança e a desconfiança; saber quando, em que circunstâncias e perante quem devemos activar uma ou outra. Uma história contada na terça-feira pelo jornal The New York Times ilustra a dificuldade. Um autor americano escreveu e publicou um ensaio preocupado com a questão da verdade na era da Inteligência Artificial. Pois bem, a obra contém falsidades porque ele, para a redigir, se socorreu da Inteligência Artificial [1].
Afirma o diário nova-iorquino que o livro, intitulado O Futuro da verdade. Como a Inteligência Artificial remodela a realidade, lançado este mês “com grande pompa”, inclui inúmeras citações inventadas ou mal atribuídas, sendo a falha imputada à Inteligência Artificial.
Steven Rosenbaum, o autor, inquirido pelo New York Times, reconheceu que “o livro continha ‘um punhado de citações impropriamente atribuídas ou fictícias’” e garantiu que “tinha iniciado a sua própria investigação” sobre as causas do erro. Steven Rosenbaum transmitiu que “a inclusão das citações incorrectas foi um acidente e que não tinha ‘intenção de fabricar quaisquer pontos de vista’ enquanto escrevia o livro” e acrescentou que tinha recorrido às ferramentas de Inteligência Artificial ChatGPT e Claude “durante o processo de investigação, escrita e edição”.
A história é assaz irónica e exemplificativa dos problemas – relativamente benignos, neste caso – que podem surgir quando se delegam tarefas na Inteligência Artificial. Mas diversas previsões sobre o que aí virá são sinistras.
Numa entrevista concedida à revista francesa Le Point, a propósito do ChatGPT Images 2.0, o novo gerador de imagens da OpenAI, capaz de criar imagens de um realismo extraordinariamente minucioso num tempo recorde, o ensaísta Éric Sadin, autor de, por exemplo, A digitalização do mundo, mostrou-se assaz inquieto [2].
Para começar, “esta inovação não democratiza a criação, destrói-a. Não há nela qualquer criação. A criação é uma aprendizagem, é fazer parte de uma cultura, testemunhar um saber-fazer”. Éric Sadin considera que “os efeitos preocupantes deste gerador de imagens são vários e um deles diz respeito ao ataque à coesão social, que não prescinde de um módico de confiança colectiva.
Recorda Éric Sadin que, há apenas dois anos, “as imagens geradas pela Inteligência Artificial eram discerníveis; havia algumas peculiaridades grosseiras – dedos a mais, orelhas estranhas, etc.”. A situação hoje tornou-se “extremamente complicada”. E, em dois anos, ou talvez até antes, ninguém distinguirá uma imagem falsa de uma verdadeira. Entraremos naquilo que o ensaísta designa por “era da indistinção generalizada”. E isso, diz ele, “é de uma extrema gravidade social e civilizacional”.
Éric Sadin julga que estamos a entrar num mundo em que não podemos apurar a origem de uma imagem. Mas “a sociedade funda-se não apenas em princípios comuns, mas também em pontos de referência comuns”. Sem eles, sem a capacidade de compreensão que eles nos oferecem, é a própria estrutura do nosso mundo comum que entrará em colapso.
O prognóstico é sinistro: “Vamos entrar numa crise de absurdidade entre os componentes do corpo social, e o facto de já nada sabermos ao certo irá induzir fenómenos de desconfiança, desconfiança generalizada, paranóia e a psiquiatrização cada vez maior da sociedade. Vamos enfrentar uma crise de brutalização, com formatos crescentes de possibilidades de violência”.
Éric Sadin recorda os velhos tempos da manipulação das imagens: “O Photoshop era aquilo a que eu chamo a “imagem-contacto”: uma imagem captada, que era retocada para a tornar mais limpa ou mais luminosa. As manipulações permaneceram à margem, na linha, por exemplo, das fotomontagens de propaganda política da era estalinista”. Mas a adulteração encontra-se noutro patamar. “Já não estamos na imagem-contacto”. Agora, “é a linguagem que produz a imagem”. Como o ensaísta nota, “as Inteligências Artificiais generativas são máquinas com tendências manipuladoras à escala global”.
Esta situação determina a interrogação que Éric Sadin formula: “Como podemos desenvolver um olhar crítico quando já nada sabemos?” O ensaísta apresenta um exemplo. “Se, na Internet, existe, por um lado, uma imagem-contacto de uma reunião de figuras políticas do G7 e, por outro lado, uma imagem gerada por Inteligência Artificial que apresenta uma disposição completamente diferente, não há qualquer pista que nos permita decidir qual delas é a verdadeira”. Ou seja, perante duas fotografias absolutamente diferentes de um mesmo instante, seremos incapazes de distinguir a verdadeira da falsa.
Entrando numa época de total incerteza, tenderemos a acreditar que estamos a ser manipulados permanentemente. O resultado, avisa Éric Sadin, é inevitável: “Vamos entrar numa era de paranóia total”. Não de uma “distância crítica”, mas de uma “desconfiança constante” ou de uma “desconfiança patológica”.
Os tecno-optimistas, com proverbial candura, dizem: “Vamos ter de nos adaptar”. Resta saber a quê. E a que custo.
[1] Benjamin Mullin – Book on Truth in the Age of A.I, Contains Quotes Made Up by A.I. The New York Times, 19 de Maio de 2026
[2] Julie Malo – Nouveau générateur d’images de ChatGPT : « Dans deux ans, on ne croira plus rien de ce qu’on voit ». Le Point, 28 de Abril de 2026
