Há duas semanas, refletindo sobre a transformação digital na União Europeia e a perda da qualidade da Democracia, prometi que voltaria ao assunto, não para falar em concreto da inevitabilidade do mundo novo que nos envolve, nos cerca e nos esmaga, mas de algo que, apesar de presente, e sendo assumido institucionalmente, garante ser a maior purga dos direitos constitucionais: a algocracia, ou se preferirem o domínio dos algoritmos sobre tudo o que mexe. Apesar de subsistirem créditos sobre o seu potencial, os desmandos e os erros são tão graves que, fazer de conta ou achar que o erro é uma equação entre outras da sociedade instantânea e por isso inevitável e aceitável, transforma este instrumento, suportado pela Inteligência Artificial, numa poderosa máquina de guerra contra os direitos, liberdades e garantias dos cidadãos. O despertar para esta realidade decorre dos sucessivos relatos sobre erros cometidos a partir dos algoritmos, sejam eles usados como instrumentos de previsão ou de decisão. Tomei então a decisão de perguntar ao Chatgpt o que ele pensa sobre os perigos e as oportunidades da Algocracia:
“A algocracia, conceito que emerge da fusão entre “algoritmo” e “democracia”, descreve um modelo de governança ou organização social em que decisões são tomadas ou fortemente influenciadas por algoritmos e sistemas automatizados. Este fenómeno, cada vez mais presente em várias áreas da sociedade, desde a política até ao setor económico, traz consigo tanto riscos significativos quanto oportunidades promissoras. Analisá-los é crucial para entender as implicações da ascensão das máquinas no campo da gestão pública e privada”. Para o ChatGpt, os principais perigos estão assim resumidos: Opacidade e Falta de Responsabilidade, Reforço de Desigualdades, Perda de Autonomia Humana e Vulnerabilidade a manipulações. Retenho algumas das ideias sublinhadas pela IA: Os algoritmos trabalham com dados para os quais foram treinados. Se estes contiverem preconceitos, discriminações ou desigualdades históricas, o mais certo é que se perpetue e se amplifique estas distorções. Por outro lado, o ChatGpt reconhece que numa “sociedade algocrática”, a perda de autonomia individual é uma tendência com “a redução da capacidade de julgamento próprio”. Se isto é grave, a vulnerabilidade e as manipulações acrescentam um perigo maior: a possibilidade de influenciar decisões e de a partir desta premissa, sermos confrontados com “uma tirania dos algoritmos, onde decisões políticas ou económicas são moldadas por interesses corporativos ou estatais sem a devida fiscalização pública”. As oportunidades deste mundo novo trazem ganhos de eficiência no processamento de volumes de dados, com aplicações concretas nos processos administrativos e reflexo nos custos operacionais. A personalização nos setores da Educação e Saúde permitem ganhos, adequando as respostas ao perfil de cada aluno ou doente. A IA defende que a automatização reduz “os erros humanos como cálculos ou desperdício de recursos”. Na resposta que tenho vindo a citar, é curiosa a forma como o ChatGpt coloca a vantagem no seu uso para uma governação mais participativa e inclusiva: “uma possibilidade para processar e analisar as preferências e necessidades da população”. Os desafios e caminhos a seguir são muitos. No seu artigo, que aqui citei há duas semanas, Luís Pedro Nunes, reflete no jornal Expresso sobre os perigos da Algocracia. O ChatGpt tem uma resposta: “Apesar das oportunidades, a integração de algoritmos na governança e nos processos sociais requer um robusto arcabouço ético e regulatório. A falta de transparência dos sistemas, a concentração de poder nas mãos de poucas corporações e a perpetuação de desigualdades são desafios que precisam ser enfrentados com urgência. A educação digital, a criação de normas claras sobre a responsabilidade algorítmica e a promoção de uma maior diversidade na criação e implementação de tecnologias são passos essenciais para mitigar os riscos da algocracia. O equilíbrio entre inovação e precaução será a chave para que os algoritmos cumpram seu potencial de maneira justa e equitativa. Se bem regulamentada, a algocracia pode ser uma ferramenta poderosa para melhorar a eficiência e a equidade nas sociedades modernas. No entanto, sem vigilância e um compromisso firme com a transparência e os direitos humanos, ela corre o risco de se transformar num sistema opressor e desigual”.
O artigo foi escrito com o recurso ao ChatGpt.
