No dia 12 de setembro aconteceu algo que merece atenção. Dario Amodei, que lidera a Anthropic, uma das empresas que constrói os sistemas de Inteligência Artificial mais avançados do mundo, publicou um texto a pedir que a própria indústria abrande. Poucas horas depois, Sam Altman, da OpenAI, disse que concordava. Elon Musk resumiu em três palavras que Amodei tinha razão. É como se os fabricantes de automóveis pedissem em coro limites de velocidade mais apertados.
Convém perceber o que está realmente em causa, porque a palavra abrandar engana. Amodei não propõe parar o treino dos modelos nem congelar a investigação. Propõe que as empresas tenham tempo suficiente para alinhar e proteger cada modelo antes de o lançarem, e que alguém de fora possa confirmar que isso foi mesmo feito. O plano tem três degraus. Primeiro, avaliadores independentes instalados dentro das empresas, com acesso semelhante ao de um trabalhador interno. Depois, coordenação entre os laboratórios e os governos democráticos. Por fim, entendimento internacional, incluindo com a China. A Anthropic comprometeu-se sozinha com o primeiro passo.
A reação foi imediata. Donald Trump rejeitou a ideia em público e classificou a oposição aos centros de dados como uma conspiração. Os mercados caíram, com o SoftBank a perder mais de 11% num só dia e o índice de semicondutores a recuar quase 6%. Pequim chamou alarmismo ao apelo. Foi a primeira vez que um debate sobre segurança da IA mexeu a sério com as bolsas.
Só que há aqui um equívoco de fundo. Esta tecnologia já não está fechada em dois ou três laboratórios.
Está no telemóvel de cada um de nós, está nas ferramentas que usamos todos os dias no trabalho e está também, cada vez mais, em modelos que qualquer pessoa descarrega e corre no seu próprio computador, sem ligação à internet e sem pedir licença a ninguém. Não existe nenhum botão que desligue isto. A evolução não vai parar, nem que meia dúzia de empresas assinem um compromisso.
Isso não significa que não haja nada a fazer. Significa apenas que a pergunta certa não é se travamos, mas sim como conduzimos.
E é aqui que entra o código da estrada. Também não travámos o automóvel. Definimos limites de velocidade, obrigámos ao cinto de segurança, criámos cartas de condução, inspeções periódicas e sentidos proibidos. Ninguém diz que o código da estrada acabou com os automóveis. Acabou, isso sim, com muitos acidentes. E, curiosamente, empurrou a indústria para carros melhores e mais seguros.
A lei funciona como um caderno de encargos. Quem trabalha em projetos percebe isto de imediato. Um requisito bem escrito não impede a solução, orienta-a. Se ficar decidido que não se admitem armas autónomas a decidir sozinhas sobre vidas humanas, então desenha-se tudo desde a origem para que isso não seja possível. Se ficar decidido que um cidadão tem direito a saber quando está a falar com uma máquina, os produtos passam a nascer com essa informação à vista. É este o princípio que tenho defendido aqui como Social by Design, pensar a sociedade dentro da tecnologia e não à margem dela.
Na Europa já temos parte desse caderno escrito. Desde agosto que o Regulamento da IA obriga à transparência, e há prazos a cumprir já em dezembro. Pode discutir-se o ritmo e a burocracia, e deve discutir-se, mas a direção está tomada.
A verdadeira dificuldade será outra, e não é nova. Chama-se alinhamento entre países e instituições. Foi assim com o nuclear, com a camada de ozono, com a segurança aérea. Levou anos, custou discussões duríssimas e ninguém ficou totalmente satisfeito. Ainda assim, aconteceu. Não vejo razão para que desta vez seja diferente, nem para que seja fácil.
Entretanto, para quem gere uma empresa, fica uma nota prática. Este debate sobre a fronteira do conhecimento não muda absolutamente nada no que deve ser feito na segunda-feira de manhã.As ferramentas que já temos disponíveis, e que estão longe de ser aproveitadas, chegam para transformar processos, libertar tempo e melhorar serviço. Quem está à espera de que a poeira assente vai simplesmente ficar com menos tempo para recuperar.
Nunca foi a tecnologia a travar-nos. Foi sempre a nossa capacidade de nos entendermos. E isso, convenhamos, não é um problema novo.
