Os algoritmos têm moralidade?

A ascensão da inteligência artificial trouxe consigo uma questão cada vez mais presente no debate público: os algoritmos têm moralidade? À medida que sistemas computacionais passam a influenciar decisões financeiras, jurídicas, médicas e políticas, cresce a tentação de atribuir-lhes intenções, valores e até responsabilidades. Fala-se de algoritmos justos, injustos, éticos ou antiéticos, como se fossem sujeitos capazes de escolher entre o bem e o mal.

A resposta relacional é diferente. Não. Os algoritmos não possuem moralidade.

Um algoritmo é uma estrutura operacional. Processa dados, estabelece correlações, aplica regras e produz resultados. Pode ser extremamente complexo, adaptar-se ao ambiente e gerar comportamentos difíceis de prever. Pode até surpreender os seus próprios criadores. Mas nada disso lhe confere responsabilidade moral.

A moralidade não nasce da capacidade de calcular. Não nasce da capacidade de prever. Não nasce sequer da capacidade de aprender.

A moralidade surge apenas quando alguém assume responsabilidade pelas consequências das relações que produz.

É precisamente aqui que reside a diferença fundamental entre um sistema e uma pessoa.

Quando um algoritmo toma uma decisão, não compreende o significado humano dessa decisão. Não experimenta culpa, não sente obrigação, não assume compromissos, não responde perante aqueles que são afectados pelos seus actos. Um algoritmo pode executar processos; não pode responder moralmente por eles.

Por essa razão, a responsabilidade nunca desaparece dentro da máquina. Apenas muda de lugar.

Por detrás de cada algoritmo existem programadores, empresas, instituições, governos e utilizadores. Existem decisões humanas sobre objectivos, prioridades, critérios de optimização e limites aceitáveis. O sistema pode automatizar uma escolha, mas a responsabilidade pela existência dessa escolha permanece humana.

A perspectiva relacional permite ir ainda mais longe. O problema ético não reside apenas nos resultados produzidos por um algoritmo. Reside sobretudo nas relações que esse algoritmo gera, reforça ou enfraquece.

Uma tecnologia não modifica apenas processos. Modifica redes de relações. Altera formas de confiança, distribuições de poder, mecanismos de inclusão e exclusão. A pergunta moral torna-se então diferente.

Não devemos perguntar se o algoritmo é moral.

Devemos perguntar quem responde pelos efeitos relacionais produzidos pelo algoritmo.

Esta mudança de perspectiva é decisiva. Liberta-nos tanto do medo irracional das máquinas como da ingenuidade tecnológica. Os algoritmos não são demónios nem salvadores. São hipóstases técnicas criadas por consciências humanas e inseridas em contextos relacionais concretos.

A moralidade continua a pertencer aos sujeitos capazes de responder pelas suas escolhas.

E responder significa precisamente isso: reconhecer que toda a relação produz consequências e assumir responsabilidade por elas.

Nesta perspectiva, a ética da inteligência artificial não é uma ética das máquinas. É uma ética das relações humanas mediadas por máquinas.

Os algoritmos podem calcular. Os algoritmos podem aprender. Os algoritmos podem prever. Mas a responsabilidade continua a ser humana. E é exactamente aí que começa a moralidade.