A chamada “tecnologia do futuro” - máquinas que aprendem sozinhas, nas suas múltiplas formas - já introduz mudanças significativas nos funcionamentos da sociedade, com influência enorme nas culturas e nos comportamentos sociais. A evolução tecnológica dialoga, especialmente, com dois aspectos: o entusiasmo pelas novidades e, ao mesmo tempo, o arriscado abandono de parâmetros éticos. As novas tecnologias não podem se afastar de exigências éticas no âmbito da promoção e manutenção da paz, adverte o Papa Francisco na sua mensagem para o Dia Mundial da Paz, refletindo sobre os limites do chamado “paradigma tecnocrático” que, em linhas gerais, supervaloriza o desenvolvimento técnico-científico, sem dar importância para as suas consequências. Há, pois, de se considerar aspectos que estão para além das tecnologias, ensina o Pontífice: dimensões éticas e humanísticas inegociáveis, sob pena de prejuízos irreparáveis.
Produzir ilusões a partir de afirmações aparentemente plausíveis, mas, na realidade, infundadas, é, obviamente, atitude antiética. Essa verdade é recorrentemente ignorada quando se investe na inteligência artificial para promover campanhas de desinformação, propagando notícias falsas. O uso inadequado de novas ferramentas aponta para a necessidade de se considerar questões que transcendem a própria engenharia das tecnologias. Deve-se buscar reconhecer o que obscurece a capacidade da mente humana de alcançar a verdade e, consequentemente, uma adequada compreensão. Ao indicar a complexidade do mundo, demasiadamente vasto, variado e complexo, o Papa Francisco argumenta que a realidade jamais será plenamente conhecida. Ao mesmo tempo, o Pontífice diz que jamais será esgotada a riqueza da mente humana, impossível de ser plenamente compreendida ou substituída, mesmo com a ajuda dos algoritmos mais avançados.
O Papa Francisco destaca um importante princípio ao afirmar que a realidade é superior à ideia. Uma verdade que pode ser comprovada ao se considerar que os algoritmos são incapazes de fazer previsões totalmente fiáveis sobre o futuro - nem tudo pode ser calculado ou previsto, por mais prodigiosa que seja a ciência dos cálculos. Sublinhe-se que a grande quantidade de dados analisados pelas inteligências artificiais não tem garantia de imparcialidade. Haverá sempre riscos de distorção das informações. Por isso, o Papa Francisco afirma: as máquinas inteligentes podem até desempenhar as tarefas que lhe são atribuídas com uma eficiência cada vez maior, mas a finalidade e o significado das suas operações continuarão a ser determinados por seres humanos com seu próprio universo de valores. Compreende-se, pois, que o ser humano não pode ser substituído, mesmo quando as máquinas atingem patamares impressionantes de desenvolvimento. O ser humano será sempre responsável pelas escolhas, que devem ser norteadas a partir da busca pelo bem maior da comunidade humana.
Na contramão das adequadas escolhas que podem fazer do progresso uma alavanca para o desenvolvimento de toda a humanidade está a supervalorização do critério da eficiência em prejuízo da ética. Quando a economia se apropria da tecnologia para priorizar certos interesses que garantam o bem de poucos, enquanto prejudicam o atendimento de necessidades humanitárias, investe-se em uma eficiência antiética. Essa mentalidade tecnocrática e “eficientista” há de ser questionada para se evitar o risco de inviabilizar o desenvolvimento sustentável. Há, pois, um limite que precisa ser reconhecido no que se refere ao emprego das tecnologias. Critérios humanísticos e éticos determinam esse limite. Mas o Papa Francisco faz uma advertência muito pertinente: o ser humano, mortal por definição, acreditando que pode ultrapassar todos os limites a partir da técnica, cai no risco de querer tudo controlar. Ao mesmo tempo, procura alimentar-se de experiências inusitadas, o que o faz perder até mesmo o controle sobre si. Sem perceber, a humanidade se submete a uma ditadura tecnológica camuflada de caminho para a “liberdade absoluta”. O Pontífice partilha um sábio conselho: é importante que o ser humano se reconheça como criatura de Deus, aceitando limites, condição indispensável para se conseguir alcançar e acolher a plenitude – dádiva divina.
O paradigma tecnológico, ancorado por uma presunção de autossuficiência, pode se tornar alavanca do crescimento das desigualdades, com acumulação oligárquica de conhecimento e de riqueza. Trata-se de risco para sociedades democráticas, fazendo da desigualdade social um permanente e perigoso “gatilho” que ameaça a paz. É preciso investir em um horizonte ético para que o paradigma tecnocrático não esteja a serviço de dominações e de exclusões perversas. A vigilância cuidadosa sobre os rumos tomados pelo desenvolvimento técnico-científico constitui compromisso com a paz, exigindo muito de todos, particularmente das autoridades governamentais. As novas tecnologias, bem-vindas, precisam de modulação ética e humanística, mais forte que as regulações estabelecidas por leis. Assim é possível garantir que a justiça social não venha a ser descurada, sob pena de distanciar a humanidade da paz.
Dom Walmor Oliveira de Azevedo
Arcebispo metropolitano de Belo Horizonte