A inteligência artificial “não é neutra”, adverte o Papa Leão XIV na sua primeira encíclica, Magnifica Humanitas, dedicada à proteção da dignidade humana na era da IA, onde alerta para o perigo de esta tecnologia “se concentrar em poucas mãos”.No primeiro grande documento do seu pontificado, publicado esta segunda-feira, Leão XIV, matemático e canonista, segue os passos da Rerum Novarum de Leão XIII para atualizar a Doutrina Social da Igreja perante um dos principais desafios da época contemporânea: a inteligência artificial.Perante esta nova revolução, o Papa reclama “uma ordem social justa na era digital”, “quadros jurídicos adequados”, “regras justas” e “mecanismos de proteção eficazes”.Entre as primeiras reflexões das 110 páginas do documento, sustenta que “as inovações tecnológicas, incluindo a inteligência artificial, não são neutras; podem aumentar a participação e a justiça, ou ampliar as desigualdades, o controlo e a exclusão”.Sobre a IA, alerta para “utilizações evidentemente anti-humanas, como a manipulação da informação ou a violação da privacidade”, mas também para um engano mais subtil, quando os sistemas, “apresentando-se como neutros e objetivos, refletem e reforçam estereótipos ou posições ideológicas de quem os concebeu e programou”.O texto não é um tratado técnico sobre IA, nem uma condenação às novas tecnologias, cujo valor reconhece, mas antes uma releitura da Doutrina Social da Igreja aplicada a esta nova revolução digital, perante o risco de expansão do transhumanismo.O pontífice norte-americano sublinha que as novas tecnologias, patentes, algoritmos, plataformas digitais, infraestruturas e dados “ficam concentrados nas mãos de poucos, sem formas adequadas de partilha e de acesso”.São as empresas e plataformas que absorvem essas competências, dados e capacidade de decisão que definem “condições de acesso, regras de visibilidade, formas de relação e até oportunidades económicas”.“Quando um poder desta magnitude se concentra em poucas mãos, tende a tornar-se opaco e a escapar ao controlo público, aumentando o risco de um desenvolvimento distorcido que provoca novas dependências, exclusões, manipulações e desigualdades”, adverte.Considera que “os Estados e as instituições supranacionais são chamados a garantir regras justas e mecanismos de proteção eficazes para que as comunidades locais, os corpos intermédios, as escolas e universidades, bem como as realidades eclesiais e associativas, possam ter voz e contribuir para o discernimento das decisões que incidem na vida das pessoas: trabalho, acesso aos serviços, gestão dos dados e ambientes digitais”.E defende “uma ordem social justa na era digital” que garanta “acesso igualitário às oportunidades, proteja os mais pequenos e os mais frágeis, se oponha ao ódio e à desinformação e submeta a controlo público a utilização dos dados e das tecnologias, de modo que o critério não seja apenas o lucro, mas a dignidade de cada pessoa e o bem dos povos”.Indica o perigo de que “a imitação artificial de uma comunicação humana positiva, palavras de conselho, de empatia, de amizade, de amor, possa ser gratificante e até útil, mas em utilizadores pouco conscientes pode induzir em erro e dar a falsa impressão de estar numa relação com um verdadeiro sujeito pessoal”.Para que a IA respeite a dignidade humana, o Papa exige “responsabilidades” claras de quem a cria, bem como “quadros jurídicos adequados, vigilância independente, educação dos utilizadores e uma política que não renuncie à sua missão”, porque, caso contrário, “a mudança será governada apenas por lógicas tecnocráticas”.Adverte ainda para “fenómenos de aliciamento, chantagem e exploração sexual de menores, que se tornam mais insidiosos através da utilização de perfis falsos, de algoritmos que amplificam contactos perigosos e de ferramentas de IA capazes de manipular imagens e vídeos”.Assinala que “ter um telemóvel pessoal demasiado cedo e utilizá-lo sem controlo dos adultos pode acentuar a fragilidade e favorecer dependências nos jovens”, expondo-os ao isolamento, assédio, ciberbullying e pressões para partilhar imagens íntimas ou dados sensíveis, motivo pelo qual pede limites etários e maior responsabilidade dos fornecedores.Também aborda o mundo do trabalho, onde “contrariamente aos benefícios anunciados sobre a IA, as abordagens atuais da tecnologia podem paradoxalmente desespecializar os trabalhadores, submetê-los a vigilância automatizada e relegá-los para tarefas rígidas e repetitivas”.Por isso, insta a que “toda a introdução de automatização e de IA seja acompanhada de medidas verificáveis de proteção do emprego, requalificação e participação dos trabalhadores, para que a tecnologia sirva para libertar tempo e capacidades humanas, e não para gerar exclusão”.