'A tecnologia é um dom de Deus, mas exige uma ética que a oriente' 464g65
O Papa Francisco destaca a importância da ética no desenvolvimento da inteligência artificial, alertando sobre desafios como desigualdades e desinformação, e reforça que a tecnologia deve preservar a dignidade humana e promover a paz.
Impossível não refletir nesses dias sobre o legado de Jorge Bergoglio. O Papa mais pop da história será lembrado pela humildade, pelo ímpeto reformista dentro da própria Igreja e, com certeza, pela profunda conexão com a atualidade. 1eg2w
Muito antes de sua imagem viralizar em momento fashion, Francisco já levava seu posicionamento sobre tecnologia e IA a fóruns internacionais. Como o “Rome Call for AI Ethics” de 2020, parceria do Vaticano, com IBM, Microsoft, outras empresas e o terceiro setor, para difundir princípios éticos na IA, como transparência e inclusão.
Em várias outras ocasiões, conclamou a comunidade internacional a trabalhar em conjunto na regulamentação do desenvolvimento e uso de IA. “Naturalmente o objetivo da regulamentação não deveria ser apenas a prevenção de más aplicações, mas também o incentivo às boas aplicações, estimulando abordagens novas e criativas e facilitando iniciativas pessoais e coletivas".
Em sua mensagem no Dia Mundial da Paz de 2024, intitulada "Inteligência Artificial e Paz", Francisco reconhece o potencial da IA, mas reforça que seus avanços só serão efetivos ao incluir o máximo de pessoas nas oportunidades que cria, e não aumentar ainda mais o abismo entre elas. E chama à responsabilidade ética e à centralidade do ser humano: “na era da inteligência artificial, não podemos esquecer que a poesia e o amor são necessários para salvar o humano.”
Se você se interessa por esta faceta menos conhecida do Papa Francisco e seu posicionamento sobre os riscos das redes sociais e da IA recomendo buscar o ótimo artigo de Carlos Affonso Souza, Diretor do Instituto de Tecnologia & Sociedade do Rio de Janeiro publicado esta semana.
“Na era da inteligência artificial, não podemos esquecer que a poesia e o amor são necessários para salvar o humano. O que nenhum algoritmo conseguirá abarcar é, por exemplo, aquele momento de infância que se recorda com ternura e que continua a acontecer em todos os cantos do planeta, mesmo com o ar dos anos.”
Segundo o pontífice: "A dignidade intrínseca de cada pessoa e a fraternidade que nos une como membros da única família humana devem estar na base do desenvolvimento de novas tecnologias e servir como critérios indiscutíveis para as avaliar antes da sua utilização, para que o progresso digital possa verificar-se no respeito pela justiça e contribuir para a causa da paz. Os avanços tecnológicos que não conduzem a uma melhoria da qualidade de vida da humanidade inteira, antes pelo contrário agravam as desigualdades e os conflitos, nunca poderão ser considerados um verdadeiro progresso.”
Essa comunicação do papa possui algumas mensagens bem direcionadas, como quando fala sobre algoritmos para a formação de perfis pessoais e o uso desses dados para criar um sistema de ranqueamento de indivíduos, conferindo certa pontuação a partir de suas interações com empresas privadas e o poder público.
Na China, implementações dessa ferramenta, conhecida como "sistema de crédito social", parecem ter despertado a atenção do Pontífice quando ele diz que "o ato de se confiar a processos automáticos que dispõem os indivíduos por categorias, por exemplo, através dum uso invasivo da vigilância ou da adoção de sistemas de crédito social, poderia ter repercussões profundas também no tecido civil, estabelecendo classificações inadequadas entre os cidadãos.”
O papa chega a fazer um apelo para que a comunidade internacional trabalhe em conjunto para produzir um tratado sobre o desenvolvimento e o uso de IA. Segundo Francisco: "A este respeito, exorto a Comunidade das Nações a trabalhar unida para adotar um tratado internacional vinculativo, que regule o desenvolvimento e o uso da inteligência artificial nas suas variadas formas. Naturalmente o objetivo da regulamentação não deveria ser apenas a prevenção de más aplicações, mas também o incentivo às boas aplicações, estimulando abordagens novas e criativas e facilitando iniciativas pessoais e coletivas."
"Os sistemas de inteligência artificial podem contribuir para o processo de libertação da ignorância e facilitar a troca de informações entre diferentes povos e gerações. Por exemplo, podem tornar ível e compreensível um patrimônio enorme de conhecimentos, escrito em épocas adas, ou permitir às pessoas comunicarem em línguas que lhes são desconhecidas. Mas simultaneamente podem ser instrumentos de «poluição cognitiva», alteração da realidade através de narrações parcial ou totalmente falsas, mas acreditadas - e partilhadas - como se fossem verdadeiras."
Ao tratar do uso da IA para criar conteúdos falsos, o próprio papa reconhece que ele já foi vítima dessas manipulações, como na foto viral em que Francisco aparece usando um casaco branco estilo puffer.
"Basta pensar no problema da desinformação que enfrentamos, há anos, no caso das fake news e que hoje se serve da deep fake, isto é, da criação e divulgação de imagens que parecem perfeitamente plausíveis, mas são falsas (já me aconteceu também ser objeto delas), ou mensagens-áudio que usam a voz duma pessoa, dizendo coisas que ela própria nunca disse. A simulação, que está na base destes programas, pode ser útil nalguns campos específicos, mas torna-se perversa quando distorce as relações com os outros e com a realidade.”
Francisco também levou sua mensagem a fóruns internacionais. Em 2020, ele endossou o Rome Call for AI Ethics, uma iniciativa do Vaticano, em conjunto com parceiros empresariais, como IBM e Microsoft, e do terceiro setor, para promover princípios éticos na IA, como transparência e inclusão. Ele reforçou a necessidade de colaboração global: "A tecnologia é um dom de Deus, mas exige uma ética que a oriente."
Na encíclica Dilexit Nos (2024), Francisco oferece uma reflexão poética sobre a limitação da IA frente à experiência humana. Ele escreve: "O algoritmo que atua no mundo digital mostra que os nossos pensamentos e as decisões da nossa vontade são muito mais standard do que pensávamos. São facilmente previsíveis e manipuláveis. Não é o caso do coração." O papa então descreve como nosso comportamento pode ser rastreável e computável, mas que existe uma parte essencial da experiência humana que escapa às máquinas - e que é imperativo que todos nós busquemos preservar essa chama acesa em nossos corações.
O trecho é longo, mas vale muito a pena: "Na era da inteligência artificial, não podemos esquecer que a poesia e o amor são necessários para salvar o humano. O que nenhum algoritmo conseguirá abarcar é, por exemplo, aquele momento de infância que se recorda com ternura e que continua a acontecer em todos os cantos do planeta, mesmo com o ar dos anos. Penso na utilização do garfo para selar as bordas daquelas empadas caseiras que preparávamos com as nossas mães ou avós. É aquele momento de aprendizagem culinária, a meio caminho entre a brincadeira e a idade adulta, em que assumimos a responsabilidade do trabalho para ajudar o outro. Tal como o exemplo do garfo, poderia citar milhares de pequenos pormenores que sustentam a biografia de cada um: sorrir com uma piada, fazer um desenho em contraluz numa janela, jogar o primeiro jogo de futebol com uma "bola de trapos", cuidar de lagartas numa caixa de sapatos, secar uma flor entre as páginas de um livro, cuidar de um pássaro que caiu do ninho, formular um desejo ao despetalar uma margarida. Todos esses pequenos pormenores, o ordinário-extraordinário, nunca poderão estar entre os algoritmos. Porque o garfo, as piadas, a janela, a bola, a caixa de sapatos, o livro, o pássaro, a flor? são sustentados pela ternura preservada nas memórias do coração."
A visão do papa Francisco sobre tecnologia e IA é um chamado à responsabilidade ética e à centralidade do ser humano. Ele reconhece a tecnologia como um "dom de Deus", mas insiste que ela deve ser orientada por valores que promovam a dignidade, a fraternidade e a paz.
Se é certo que o papa será muito lembrado pelo seu ímpeto reformista, que procurou guiar a Igreja Católica em tempos de enormes transformações, esse olhar sobre tecnologia, que é menos conhecido, mas não menos importante, revela um Pontífice conectado com as promessas e atento aos riscos trazidos pelas redes sociais e pela IA.
Em um mundo cada vez mais tecnológico, Francisco nos convida a se maravilhar com os avanços tecnológicos e a estar alerta sobre os seus impactos em nossa compartilhada jornada humana.
(*) Alex Winetzki é CEO da Woopi e diretor de P&D do Grupo Stefanini, de soluções digitais.
Homework
