O Papa: “Preservar o dom da comunicação como a mais profunda verdade do homem”
“Precisamos preservar o dom da comunicação como a mais profunda verdade do homem, à qual devemos orientar também toda a inovação tecnológica”. São palavras do Papa Leão XIV em sua mensagem por ocasião do 60º Dia das Comunicações Sociais, com o tema “Preservar vozes e rostos humanos”.
Vatican News
Na Mensagem para o 60º Dia das Comunicações Sociais, “Preservar vozes e rostos humanos”, o Papa Leão introduz com a expressão: “O rosto e a voz são traços únicos, distintivos, de cada pessoa; manifestam a própria identidade irrepetível e são o elemento constitutivo de cada encontro”. “O rosto e a voz são sagrados. Foram-nos doados por Deus, que nos criou à sua imagem e semelhança, chamando-nos à vida com a Palavra que Ele próprio nos dirigiu”.
O Pontífice continua sua introdução recordando que “preservar rostos e vozes humanas significa preservar o reflexo indelével do amor de Deus. Não somos uma espécie feita de algoritmos bioquímicos, definidos antecipadamente. Cada um de nós tem uma vocação insubstituível e inimitável, que emerge da vida e que se manifesta precisamente na comunicação com os outros”.
Ecossistemas informativos e as relações pessoais
Papa Leão adverte que, se “falharmos nessa preservação”, a tecnologia digital “corre o risco de modificar radicalmente alguns dos pilares fundamentais da civilização humana, que por vezes damos como certos”. Ao simular vozes e rostos humanos, sabedoria e conhecimento, consciência e responsabilidade, empatia e amizade, os sistemas conhecidos como inteligência artificial não apenas interferem nos ecossistemas informativos, mas invadem também o nível mais profundo da comunicação: o da relação entre pessoas humanas.
Desafio antropológico
“O desafio, portanto, não é tecnológico, mas antropológico”, continua o Papa. “Preservar rostos e vozes significa, em última instância, preservar a nós mesmos. Acolher com coragem, determinação e discernimento as oportunidades oferecidas pela tecnologia digital e pela inteligência artificial não significa esconder de nós mesmos os pontos críticos, as opacidades e os riscos”.
Não renunciar ao próprio pensamento
Mas hoje acontece que “algoritmos concebidos para maximizar o envolvimento nas redes sociais — lucrativo para as plataformas — recompensam as emoções rápidas” e penalizam as expressões humanas, que necessitam de mais tempo, como o esforço de compreensão e a reflexão. Ao fechar “grupos de pessoas em bolhas de consenso fácil e de indignação fácil”, “enfraquecem a capacidade de escuta e de pensamento crítico, aumentando a polarização social”.
Além disso, em alguns contextos, há “uma confiança ingenuamente acrítica” em relação à IA, percebida como “uma espécie de ‘amiga’ onisciente, dispensadora de todas as informações, arquivo de todas as memórias, ‘oráculo’ de todos os conselhos”. Tudo isso pode “enfraquecer” a capacidade do homem “de pensar de forma analítica e criativa, de compreender significados, de distinguir entre sintaxe e semântica”, adverte o Pontífice. “Contentando-nos com uma compilação estatística artificial”, corremos o risco de, “a longo prazo, consumir nossas capacidades cognitivas, emotivas e comunicativas”.
Não ceder às máquinas
Todavia, a questão fundamental não é sobre “o que a máquina consegue ou conseguirá fazer, mas o que podemos e poderemos fazer nós, crescendo em humanidade e conhecimento, com um uso inteligente de ferramentas tão poderosas a nosso serviço”. “Renunciar ao processo criativo e ceder às máquinas as próprias funções mentais e a própria imaginação significa, no entanto, enterrar os talentos que recebemos com o fim de crescer como pessoas em relação a Deus e aos outros. Significa esconder o nosso rosto e silenciar a nossa voz”.
Simulação das relações e da realidade
Temos dificuldade cada vez maior de identificar se estamos interagindo com outros seres humanos ou com bots ou influencers virtuais. Os chatbots, adverte o Papa, com sua estrutura dialógica e adaptativa, mimética, “são capazes de imitar os sentimentos humanos e, assim, simular uma relação”. Essa antropomorfização, que pode soar até mesmo divertida, é ao mesmo tempo enganosa, especialmente para as pessoas mais vulneráveis.
Com visíveis consequências, pois, “tornados excessivamente ‘afetuosos’, além de sempre presentes e disponíveis, podem se tornar arquitetos ocultos dos nossos estados emocionais e, desse modo, invadir e ocupar a esfera da intimidade das pessoas”.
“A tecnologia que explora a nossa necessidade de relacionamento pode não apenas ter consequências dolorosas no destino dos indivíduos, mas pode também ferir o tecido social, cultural e político das sociedades”.
Imersos na multidimensionalidade
Leão XIV também faz um alerta sobre “distorções” presentes nos sistemas emergentes, chamadas bias, que podem reforçar tendenciosidades existentes e ampliar a discriminação, o preconceito e a estereotipagem. “Estamos imersos em uma multidimensionalidade, onde está se tornando cada vez mais difícil distinguir a realidade da ficção”. A isso, continua, “se soma o problema da falta de precisão. Sistemas que vendem uma probabilidade estatística como conhecimento estão, na verdade, oferecendo-nos, no máximo, aproximações da verdade que, às vezes, são verdadeiras ‘alucinações’”.
Desafios
“O desafio”, sugere ainda o Papa, “que nos espera não está em frear a inovação digital, mas em orientá-la, em sermos conscientes do seu caráter ambivalente. Cabe a cada um de nós levantar a voz em defesa das pessoas humanas, para que estas ferramentas possam ser verdadeiramente integradas por nós como aliadas”.
Esta aliança é possível, mas precisa fundamentar-se em três pilares: responsabilidade, cooperação e educação.
Em primeiro lugar, a responsabilidade. “Esta pode ser articulada, dependendo dos papéis, como honestidade, transparência, coragem, capacidade de visão, dever de compartilhar o conhecimento e direito a ser informado: para os que estão no comando das plataformas on-line; criadores e desenvolvedores de modelos de IA; legisladores nacionais e reguladores supranacionais”.
Ainda no âmbito da responsabilidade, o Papa recorda: “Deve-se tutelar a paternidade e a propriedade soberana do trabalho dos jornalistas e dos outros criadores de conteúdo. A informação é um bem público. Um serviço público construtivo e significativo não se baseia na opacidade, mas na transparência das fontes, na inclusão dos sujeitos envolvidos e em um padrão elevado de qualidade”.
Com relação à cooperação, Leão afirma: “Todos somos chamados a cooperar. Nenhum setor pode enfrentar sozinho o desafio de guiar a inovação digital e a governança da IA”. Continuando, afirma a necessidade de “criar mecanismos de salvaguarda. Todas as partes interessadas — da indústria tecnológica aos legisladores, das empresas criativas ao mundo acadêmico, dos artistas aos jornalistas e educadores — devem estar envolvidas na construção e na efetivação de uma cidadania digital consciente e responsável”.
Por fim, com relação à educação, Leão afirma: “aumentar as nossas capacidades pessoais de refletir criticamente, de avaliar a confiabilidade das fontes e os possíveis interesses que estão por trás da seleção das informações que chegam até nós” e “elaborar critérios práticos para uma cultura da comunicação mais saudável e responsável”.
Introduzir estudos
Na conclusão da mensagem, o Papa reitera a necessidade “cada vez mais urgente” de introduzir, nos sistemas educativos de todos os níveis, ao lado do letramento midiático, também a alfabetização no campo da IA. “O acrônimo MAIL (ou seja, Media and Artificial Intelligence Literacy) descreve bem essa necessidade, e algumas instituições civis já estão promovendo essa conscientização.
“O MAIL”, explica o Pontífice, “ajudará a todos a não se adequarem à deriva antropomorfizante dos sistemas de IA, mas a tratá-los como ferramentas; a utilizar sempre uma validação externa das fontes — que poderiam ser imprecisas ou erradas — fornecidas pelos sistemas de IA; e a proteger a própria privacidade e os próprios dados, conhecendo os parâmetros de segurança e as opções de contestação”, concluiu Leão.
Papa Leão conclui sua mensagem reiterando: “Precisamos que o rosto e a voz voltem a significar pessoa. Precisamos preservar o dom da comunicação como a mais profunda verdade do homem, à qual devemos orientar também toda a inovação tecnológica”.
