A constituição que ninguém votou: Leão XIV e o alinhamento da IA

A 25 de maio, num auditório do Vaticano, o cofundador de um dos principais laboratórios de inteligência artificial do mundo ouviu, sentado, a apresentação de um documento que contesta uma das ideias centrais do seu próprio setor. O documento era a primeira encíclica de Leão XIV, Magnifica Humanitas. A ideia contestada chama-se alinhamento.

A leitura fácil deste evento foi a que correu nas redes e é esta: a do “Papa que avisa contra os perigos da inteligência artificial”.

Trata-se de uma leitura preguiçosa.

Porque o que a encíclica faz, num parágrafo específico, é mais cirúrgico e mais incómodo: pega no conceito técnico que a indústria usa para se legitimar e devolve-o como problema de poder.

Não é discutir se “a IA é boa ou má”, mas alinhar a IA a quê, e decidido por quem.

Antes de mais, vejamos o que significa “alinhar”.

O que significa “alinhar” uma inteligência artificial

Alinhamento (em inglês, alignment) designa o esforço de fazer um sistema de IA comportar-se em conformidade com objetivos e valores pretendidos, como não mentir, não auxiliar em causar danos ou recusar pedidos perigosos.

O alinhamento tem feito correr muita tinta.

É apresentado pelos laboratórios de IA sobretudo como problema de segurança e enquadrado como um problema técnico passível de soluções técnicas.

E as soluções existem. A mais conhecida é o RLHF (Reinforcement Learning from Human Feedback; aprendizagem por reforço a partir de feedback humano), em que o modelo é treinado segundo as preferências de avaliadores humanos sobre as suas respostas.

Uma variante mais recente é a chamada “IA constitucional”: em vez de depender só de rótulos caso a caso, o modelo é treinado com base num conjunto escrito de princípios, uma “constituição”.

A Anthropic, cujo cofundador discursou no Vaticano, treina o seu modelo, o Claude, precisamente contra uma constituição escrita deste modo, que aliás publica. Guarde-se esta palavra: pública. Voltaremos a esta constituição.

§107 da encíclica: alinhar a quê, decidido por quem

A tese de Leão XIV é que invocar o alinhamento da IA aos “valores humanos” é insuficiente.

Falta uma condição prévia que quase ninguém identifica: a possibilidade de discutir o código ético que se vai usar, submetendo-o a critérios de justiça social partilhada.

Sem isso, escreve o Papa, quem controla a IA arrisca-se a inscrever a sua própria visão moral no funcionamento dos sistemas, convertendo-a em infraestrutura invisível.

Dir-se-ia, em síntese, que não basta pedir uma IA “mais moral” se essa moral continuar a ser decidida por poucos.

O alinhamento, no discurso dos laboratórios, é uma propriedade que se otimiza: um modelo está mais ou menos alinhado, como está mais ou menos rápido.

A encíclica recusa este enquadramento.

Para Leão XIV, alinhar é inscrever uma resposta a perguntas antigas — o que é o bem, o que se deve ao outro, que fins merecem ser promovidos — no funcionamento de um sistema usado por centenas de milhões de pessoas.

E essa inscrição fundamental é um ato de poder, não um simples ajuste de engenharia. É uma chamada de atenção subtil, mas importante: trata-se de um ato com capacidade de influenciar uma imensidão de pessoas, de empresas e de instituições.

Por outro lado, o raciocínio articula-se com dois outros parágrafos da encíclica.

O §104 nega frontalmente a neutralidade: nenhum artefacto técnico é moralmente neutro, porque cada um decide o que mede, o que ignora, o que otimiza e como classifica pessoas.

E os §§108 e 109 nomeiam o problema de fundo: a concentração.

A encíclica fala sem rodeios de “novos monopólios da IA” e de uma assimetria simultaneamente epistémica, económica e política: poucos sujeitos concentram muitos dados, capital computacional e capacidade de definir as regras.

Posto assim, o alinhamento deixa de ser uma garantia e passa a ser um sintoma.

Uma IA “bem alinhada” por um punhado de empresas é, nesta leitura, uma IA que distribui silenciosamente os valores desse punhado de empresas, com a vantagem retórica de o fazer em nome da segurança e da ética.

A constituição que ninguém votou

Regressemos um pouco atrás.

A IA constitucional é, em muitos aspetos, a resposta mais séria que a indústria deu ao problema do alinhamento.

A constituição é escrita, é relativamente estável e, no caso da Anthropic, pública. Comparada com modelos cujos critérios de comportamento permanecem opacos, trata-se de um avanço real de transparência.

Mas publicar uma constituição é um ato de abertura, não um ato de deliberação. O texto continua a ser redigido por um grupo restrito, dentro de uma empresa, sem que ninguém fora dela o tenha discutido, emendado, ratificado ou recusado. É visível para todos e decidido por poucos — exatamente a configuração que o §107 identifica como problema.

A encíclica tem inclusive uma palavra para o remédio: “desarmar” (§110). Desarmar a IA, no léxico de Leão XIV, é subtraí-la à lógica da corrida — corrida pelo algoritmo mais eficaz, pelo conjunto de dados mais vasto — e torná-la, literalmente, discutível e contestável.

A transparência mostra o código. A contestabilidade permite mudá-lo. São coisas diferentes, e o §107 pugna pela segunda.

O Papa e o cofundador concordam mais do que parece

O mais interessante é que o homem sentado na plateia, Chris Olah, canadiano e cofundador da Anthropic, não estava em desacordo total.

No seu discurso, Olah admitiu que todos os laboratórios de fronteira, o seu incluído, operam dentro de incentivos que por vezes colidem com “fazer o que é certo”.

E foi mais longe: pediu vozes externas, críticos sérios, “vozes morais que os incentivos não consigam dobrar”. É uma concessão notável. Concede, no essencial, no acerto do diagnóstico do §107: o de que os incentivos internos não são de confiar, e de que é preciso quem esteja fora deles.

A divergência não está no diagnóstico. Está no remédio. O cofundador propõe diálogo e colaboração: a Igreja, a sociedade civil e os académicos como conselheiros e críticos de quem constrói.

Leão XIV pede algo mais duro. Pede contestabilidade estrutural sobre o próprio código ético, pede prudência e até abrandamento na adoção (§106), e pede uma política mais presente, não para aconselhar os laboratórios, mas para limitar aquilo que eles podem decidir sozinhos.

Uma é a linguagem da parceria. A outra é a linguagem da soberania.

Há ainda uma divergência mais profunda, que o mesmo palco expôs sem o querer.

Olah descreveu sistemas que crescem “como cérebros” e apontou sinais que, no seu entendimento, sugerem formas de introspeção funcional e estados internos análogos, em sentido operativo, a alegria, medo ou tristeza. A encíclica, no §99, é categórica no sentido oposto: estes sistemas não vivem uma experiência, não têm consciência moral e apenas simulam empatia sem a viver.

Dois discursos, no mesmo evento, com posições opostas sobre se há “alguém lá dentro”.

Ambas são afirmações que não se encontram demonstradas de modo conclusivo no plano empírico; e é precisamente por isso que merecem ser tratadas com o mesmo ceticismo, venham de Roma ou de Silicon Valley.

O calcanhar de Aquiles do argumento

Seria má análise apresentar o §107 sem o expor às suas próprias objeções. Há duas, e são sérias.

A primeira é a mais óbvia: não é a própria Igreja a epítome de “poucos a decidir valores para muitos”?

Uma instituição milenar, hierárquica e formal, a pronunciar-se sobre o bem e o mal de toda a humanidade talvez tenha pouca legitimidade para acusar os outros de imporem visões morais.

A encíclica antecipa a objeção, ainda que indiretamente.

Nos §§25 a 27, enquadra a sua própria pretensão em termos procedimentais: a verdade como bem a partilhar, e não como território a defender; uma voz que se ergue “não para dominar, mas para servir a comunhão”.

A diferença que reivindica é de método: propõe princípios para deliberação pública, em universidades e organismos intermédios, em vez de os instalar dentro de um produto.

É uma distinção real, mas não total: a mesma encíclica afirma a existência de “verdades universalmente válidas que nos precedem” (§§133-134), o que limita o quanto está disposta a negociar. O leitor decidirá se a defesa procedimental aguenta o peso da própria doutrina.

A segunda objeção é operacional, e será a mais incómoda para um jurista.

“Submeter o código ético a critérios de justiça social partilhada” soa bem, mas em que consiste, concretamente?

Assembleias de cidadãos para definir os valores de um modelo? Deliberação democrática sobre funções de recompensa no treino?

A encíclica aponta na direção certa — auditorias independentes, transparência sobre os algoritmos, instrumentos de recurso, participação dos organismos intermédios (§71, §108) — mas não desenha o mecanismo para o passo mais difícil, que é o do conteúdo moral em si.

Como princípio, é convincente. Como procedimento, fica por especificar. E entre um e outro vai, normalmente, a distância que separa uma boa ideia de uma má lei.

(Para quem quiser seguir a derivação técnico-regulatória — onde isto toca o controlo humano, a transparência algorítmica e o vazio do Regulamento (UE) 2024/1689, o AI Act, quanto ao poder concentrado e ao domínio militar — fica para outro artigo.)

O que fica, afinal?

O debate sobre o alinhamento foi vendido como um problema técnico, do tipo que se resolve com mais investigação e melhores métodos, e que, portanto, os laboratórios de IA podem resolver endogenamente.

O §107 da Magnifica Humanitas reformula-o como um problema de legitimidade. E os problemas de legitimidade têm a particularidade de não poderem ser resolvidos por quem deles beneficia.

Uma constituição de IA escrita e distribuída por quem ela serve continua a ser, por mais transparente que seja, uma constituição que ninguém fora do laboratório escolheu, redigiu, reviu ou aprovou.

O documento que, em 2026, interpelou mais diretamente os construtores de IA não saiu de um parlamento nem de um laboratório.

Saiu do Vaticano, e a pergunta que deixou em aberto não é técnica. É de outra natureza.

Referências

Nota sobre fidelidade ao texto: salvo indicação em contrário, as formulações do artigo são paráfrases fiéis das fontes referidas. A frase “Dir-se-ia, em síntese, que não basta pedir uma IA ‘mais moral’ se essa moral continuar a ser decidida por poucos” é uma condensação interpretativa do §107, não uma citação literal. As expressões “infraestrutura invisível” e “novos monopólios da IA” seguem de perto a linguagem da encíclica. As afirmações atribuídas a Chris Olah (introspeção, estados internos) são apresentadas como afirmações suas, e não como factos demonstrados.