Papa Leão XIV alerta para riscos da inteligência artificial e defende controle humano

O Papa Leão XIV defendeu que o desenvolvimento da inteligência artificial tenha limites éticos e permaneça sob controle humano. A declaração ocorreu durante o encontro “O Futuro da IA: Um Diálogo entre o Vaticano e o Mundo Científico sobre os Avanços e as Aplicações das Tecnologias Inteligentes”, que reuniu especialistas de vários países.

Com base na encíclica Magnifica humanitas, o pontífice afirmou que o futuro da inteligência artificial depende das escolhas humanas. Para ele, a principal questão não é apenas o que essa tecnologia consegue fazer, mas a serviço de quem e de quais objetivos ela deve estar.

A questão decisiva não é simplesmente o que a IA pode fazer, mas sim a que propósito ela deve servir. No que diz respeito ao desenvolvimento, encará-lo meramente como uma corrida a ser vencida com foco exclusivo na linha de chegada e sem considerar aqueles que ficam para trás, é um risco.

Leão XIV também destacou que as máquinas são ferramentas, não pessoas. Por isso, criticou propostas que pretendem conceder direitos ou personalidade jurídica aos sistemas de inteligência artificial.

Decisões que afetam a vida humana, a liberdade e o uso da força devem estar sempre sujeitas a uma supervisão humana efetiva, informada e responsável. Por essa razão, a inteligência artificial deve ser desarmada.

Por fim, o pontífice ressaltou a necessidade de criar instituições, especialmente internacionais, capazes de estabelecer e aplicar princípios éticos para orientar o desenvolvimento da inteligência artificial. Para Leão XIV, o avanço tecnológico não pode deixar de lado a dignidade humana e a responsabilidade sobre suas consequências.

Ouça a matéria em áudio: