Papa Francisco apela a um tratado global vinculativo para regular a IA

O Papa Francisco apelou a um tratado internacional juridicamente vinculativo para regular a inteligência artificial (IA), afirmando que os algoritmos não devem substituir os valores humanos e alertando para uma "ditadura tecnológica" que ameaça a existência humana.

O Papa fez este apelo numa mensagem para o Dia Mundial da Paz da Igreja Católica Romana, que se celebra a 1 de janeiro. O título da mensagem, que é tradicionalmente enviada aos líderes mundiais e chefes de instituições como as Nações Unidas, é "Inteligência Artificial e Paz".

A mensagem foi enviada numa altura em que os governos de todo o mundo procuram equilibrar as vantagens da tecnologia, que pode participar em conversas semelhantes às humanas, responder a perguntas e escrever código, com a necessidade de colocar barreiras de proteção.

A escala global da inteligência artificial deixa claro que, ao lado da responsabilidade dos Estados soberanos de regular o seu uso internamente, as organizações internacionais podem desempenhar um papel decisivo na obtenção de acordos multilaterais e na coordenação da sua aplicação e execução.

Exorto a comunidade global de nações a trabalhar em conjunto para adotar um tratado internacional vinculativo que regule o desenvolvimento e a utilização da inteligência artificial nas suas múltiplas formas.

Escreveu Francisco na mensagem.

Papa Francisco - imagem gerada com IA

UE chegou a um acordo provisório sobre as regras no uso da IA

Na semana passada, a União Europeia chegou a um acordo provisório sobre as regras de referência que regem o uso da IA, incluindo o uso de IA pelos governos na vigilância biométrica e como regular os sistemas de IA, como o ChatGPT.

Francisco apelou a um escrutínio ético dos "objetivos e interesses dos proprietários e criadores (de IA)", alertando para o facto de algumas aplicações de IA "poderem representar um risco para a nossa sobrevivência e pôr em perigo a nossa casa comum".

Num desejo obsessivo de controlar tudo, arriscamo-nos a perder o controlo sobre nós próprios; na busca de uma liberdade absoluta, arriscamo-nos a cair na espiral de uma 'ditadura tecnológica'.

Escreveu.

Francisco tem criticado frequentemente a indústria de armamento

Além disso, advertiu contra a utilização da inteligência artificial nos sistemas de armamento, afirmando que poderia conduzir a uma catástrofe global.

A investigação sobre tecnologias emergentes na área dos chamados Sistemas de Armas Autónomas Letais, incluindo a utilização da inteligência artificial como arma, é motivo de grande preocupação ética. Os sistemas de armas autónomos nunca poderão ser sujeitos moralmente responsáveis.

A capacidade humana única de julgamento moral e de tomada de decisões éticas não pode ser deixada a uma máquina. É imperativo assegurar uma supervisão humana adequada, significativa e consistente dos sistemas de armas.

Afirmou.

Numa conferência de imprensa de apresentação da mensagem, o Cardeal Michael Czerny, diretor do gabinete de desenvolvimento humano do Vaticano, afirmou que o Papa de 86 anos não se opõe às novas tecnologias. O Papa aprecia os progressos tecnológicos e científicos que servem a humanidade, mas está particularmente preocupado com a IA porque é "talvez a aposta mais alta do nosso futuro".

Leia também...