O Papa Francisco apelou a um tratado internacional juridicamente vinculativo para regular a inteligência artificial (IA), afirmando que os algoritmos não devem substituir os valores humanos e alertando para uma “ditadura tecnológica” que ameaça a existência humana.
O Papa fez este apelo numa mensagem para o Dia Mundial da Paz da Igreja Católica Romana, que se celebra a 1 de janeiro. O título da mensagem, que é tradicionalmente enviada aos líderes mundiais e chefes de instituições como as Nações Unidas, é “Inteligência Artificial e Paz”.
A mensagem foi enviada numa altura em que os governos de todo o mundo procuram equilibrar as vantagens da tecnologia, que pode participar em conversas semelhantes às humanas, responder a perguntas e escrever código, com a necessidade de colocar barreiras de proteção.
A escala global da inteligência artificial deixa claro que, ao lado da responsabilidade dos Estados soberanos de regular o seu uso internamente, as organizações internacionais podem desempenhar um papel decisivo na obtenção de acordos multilaterais e na coordenação da sua aplicação e execução.
Exorto a comunidade global de nações a trabalhar em conjunto para adotar um tratado internacional vinculativo que regule o desenvolvimento e a utilização da inteligência artificial nas suas múltiplas formas.
Escreveu Francisco na mensagem.
Papa Francisco – imagem gerada com IA
UE chegou a um acordo provisório sobre as regras no uso da IA
Na semana passada, a União Europeia chegou a um acordo provisório sobre as regras de referência que regem o uso da IA, incluindo o uso de IA pelos governos na vigilância biométrica e como regular os sistemas de IA, como o ChatGPT.
Francisco apelou a um escrutínio ético dos “objetivos e interesses dos proprietários e criadores (de IA)”, alertando para o facto de algumas aplicações de IA “poderem representar um risco para a nossa sobrevivência e pôr em perigo a nossa casa comum“.
Num desejo obsessivo de controlar tudo, arriscamo-nos a perder o controlo sobre nós próprios; na busca de uma liberdade absoluta, arriscamo-nos a cair na espiral de uma ‘ditadura tecnológica’.
Escreveu.
Francisco tem criticado frequentemente a indústria de armamento
Além disso, advertiu contra a utilização da inteligência artificial nos sistemas de armamento, afirmando que poderia conduzir a uma catástrofe global.
A investigação sobre tecnologias emergentes na área dos chamados Sistemas de Armas Autónomas Letais, incluindo a utilização da inteligência artificial como arma, é motivo de grande preocupação ética. Os sistemas de armas autónomos nunca poderão ser sujeitos moralmente responsáveis.
A capacidade humana única de julgamento moral e de tomada de decisões éticas não pode ser deixada a uma máquina. É imperativo assegurar uma supervisão humana adequada, significativa e consistente dos sistemas de armas.
Afirmou.
Numa conferência de imprensa de apresentação da mensagem, o Cardeal Michael Czerny, diretor do gabinete de desenvolvimento humano do Vaticano, afirmou que o Papa de 86 anos não se opõe às novas tecnologias. O Papa aprecia os progressos tecnológicos e científicos que servem a humanidade, mas está particularmente preocupado com a IA porque é “talvez a aposta mais alta do nosso futuro”.
Leia também…