A União Europeia (UE) não viu as tecnologias de Inteligência Artificial (IA) a ganhar força sem pensar, de imediato, numa forma de as regular. Ora, há organizações da sociedade civil que apontam que, ainda assim, a utilização de sistemas tecnológicos de reconhecimento facial poderá aumentar, constituindo um problema.
Conforme já vimos, a utilização da IA na UE será regulada pela Lei da IA. Esta é a primeira lei abrangente do mundo sobre a tecnologia e estabelece obrigações para os fornecedores e utilizadores em função do nível de risco.
Para organizações da sociedade civil, o regulamento que a UE está a preparar, e que se assume como o primeiro do mundo, tem demasiadas lacunas relativamente à utilização de sistemas tecnológicos de reconhecimento facial.
Embora o reconhecimento facial deva ser usado em contextos muito específicos sob autorização judicial, como em caso de ameaça terrorista, o alerta surge pela possível consequente falta de controlo.
A polícia tem condições muito amplas para utilizar estes sistemas.
O que receamos é que tal tenha um efeito de legitimação. Estes sistemas, que até agora temos conseguido contestar, dizendo que não os queremos numa sociedade democrática, vão tornar-se mais difíceis de contrariar. Noutros países poderão dizer que a UE aprovou estas tecnologias.
Explicou Ella Jakubowska, do Movimento “Resgata o teu rosto”, em entrevista à euronews.
O Parlamento Europeu defendia a proibição destes sistemas, mas acabou por ceder nas negociações a exigências de alguns Estados-membros, no sentido de criar exceções. O Governo francês, por exemplo, pretende usar a IA para monitorizar atividades suspeitas durante os Jogos Olímpicos, este ano.
Para Ella Jakubowska, as exceções reforçam o medo de práticas de vigilância em massa, porque podemos esperar “um aumento potencial da utilização de sistemas de reconhecimento facial nos nossos espaços públicos, especialmente quando estes sistemas são utilizados em direto”.
Por exemplo, quando se está a andar num espaço público, a ir às lojas, no caminho para a escola ou para o médico, a participar numa manifestação; poderá haver poderes acrescidos para os agentes de aplicação da lei utilizarem esta tecnologia de reconhecimento facial em tempo real, seguindo quem quer seja, em qualquer local.
Para a UE, o regulamento para a IA assegura equilíbrio
Apesar das preocupações expostas pelas organizações da sociedade civil, o Parlamento Europeu argumenta que o regulamento assegura equilíbrio entre a promoção da segurança e os direitos civis.
Se tivéssemos proibido esta técnica, aconteceriam duas coisas. Primeiro, a sociedade perguntaria porque é que a integridade de um terrorista deve ser mais importante do que a segurança dos nossos cidadãos? Em segundo lugar, esta técnica continuaria a ser desenvolvida por outros países, especialmente pela China.
Disse Arba Kokelari, eurodeputada sueca, à euronews, defendendo que “a proposta de lei é uma boa forma de equilibrar a integridade, mas também a segurança”.