Drone com IA decidiu o alvo sozinho e matou três pessoas. Agora, países exigem um tratado

Semanas depois de se saber que um drone russo com Inteligência Artificial (IA) poderá ter escolhido sozinho o alvo e matado três civis em Zaporíjia, na Ucrânia, seis governos patrocinaram um fórum, onde ministros e responsáveis da Organização das Nações Unidas (ONU) defenderam que deve ser criado um tratado vinculativo sobre armas autónomas.

A regulação dos sistemas de armas letais autónomos é discutida nas Nações Unidas há mais de uma década sem que exista um instrumento juridicamente vinculativo. Em outubro de 2023, o secretário-geral da ONU, António Guterres, e a presidente do Comité Internacional da Cruz Vermelha (CICV), Mirjana Spoljaric, pediram a conclusão de um tratado até ao fim de 2026, apelo que renovaram a 25 de agosto, avisando que o mundo se aproxima perigosamente de uma linha vermelha moral, a de máquinas escolherem pessoas como alvos, e apontando a conferência de revisão de novembro como o caminho mais claro para decidir negociar.

Neste contexto, a Nigéria, a Áustria, a Bélgica, o Brasil, o México e as Filipinas, juntamente com o CICV, o grupo The Elders e o Future of Life Institute (FLI), patrocinaram um fórum na Nigeria House, em Nova Iorque, na noite de 23 de setembro. Os pormenores conhecem-se através do FLI, um dos patrocinadores, que classifica o encontro como inédito. A Nigéria, apesar de participar nas reuniões sobre o tema, não é parte da Convenção sobre Certas Armas Convencionais (CCW).

O caso da Ucrânia

O debate ocorre depois de, em agosto, o The New York Times ter noticiado que, a 6 de julho, um drone russo do tipo Molniya explodiu junto a uma bomba de gasolina em Zaporíjia e matou três civis, entre os quais uma estudante universitária de 19 anos. Segundo o jornal, que cita responsáveis da defesa aérea, peritos e especialistas forenses ucranianos, o aparelho tinha um módulo Nvidia Jetson Orin, sem antena de comunicações, e terá escolhido o alvo final sozinho, depois de ter sido dirigido para a bomba de gasolina.

A Nvidia confirmou ao jornal que o módulo fotografado era um Jetson Orin, mas a conclusão de que o drone atuou de forma autónoma assenta na análise das autoridades ucranianas, e o aparelho acabou por embater num edifício antes de chegar ao alvo pretendido.

O que saiu do fórum em Nova Iorque

Segundo o FLI, a ministra federal austríaca dos Assuntos Europeus e Internacionais, Beate Meinl-Reisinger, defendeu que a conferência de novembro deve decidir iniciar negociações, e o ministro da Defesa da Nigéria, general Christopher Musa, sustentou que estas tecnologias, cada vez mais acessíveis, não preocupam apenas os países tecnologicamente avançados.

A subsecretária-geral da ONU para os Assuntos de Desarmamento, Izumi Nakamitsu, afirmou que o relatório recentemente adotado deve ser um ponto de partida e não um limite, e Eduardo Sanchez, diretor-geral no Ministério dos Negócios Estrangeiros do México, apelou a que se assegure um instrumento juridicamente vinculativo.

76 Estados a favor de negociações

Na madrugada de 5 de setembro, o grupo de peritos governamentais da CCW concluiu, em Genebra, três anos de trabalho com um relatório final não vinculativo. Segundo a Human Rights Watch, alguns Estados, entre os quais a Rússia e os Estados Unidos, insistiram em alterações que:

• Retiraram as referências ao desenho e ao desenvolvimento;
• Limitaram o âmbito ao direito internacional humanitário;
• Eliminaram a referência a considerações éticas;
• Removeram requisitos como previsibilidade, fiabilidade, explicabilidade e rastreabilidade.

Ainda assim, a organização considera que o texto é base suficiente para lançar negociações, que já reúnem o apoio de 76 Estados, 70 dos quais são partes da CCW e formam a maioria da convenção.

E se Genebra falhar?

A conferência de revisão decorre de 16 a 20 de novembro, em Genebra, e a HRW considera-a o momento decisivo para que os Estados adotem um mandato negocial. Como as decisões na CCW dependem de consenso, um pequeno grupo de Estados com forte capacidade militar tem conseguido travar propostas anteriores.

Caso não haja mandato, os defensores do tratado admitem um processo fora da convenção, como aconteceu com o Tratado de Ottawa, sobre minas antipessoais, concluído em 1997, e com a Convenção sobre Munições de Fragmentação, negociada no Processo de Oslo e adotada em Dublin em 2008. Os Estados Unidos, a Rússia e a China não aderiram a nenhum dos dois.

Em 2015, a HRW indicava que mais de 120 países apoiavam um tratado sobre armas autónomas.

Ou seja…?

Há um debate antigo sobre se as máquinas devem poder decidir sozinhas quem é atingido numa guerra, e os acontecimentos recentes reforçaram a necessidade de se conversar seriamente sobre o assunto. Uma arma autónoma escolhe e ataca alvos sem um operador a confirmar o ataque, e o receio de quem quer definir regras, como o CICV e a ONU, é de que a máquina erre sem que nenhuma pessoa ou entidade possa ser responsabilizada.

Há mais de 10 anos que os Estados discutem o tema na CCW, em Genebra, mas as decisões exigem consenso, e a Rússia e os Estados Unidos têm travado regras vinculativas.

Neste contexto, o fórum patrocinado por seis governos, em Nova Iorque, serviu para ministros pedirem que a conferência de novembro decida negociar um tratado. Apesar de haver 76 Estados a favor, basta a oposição de um país poderoso para o mandato não passar. Nesse caso, a alternativa é negociar fora da CCW.