ChatGPT ajudou a travar alegado plano para matar uma criança

Um caso ocorrido no Brasil voltou a colocar a inteligência artificial no centro do debate sobre privacidade, segurança e prevenção criminal.

Um homem de 36 anos foi detido no estado do Espírito Santo depois de, alegadamente, revelar ao ChatGPT que tinha contratado um assassino para matar o próprio filho, de oito anos, e que pretendia ainda realizar ataques contra escolas, igrejas e autoridades públicas.

A denúncia acabou por chegar às autoridades antes de qualquer crime ser consumado.

Como o alegado plano foi descoberto?

Segundo a Polícia Civil do Espírito Santo, o suspeito utilizava o ChatGPT para descrever os seus planos e intenções.

A OpenAI terá identificado mensagens que indiciavam um risco iminente e comunicou a situação ao FBI, que, por sua vez, alertou o Ministério da Justiça brasileiro e as autoridades locais.

O homem terá confessado à plataforma que pretendia eliminar o filho para deixar de pagar a pensão de alimentos. Nas conversas, terá ainda referido planos para provocar o maior número possível de vítimas através de ataques a vários locais públicos.

A detenção ocorreu um dia antes da data em que, alegadamente, o crime estaria previsto.

A polícia teve acesso às conversas?

Sim, mas apenas parcialmente. As autoridades brasileiras confirmaram que tiveram acesso às mensagens enviadas pelo suspeito ao ChatGPT.

No entanto, não tiveram acesso às respostas produzidas pela inteligência artificial, pelo que não é possível saber de que forma o sistema respondeu às intenções manifestadas pelo utilizador.

O telemóvel do suspeito foi apreendido para investigação e a polícia procura agora confirmar se existia realmente um alegado assassino contratado ou se tudo não passou de uma fantasia apresentada durante as conversas.

Foi o ChatGPT que “fez a denúncia”?

A resposta curta é: não exatamente. A OpenAI dispõe de sistemas automáticos de monitorização destinados a identificar situações que possam representar um risco grave e iminente para a vida ou para a segurança pública.

Quando existem indícios credíveis desse tipo de ameaça, a empresa pode comunicar a informação às autoridades competentes, em conformidade com a legislação aplicável e com as suas políticas de segurança.

Isto significa que não é o modelo de inteligência artificial que “decide” denunciar alguém. A decisão resulta dos mecanismos de segurança implementados pela empresa, que podem envolver análises automáticas e avaliação humana em situações consideradas críticas.

A OpenAI afirmou recentemente que apenas comunica com as autoridades quando considera existir um “risco iminente e credível de danos físicos graves”. A maioria das violações das regras resulta apenas no bloqueio da conta do utilizador, sem qualquer contacto com a polícia.

A IA pode ser responsabilizada?

Especialistas ouvidos pela imprensa brasileira recordam que modelos como o ChatGPT não possuem consciência nem capacidade moral. O seu funcionamento baseia-se em modelos estatísticos que geram respostas com base na informação fornecida pelo utilizador.

A responsabilidade legal continua a ser um tema em evolução. Nos Estados Unidos existem vários processos judiciais relacionados com alegadas respostas inadequadas de sistemas de IA, mas os tribunais continuam a avaliar até que ponto as empresas podem ser responsabilizadas pelas interações dos seus modelos.

Um debate que continua

Este episódio demonstra que a inteligência artificial pode desempenhar um papel importante na prevenção de crimes quando são detetadas ameaças credíveis. Ao mesmo tempo, levanta questões delicadas sobre privacidade, monitorização das conversas e os limites da atuação das empresas que desenvolvem estes sistemas.

À medida que a IA se torna parte do quotidiano de milhões de pessoas, será cada vez mais necessário encontrar um equilíbrio entre a proteção da privacidade dos utilizadores e a necessidade de intervir quando existirem riscos reais para a vida humana.