IA da Google sinalizou contas de pais devido a fotos dos filhos despidos

Os sistemas de Inteligência Artificial (IA) das plataformas estão cada vez mais apurados, por forma a garantir a segurança dos utilizadores. Desta vez, a IA da Google sinalizou contas de pais por potenciais abusos.

A razão? Possuíam fotos dos filhos despidos.

De acordo com o The Verge, citando o The New York Times, um pai alegou que, depois de utilizar o seu smartphone Android para captar a infeção na virilha do seu filho, viu as imagens assinaladas como material de abuso sexual infantil, pela Google.

Na sequência dessas imagens, a Google encerrou as suas contas, apresentou queixa ao Center for Missing and Exploited Children (NCMEC) e deu início a uma investigação policial. No entanto, as fotografias foram tiradas para ajudar os médicos a diagnosticar as infeções.

A par da investigação, a Google destacou as complicações associadas à distinção entre um potencial abuso e uma fotografia sem qualquer propósito malicioso.

Pai assinalado pela Google por ter fotos do filho doente despido

O The New York Times explicou que o principal incidente aconteceu em fevereiro de 2021, quando alguns centros médicos ainda estavam fechados devido à pandemia. O pai da criança notou um inchaço na virilha da criança e, a pedido de uma enfermeira, enviou imagens da região antes da consulta, que aconteceu por videochamada. Depois disso, o médico prescreveu antibióticos e a infeção foi curada.

Embora tenha corrido tudo bem, dois dias após a captura das imagens, o pai, de nome Mark, recebeu uma notificação da Google a avisar que as suas contas haviam sido bloqueadas, devido a “conteúdo nocivo” que era uma “grave violação das políticas da Google”.

Identificamos e reportamos material de abuso sexual infantl com equipas especializadas e tecnologia de ponta, incluindo classificadores de aprendizagem de máquinas e tecnologia de combinação de hash, que cria um "hash", ou impressão digital única, para uma imagem ou um vídeo, para que possa ser comparada com hashes de materiais de abuso sexual infantil conhecidos. Quando encontramos esses materiais, reportamo-lo ao NCMEC, que estabelece a ligação com as agências de aplicação da lei em todo o mundo.

O pai, que acabou por perder o acesso aos seus e-mails, contactos, fotos e ao seu número de telefone, foi ilibado quando o San Francisco Police Department, responsável pelo caso, “não encontrou os elementos de um crime” e concluiu que “não ocorreu qualquer crime”.