IA e crianças: ex-Google defende “testes de colisão” para avaliar riscos das plataformas
O fundador da equipa de confiança e segurança da Google, Tom Siegel, defende um abrandamento no desenvolvimento da Inteligência Artificial (IA), alertando que o setor tecnológico está a repetir os erros cometidos na era das redes sociais, com um potencial de dano ainda maior para os mais novos.
Funcionário da Google entre 2004 e 2019 antes de deixar a empresa por considerar que a indústria tecnológica estava a estagnar na criação de espaços online seguros, Tom Siegel assumiu esta semana o cargo de primeiro diretor-executivo do Youth AI Safety Institute.
Trata-se de uma organização de investigação lançada em maio pela Common Sense Media, associação norte-americana dedicada à proteção de crianças no ambiente digital desde 2003, que conta com o apoio, entre outros, da Anthropic e da OpenAI Foundation, a entidade sem fins lucrativos que controla a OpenAI.
Antes de assumir esta nova função, Siegel foi cofundador e diretor-executivo da TrustLab, empresa dedicada a ferramentas de deteção de riscos de segurança online, cargo que deixou este mês para liderar o novo instituto.
Riscos que vão do suicídio à psicose
Segundo Siegel, as grandes empresas de IA estão a lançar funcionalidades dirigidas a crianças sem garantir salvaguardas suficientes, e o cenário atual configura, nas suas palavras, situações de dano muito severas.
Entre os riscos identificados estão problemas ligados ao suicídio e à psicose, bem como o chamado cognitive offloading, ou seja, a diminuição da capacidade de pensamento crítico resultante da dependência excessiva da IA para obter respostas.
As ações pedidas às tecnológicas
O ex-funcionário da Google considera que Anthropic e OpenAI têm à sua disposição medidas imediatas para proteger os utilizadores mais jovens, nomeadamente o reforço dos mecanismos de verificação de idade, de modo a impedir o acesso de menores aos respetivos chatbots.
Quanto à Google, Siegel defende que a empresa poderia introduzir com facilidade uma opção para desativar o AI Overviews e o AI Mode no motor de pesquisa, à semelhança do filtro já existente para conteúdo sexualmente explícito.
Ainda que estas alterações possam ter impacto no uso das plataformas ou nas receitas a curto prazo, Siegel sublinha que as empresas que não agirem correm o risco de enfrentar processos judiciais e uma regulação mais apertada, com consequências ainda mais pesadas para o negócio.
Resposta das empresas às sugestões do antigo funcionário
Questionada sobre estas declarações, a Google respondeu que os pais dispõem de controlos parentais que permitem desativar por completo o acesso de uma criança ao motor de pesquisa.
Segundo a Reuters, a gigante tecnológica defendeu que as funcionalidades de IA na pesquisa são úteis para a aprendizagem e exploração do mundo por parte de crianças e adolescentes.
Sem resposta da Anthropic, a OpenAI afirmou recorrer a sinais associados à conta e ao comportamento, além da idade autodeclarada, para identificar utilizadores menores, reconhecendo, contudo, que nenhum método de verificação de idade é perfeito.
Testes de segurança à semelhança dos crash tests automóveis
Uma das prioridades de Siegel à frente da Common Sense Media passa por expandir padrões independentes de avaliação de risco para ferramentas de IA disponíveis ao público, à imagem dos testes de colisão usados na indústria automóvel.
Apesar da ideia, reconhece que a eficácia desta iniciativa dependerá da disponibilidade das empresas de IA para colaborar, algo que classifica como incerto, mas suficientemente provável para ter aceitado o novo cargo.
PUB
PUB.
PUB.
Velocímetro Pplware
Teste a velocidade da sua Internet
