O potencial da IA para roubar o trabalho dos artistas e a forma de impedir que isto aconteça dominou a conversa sobre tecnologia em 2023. O mais recente esforço para proteger os artistas e suas criações é o Nightshade, uma ferramenta que lhes permite adicionar pixéis indetetáveis ao seu trabalho para corromper os dados de treino de um modelo de IA.
Nightshade – proteger os artistas da IA
Uma equipa da Universidade de Chicago criou o Nightshade para proteger ideias e conteúdos, como relata o MIT Technology Review. A criação desta tecnologia surge numa altura em que grandes empresas como a OpenAI e a Meta enfrentam processos judiciais por violação de direitos de autor e roubo de obras pessoais sem compensação.
Ben Zhao, professor da Universidade de Chicago, e a sua equipa criaram o Nightshade, que está atualmente a ser revisto num esforço para devolver algum do poder às mãos dos artistas. Testaram-no com modelos recentes de difusão estável e com um modelo de IA que construíram pessoalmente de raiz.
O Nightshade funciona essencialmente como um veneno, alterando a forma como um modelo de Machine Learning (aprendizagem automática) produz conteúdos e o aspeto do produto final. Por exemplo, pode fazer com que um sistema de IA interprete um pedido de uma montanha como uma praia ou mostre uma imagem de um dia de sol em vez de um dia de chuva como pedido.
O Nightshade segue-se ao lançamento de uma ferramenta chamada Glaze, por Zhao e a sua equipa, que também altera subtilmente os pixéis de uma obra de arte, mas faz com que os sistemas de IA detetem a imagem inicial como sendo completamente diferente do que é. Um artista que queira proteger o seu trabalho pode carregá-lo no Glaze ou optar por utilizar o Nightshade.
Uma tecnologia nociva como o Nightshade pode contribuir muito para encorajar os principais intervenientes na IA a solicitar e a compensar corretamente o trabalho dos artistas.
As empresas que pretendem remover o “veneno” teriam de localizar todos os dados corrompidos – uma tarefa difícil. Zhao alerta para o facto de alguns indivíduos poderem tentar utilizar a ferramenta para fins não tão bons, mas que para causar danos reais seriam necessárias milhares de obras corrompidas.
Leia também…