Um grupo de 200 grandes empresas de tecnologia juntou-se a um esforço baseado nos EUA para promover práticas responsáveis de Inteligência Artificial (IA). O US AI Safety Institute Consortium (AISIC) terá como membros a Apple, a Meta, a Google e a Microsoft.
“Mitigar os riscos e aproveitar o imenso potencial da IA”
A secretária do Comércio, Gina Raimondo, acaba de anunciar os numerosos novos membros do grupo e disse que terão a tarefa de realizar as ações indicadas pela ampla ordem executiva do presidente Biden sobre inteligência artificial.
O governo dos EUA tem um papel significativo a desempenhar na definição de padrões e no desenvolvimento das ferramentas de que precisamos para mitigar os riscos e aproveitar o imenso potencial da inteligência artificial.
Disse Raimondo, num comunicado.
A ordem executiva de outubro de Biden era de longo alcance, então este consórcio concentrar-se-á no desenvolvimento de diretrizes para “red-teaming, avaliações de capacidade, gestão de risco, segurança e proteção e marca d’água em conteúdo sintético”.
Red-teaming
Red-teaming é um termo de cibersegurança que remete à Guerra Fria. Refere-se a simulações em que o inimigo era designado por “equipa vermelha”. Neste caso, o inimigo seria uma IA empenhada em “comportar-se” mal. As pessoas envolvidas nesta prática tentarão enganar a IA para que faça coisas más, como expor números de cartões de crédito, através de pirataria informática imediata. Quando as pessoas souberem como quebrar o sistema, podem criar melhores proteções.
A marca d’água em conteúdo sintético é outro aspeto importante da ordem original de Biden. Os membros do consórcio desenvolverão diretrizes e ações para garantir que os utilizadores possam identificar facilmente os materiais gerados por IA.
Espera-se que isto diminua os deepfakes e a desinformação gerada por IA. A marca d’água digital ainda não foi amplamente adotada, embora este programa vá “facilitar e ajudar a normalizar” as especificações técnicas subjacentes a esta prática.
O trabalho do consórcio está apenas no início, embora o Departamento do Comércio diga que representa a maior coleção de equipas de teste e avaliação do mundo.
Leia também: