Pplware

Apple, Meta, Google e Microsoft juntam-se a um consórcio para promover uma IA responsável

Um grupo de 200 grandes empresas de tecnologia juntou-se a um esforço baseado nos EUA para promover práticas responsáveis de Inteligência Artificial (IA). O US AI Safety Institute Consortium (AISIC) terá como membros a Apple, a Meta, a Google e a Microsoft.

 


“Mitigar os riscos e aproveitar o imenso potencial da IA”

A secretária do Comércio, Gina Raimondo, acaba de anunciar os numerosos novos membros do grupo e disse que terão a tarefa de realizar as ações indicadas pela ampla ordem executiva do presidente Biden sobre inteligência artificial.

O governo dos EUA tem um papel significativo a desempenhar na definição de padrões e no desenvolvimento das ferramentas de que precisamos para mitigar os riscos e aproveitar o imenso potencial da inteligência artificial.

Disse Raimondo, num comunicado.

Imagem de degustação vinho pela IA

A ordem executiva de outubro de Biden era de longo alcance, então este consórcio concentrar-se-á no desenvolvimento de diretrizes para “red-teaming, avaliações de capacidade, gestão de risco, segurança e proteção e marca d’água em conteúdo sintético”.

Red-teaming

Red-teaming é um termo de cibersegurança que remete à Guerra Fria. Refere-se a simulações em que o inimigo era designado por “equipa vermelha”. Neste caso, o inimigo seria uma IA empenhada em “comportar-se” mal. As pessoas envolvidas nesta prática tentarão enganar a IA para que faça coisas más, como expor números de cartões de crédito, através de pirataria informática imediata. Quando as pessoas souberem como quebrar o sistema, podem criar melhores proteções.

A marca d’água em conteúdo sintético é outro aspeto importante da ordem original de Biden. Os membros do consórcio desenvolverão diretrizes e ações para garantir que os utilizadores possam identificar facilmente os materiais gerados por IA.

Espera-se que isto diminua os deepfakes e a desinformação gerada por IA. A marca d’água digital ainda não foi amplamente adotada, embora este programa vá “facilitar e ajudar a normalizar” as especificações técnicas subjacentes a esta prática.

O trabalho do consórcio está apenas no início, embora o Departamento do Comércio diga que representa a maior coleção de equipas de teste e avaliação do mundo.

 

Leia também:

Exit mobile version