Uma série de gigantes tecnológicas prometeu trabalhar em prol da segurança em matéria de Inteligência Artificial (IA), incluindo um “kill switch”, em caso de desastre.
Na semana passada, governos juntaram-se às principais empresas de tecnologia, em Seul, na Coreia do Sul, para debater sobre a tecnologia do momento: a IA; tendo sido prometidos investimentos em investigação, testes e segurança.
Existe um caminho responsável – se tivermos a sabedoria de o seguir.
Escreveu um grupo de 15 especialistas, incluindo o pioneiro da IA, Geoffrey Hinton, na revista Science, no início desta semana.
Várias empresas marcaram presença e assumiram compromissos voluntários e não vinculativos para evitar que a IA trabalhe com armas biológicas, desinformação ou ciberataques automatizados, de acordo com declarações da cimeira e publicações da Reuters e Associated Press.
Estiveram presentes e comprometeram-se a controlar a tecnologia os seguintes nomes:
- Amazon
- Anthropic
- Cohere
- G42
- IBM
- Inflection AI
- Meta
- Microsoft
- Mistral AI
- Naver
- OpenAI
- Samsung Electronics
- Technology Innovation Institute
- xAI
- Zhipu.ai
Destaque para o acordo que diz respeito à construção de um “kill switch” nas suas IA, permitindo-lhes desligar, efetivamente, os seus sistemas, em caso de catástrofe.
Não podemos caminhar para um futuro distópico em que o poder da IA é controlado por poucas pessoas. A forma como agirmos agora definirá a nossa era.
Disse o secretário-geral das Nações Unidas, António Guterres, num comunicado.
António Guterres, secretário-geral da ONU
À medida que a utilização da tecnologia cresce, as empresas e governos esforçam-se para definir regras e criar proteções para as pessoas. Apesar de a IA estar a servir, já hoje, uma série de áreas, de forma notável, a verdade é que a tecnologia pode ser utilizada para um leque de finalidades; e nem todas serão nobres.
De facto, os especialistas na tecnologia alertam que, apesar das promessas de segurança, o desenvolvimento da IA apresenta riscos extremos:
A reação da sociedade, apesar dos primeiros passos promissores, é incomensurável com a possibilidade de um progresso rápido e transformador que é esperado por muitos especialistas.
Escreveram os 15 especialistas em IA.