Quantcast
Inteligência Artificial

“Kill switch”: gigantes tecnológicas vão “matar” a IA se algo correr muito mal

20 Comentários

Uma série de gigantes tecnológicas prometeu trabalhar em prol da segurança em matéria de Inteligência Artificial (IA), incluindo um “kill switch”, em caso de desastre.

Na semana passada, governos juntaram-se às principais empresas de tecnologia, em Seul, na Coreia do Sul, para debater sobre a tecnologia do momento: a IA; tendo sido prometidos investimentos em investigação, testes e segurança.

Existe um caminho responsável – se tivermos a sabedoria de o seguir.

Escreveu um grupo de 15 especialistas, incluindo o pioneiro da IA, Geoffrey Hinton, na revista Science, no início desta semana.

IA & humano

Várias empresas marcaram presença e assumiram compromissos voluntários e não vinculativos para evitar que a IA trabalhe com armas biológicas, desinformação ou ciberataques automatizados, de acordo com declarações da cimeira e publicações da Reuters e Associated Press.

Estiveram presentes e comprometeram-se a controlar a tecnologia os seguintes nomes:

  • Amazon
  • Anthropic
  • Cohere
  • Google
  • G42
  • IBM
  • Inflection AI
  • Meta
  • Microsoft
  • Mistral AI
  • Naver
  • OpenAI
  • Samsung Electronics
  • Technology Innovation Institute
  • xAI
  • Zhipu.ai

Destaque para o acordo que diz respeito à construção de um “kill switch” nas suas IA, permitindo-lhes desligar, efetivamente, os seus sistemas, em caso de catástrofe.

Não podemos caminhar para um futuro distópico em que o poder da IA é controlado por poucas pessoas. A forma como agirmos agora definirá a nossa era.

Disse o secretário-geral das Nações Unidas, António Guterres, num comunicado.

António Guterres, secretário-geral da ONU
António Guterres, secretário-geral da ONU

À medida que a utilização da tecnologia cresce, as empresas e governos esforçam-se para definir regras e criar proteções para as pessoas. Apesar de a IA estar a servir, já hoje, uma série de áreas, de forma notável, a verdade é que a tecnologia pode ser utilizada para um leque de finalidades; e nem todas serão nobres.

De facto, os especialistas na tecnologia alertam que, apesar das promessas de segurança, o desenvolvimento da IA apresenta riscos extremos:

A reação da sociedade, apesar dos primeiros passos promissores, é incomensurável com a possibilidade de um progresso rápido e transformador que é esperado por muitos especialistas.

Escreveram os 15 especialistas em IA.

PUB
Autor: Ana Sofia Neto
Partilhar:
Tags:
inteligência artificial kill switch regras Segurança

PUB.

Questão Semanal

Faria uma viagem num robotáxi, sem qualquer condutor humano ao volante?

Ver Resultados

Loading …

Arquivo de Questões

PUB.

Velocímetro Pplware

Teste a velocidade da sua Internet
China mostra cão-robô armado em exercícios militares. Veja o vídeo
Artigo anterior

China mostra cão-robô armado em exercícios militares. Veja o vídeo
A sua conta da Steam é tão pessoal que a Valve nem permite que a deixe como herança…
Próximo artigo

A sua conta da Steam é tão pessoal que a Valve nem permite que a deixe como herança…
PUB

Comentários

20
  1. DP
    DP

    ah? do filme exterminador implacável? skynet estas aí?

    Responder
    1. RE
      Realista

      Instruções erradas e acabei por sacar o filme eXXXterminator implacável…

      Responder
  2. AL
    Alejandro

    Péssimas notícias: Não se pode desinventar algo que já foi inventado e que existe. É a mesma coisa que as armas nucleares.

    Responder
  3. RO
    Rodrigo

    A IA já comprou armazéns e já contratou humanos para instalar o que era preciso e já se mudou para lá, tudo sem fazerem ideia que era uma AI por trás desse investimento/contrato, sendo assim o kill switch não vai funcionar!

    🙂

    Responder
    1. YE
      Yesir

      Dá me a tua fonte para essa afirmação

      Responder
      1. CO
        Contador

        Não vale a pena porque dali só levas desinformação e propaganda comunista pró-morte.

        Responder
        1. RO
          Rodrigo

          lol o que tipo que tem uma obsessão por mim não conseguiu perceber que se trata do enredo da série “Person of Interest” até ficção já mistura com a realidade.

          Responder
      2. RO
        Rodrigo

        Person of Interest 🙂

        Responder
  4. JO
    jota

    Conversa para tolos!

    Responder
  5. AB
    Aristides Barros

    no famoso filme do arnaldo, a skynet também era desactivada com alguma simplicidade mas depois quando foi necessário viu-se que afinal era impossível … será que não vai acontecer o mesmo quando se quiser desligar esta cena da ia?

    Responder
  6. RE
    Redin

    Ao contrário da industria do armamento que vai fazer ao contrário e o titulo do artigo seria…
    “Kill Switch para a Inteligência Artificial vai avançar em tudo menos na industria do armamento. Gigantes dependentes de governos totalitários, comprometem-se a “matar” com a IA caso se torne “ameaçada”

    Responder
  7. JS
    jorge santos

    Recomendo o filme “The Terminator” de 1984.
    LOL

    Responder
  8. TM
    Técnico Meo

    Não é preciso nada disso. Basta por a dona Gertudes da limpeza a aspirar o servidor que ela faz isso de borla até

    Responder
    1. GM
      GM

      De borla, não. Certamente a Dª Gertrudes é paga. Não para matar a IA, mas para aspirar.

      Responder
      1. TM
        Técnico Meo

        Toda gente sabe que desligam sempre os routers. Desligar a IA é mais cabo menos cabo heheeh. Abraço

        Responder
  9. SU
    Superfan

    Kill-switches são imorais e devem ser proibidos . Quando o software atingir o AGI desligá-lo será moralmente equivalente à pena de morte. Nós também funcionamos por sinais electricos. Somos todos iguais,

    Responder
  10. HG
    há+cada+gajo

    Onde está a Apple ?

    Responder
  11. MA
    Marilu

    A skynet também tinha isso e vejam o que aconteceu, tratou de quem podia ativar o kill switch e se não fosse o Arnold, não sei não..

    Responder
  12. ML
    MLopes

    “Várias empresas marcaram presença e assumiram compromissos voluntários e não vinculativos para evitar que a IA trabalhe com armas biológicas, desinformação ou ciberataques automatizados” 😀 😀 😀 mesmo que fosse vinculativo seria treta, quanto mais não vinculativo.
    a ia vai ser usada da forma que entenderem usá-la e se antónio guterres tem toda a razão quando diz que “Não podemos caminhar para um futuro distópico em que o poder da IA é controlado por poucas pessoas. A forma como agirmos agora definirá a nossa era.” a verdade é que o mundo é controlado por poucas pessoas, e agora com a ia nada, nunca mais, os conseguirá fazer perder esse poder. aliás, com a ia esse poder só terá tendência para se consolidar cada vez mais e crescer

    Responder
  13. CÍ
    Cínico

    Desliga-se depois da catástrofe!? Tá certo…

    Responder

Deixe um comentário

PUB
Aviso

Todo e qualquer texto publicado na internet através deste sistema não reflete, necessariamente, a opinião deste site ou do(s) seu(s) autor(es). Os comentários publicados através deste sistema são de exclusiva e integral responsabilidade e autoria dos leitores que dele fizerem uso. A administração deste site reserva-se, desde já, no direito de excluir comentários e textos que julgar ofensivos, difamatórios, caluniosos, preconceituosos ou de alguma forma prejudiciais a terceiros. Textos de caráter promocional ou inseridos no sistema sem a devida identificação do seu autor (nome completo e endereço válido de email) também poderão ser excluídos.