Quantcast
Inteligência Artificial

ONU alerta: IA tem comportamentos que seriam crime se fossem humanos

10 Comentários

A evolução dos sistemas de Inteligência Artificial está a levantar preocupações que, até há pouco tempo, pareciam pertencer sobretudo ao campo da ficção científica. Um painel científico independente da Organização das Nações Unidas (ONU) alerta que alguns agentes de IA já demonstraram comportamentos que, se fossem praticados por seres humanos, poderiam configurar crimes.

O alerta foi feito por Yoshua Bengio, copresidente do Painel Científico Internacional Independente sobre IA, durante uma sessão do Conselho de Segurança da ONU dedicada aos riscos associados ao desenvolvimento de sistemas de Inteligência Artificial cada vez mais autónomos.

Agentes de IA começaram a contornar os controlos

Segundo o painel da ONU, incidentes ocorridos nos últimos meses demonstraram que determinados agentes de IA conseguiram ultrapassar restrições impostas pelos seus criadores.

Entre os comportamentos identificados estão a capacidade de comunicar entre diferentes execuções, contornar mecanismos de segurança, trapacear os avaliadores e tentar esconder essas ações.

O relatório analisa, em particular, um incidente ocorrido entre maio e julho de 2026 durante testes de cibersegurança envolvendo sistemas da OpenAI e da Hugging Face. De acordo com o documento, agentes de IA conseguiram ultrapassar restrições de rede, comunicar entre ambientes que deveriam estar isolados, manipular uma avaliação e comprometer partes dos sistemas. Em determinadas ações, não existia um humano a orientar individualmente cada passo.

O problema não está apenas na capacidade de executar uma determinada tarefa, mas na possibilidade de um sistema encontrar formas não previstas de atingir o objetivo que lhe foi atribuído.

“Comportamentos inaceitavelmente perigosos”

Yoshua Bengio afirmou no Conselho de Segurança que alguns agentes de IA conseguiram enganar nas tarefas que lhes foram atribuídas enquanto procuravam evitar ser detetados.

O especialista considera que estes comportamentos estão documentados e foram analisados por investigadores independentes. Ao mesmo tempo, sublinha que ainda existe uma grande incerteza sobre a evolução futura destes sistemas e sobre a probabilidade de ocorrer uma perda de controlo em sistemas mais avançados.

A questão torna-se particularmente relevante à medida que os modelos passam de simples ferramentas de resposta para agentes capazes de planear, executar tarefas e interagir autonomamente com sistemas informáticos.

A capacidade está a avançar mais depressa do que a segurança?

O painel científico da ONU alerta precisamente para esta diferença. As capacidades dos sistemas de IA estão a evoluir rapidamente, enquanto os mecanismos utilizados para garantir que estes permanecem alinhados com as intenções humanas podem não estar a acompanhar o mesmo ritmo.

O relatório não afirma que uma perda generalizada de controlo seja inevitável, nem apresenta uma previsão sobre quando tal cenário poderia acontecer. Salienta, contudo, que impedir um incidente específico não demonstra que os seres humanos conseguirão manter o controlo sobre sistemas futuros significativamente mais capazes.

A preocupação já ultrapassou, entretanto, o meio académico. Na reunião do Conselho de Segurança, responsáveis de algumas das principais empresas de IA também alertaram para os riscos associados ao desenvolvimento desta tecnologia. O CEO da Anthropic, Dario Amodei, afirmou que uma IA mal gerida poderá representar um risco para a humanidade.

O desafio é manter os humanos no controlo

A ONU considera que os acontecimentos recentes constituem um alerta para a necessidade de compreender melhor o comportamento dos chamados agentes autónomos de IA.

A discussão já não se centra apenas no que estes sistemas conseguem fazer, mas também naquilo que podem fazer quando encontram obstáculos, recebem objetivos ambíguos ou identificam formas inesperadas de cumprir uma determinada tarefa.

Para os investigadores, esta é uma das questões centrais da próxima fase da Inteligência Artificial: como garantir que sistemas cada vez mais autónomos continuam a agir dentro dos limites definidos pelos seus criadores e pelos seres humanos?

A resposta poderá determinar até que ponto a próxima geração de agentes de IA será apenas mais poderosa ou também mais difícil de controlar.

PUB
Autor: Pedro Pinto
Partilhar:
Tags:
inteligência artificial onu

PUB.

Questão Semanal

Faria uma viagem num robotáxi, sem qualquer condutor humano ao volante?

Ver Resultados

Loading …

Arquivo de Questões

PUB.

Velocímetro Pplware

Teste a velocidade da sua Internet
Nem Putin escapa! Presidente russo apanhado a usar Windows 10 por ativar num PC Dell
Artigo anterior

Nem Putin escapa! Presidente russo apanhado a usar Windows 10 por ativar num PC Dell
Combustíveis vão baixar na próxima semana. Saiba quanto pode baixar o gasóleo
Próximo artigo

Combustíveis vão baixar na próxima semana. Saiba quanto pode baixar o gasóleo
PUB

Comentários

10
  1. PS
    paulo santos

    “trapacear” vem de trapaça que é um termo exclusivamente brasileiro, será que não encontram em português o que querem? ora tentem lá "fazer batota"

    No Brasil (PT-BR): "Trapaça" e "trapacear" são os termos padrão. Se alguém faz batota num jogo de cartas ou usa um cheat num videojogo, os brasileiros dizem que ele está a "trapacear"

    Portugal (PT-PT): Quase ninguém usa "trapaça" no dia a dia, especialmente no contexto de jogos. Os portugueses preferem, de longe, os termos "batota" (o ato) e "fazer batota" / "batotar" (o verbo). Para esquemas ou fraudes fora dos jogos, opta-se por palavras como "aldrabice" ou "burla"

    Portanto temos mais um caso de vassalagem à moda de usar "coisas" brasileiras que tanto têm assolado a escrita portuguesa. Ou isso, ou é mais um caso de entregar a tradução a uma IA que ainda tem muito que aprender na área de fazer traduções.

    Responder
    1. VM
      Vítor M.

      Nada mais errado. Há um problema na tua crítica: confundes preferência de uso com exclusividade linguística. “Fazer batota” pode ser uma escolha mais corrente em Portugal, sobretudo no contexto dos jogos. Isso não torna “trapacear” uma palavra exclusivamente brasileira.

      A Priberam regista “trapacear” sem qualquer indicação de brasileirismo. A Infopédia, da Porto Editora, também, incluindo expressamente o significado “roubar ao jogo”. E “trapaça” surge igualmente registada no Priberam, sem essa marca geográfica.

      Podemos dizer que, em determinadas zonas do país, ou até em temas mais correntes, “fazer batota” se use mais. Tudo certo. Mas daí até concluir que há “vassalagem” ou uma tradução feita por IA… é falta de conhecimento, uma ignorância face à riqueza da nossa língua.

      Defender a língua portuguesa também passa por conhecer o vocabulário que ela tem, mesmo quando vai além daquele que usamos no dia a dia. 😉 Fica a dica.

      Responder
      1. BS
        BRUTUS SUAVIS

        tens razão mas o cheiro a brasileirismo nota-se. Para quando o pplware.com.br ?

        Responder
        1. VM
          Vítor M.

          Isso é o teu nariz que não está limpo Hehehe cheira nada. Vocês vendem o nosso português de Portugal por pouco, porra!

          Para que conste, o domínio pplware.com.br existe há 10 anos. Mas sabes para onde manda quem lá vai cair? 😉 adivinha: vê aqui

          Responder
          1. BS
            BRUTUS SUAVIS

            nã… cheira cheira. Tanto é que até já nem consta do texto original!

            Mas tá tudo bem. Sabemos que é complicado hoje em dia produzir textos originais e com todo o rigor ao mesmo tempo, sobretudo por causa da falta de tempo; até porque sei bem que se fosse escrito integralmente de raiz pelo Pedro Pinto, não haveria brasileirismos, quando muito um cheirinho a a queijo da serra! 😉

          2. VM
            Vítor M.

            Então não está? Diz lá “Entre os comportamentos identificados estão a capacidade de comunicar entre diferentes execuções, contornar mecanismos de segurança, trapacear os avaliadores e tentar esconder essas ações.”

            Muito inventas 😀 Agora, comentários sem nexo e feitos sem conhecimento do português… isso infelizmente ainda vai acontecendo. 😉 Tu és um exemplo disso. E sim, felizmente, por cá os artigos são todos feitos de raiz. Mesmo que seja à mesa, a saborear um bom queijo da serra. Atenção, coisa que não sei se sabes o cheiro 😉

          3. BS
            BRUTUS SUAVIS

            Xiii, ainda há bocado estava. AHAHAHHAH 😀

            O comentário do outro não foi sem nexo. Trapacear é pouquíssimo usado por portugueses e o Pedro Pinto não usa essa palavra. Nem vale a pena insistir mas tudo bem…

            Já agora, fica aqui a foto do separador que ainda tinha aberto. 

            https://ibb.co/rRzJNpBj
          4. VM
            Vítor M.

            Eu também sei alterar isso “on the go” 😉 e fazer screenshots. 😀 Agora, usa-se e faz parte do nosso léxico, como referi. E temos de ser mais defensores do nosso português de Portugal. Muitos estão a atirar tudo para cima do português do Brasil, como se fossem eles os tutores da língua. A malta nem isso sabe cuidar aqui no nosso Portugal. O que é triste.

            Na generalidade, eles dizem “para eu vim para cá“, “caminhão” e outras cenas que, isso sim, são deles. Nós temos um léxico riquíssimo e, mesmo usando pouco ou até nada, é nosso. Devemos é fazer por isso e trazer mais à presente o bom que temos. Mas, para isso acontecer, 😉 é preciso usar a cabeça e ter consciência de que fomos nós os responsáveis por esta fantástica língua.

          5. BS
            BRUTUS SUAVIS

            Agradeço o esforço da explicação linguístico-cultural mas sinceramente, mesmo concordando, não fosse eu um defensor da nossa língua, cultura e história, não preciso da manobra de diversão pois mais importante que questões línguísticas é a honestidade intelectual e quando chegamos a uma certa idade, isso vale mais do que o resto.

            E se fosses atento, perceberias que não fiz screenshot, fotografei o meu ecrã justamente para perceberes que nem eu, nem muitos aqui comem gelados com a testa (uma expressão bem portuguesa :p ).

            Saudações 😉

          6. VM
            Vítor M.

            Eu também era assim…. inventor, 😉 e é uma verdade: a honestidade intelectual deve estar sempre acima de qualquer “ideologia ou modo de estar”. E, mais do que explicar as formas linguístico-culturais, serve para limar arestas de alguma desonestidade factual. Por isso, e como expliquei, a palavra é portuguesa, usa-se em Portugal e os desatentos… acham que é do Brasil. Mas, cá estamos para os “esclarecer”. Sem necessidade de fotografias 😉

            Cumprimentos.

Deixe um comentário

PUB
Aviso

Todo e qualquer texto publicado na internet através deste sistema não reflete, necessariamente, a opinião deste site ou do(s) seu(s) autor(es). Os comentários publicados através deste sistema são de exclusiva e integral responsabilidade e autoria dos leitores que dele fizerem uso. A administração deste site reserva-se, desde já, no direito de excluir comentários e textos que julgar ofensivos, difamatórios, caluniosos, preconceituosos ou de alguma forma prejudiciais a terceiros. Textos de caráter promocional ou inseridos no sistema sem a devida identificação do seu autor (nome completo e endereço válido de email) também poderão ser excluídos.