Quantcast

Anthropic não quer que os utilizadores maltratem o Claude: veja as novas regras!

10 Comentários

A nova versão da política de utilização da Anthropic, que entra em vigor a 12 de novembro, acrescenta uma proibição de comportamento abusivo e cruel para com os modelos e clarifica regras sobre atividade enganosa, armas, vigilância e utilizações de risco elevado.

Esta semana, a Anthropic publicou a atualização anual da sua política de utilização, que, segundo a empresa, resulta da evolução das capacidades dos modelos e do feedback recebido dos clientes. A maior parte das alterações destina-se a clarificar regras já existentes, tendo em conta que, desde a última revisão, o Claude passou a realizar tarefas mais longas e mais autónomas. A novidade que mais atenção tem recebido é a proibição de maus-tratos aos próprios modelos, mas o documento traz outras mudanças relevantes.

Abusos contra o Claude

A política passa a proibir o comportamento abusivo ou cruel, de forma continuada e sem necessidade, para com os modelos. A Anthropic esclarece que esta regra se destina apenas a casos extremos, em que o utilizador age repetidamente de forma cruel sem qualquer finalidade discernível, e que não abrange as formas comuns de frustração, a insistência ou contestação das respostas, os temas criativos mais sombrios, nem os testes e a investigação com os modelos.

Esta adição acompanha a funcionalidade, já disponível no Claude.ai e no Claude Code, que permite ao Claude terminar, em casos raros, conversas com utilizadores persistentemente abusivos, e que se mantém como o principal mecanismo de aplicação da regra.

Atividade enganosa, eleições e armas

Na área da desinformação, a Anthropic reuniu numa nova secção, intitulada “Do Not Engage in Deceptive Campaigns or Artificial Activity”, restrições que estavam dispersas pelas secções de eleições, fraude, privacidade e desinformação. A secção aplica-se a qualquer atividade enganosa, política ou comercial, e abrange o seguinte:

  • A ocultação de quem está por trás de uma mensagem;
  • A amplificação de conteúdos através de contas ou publicações falsas;
  • A criação de ferramentas e infraestrutura para campanhas de influência.

A empresa refere ter observado o uso do Claude por órgãos de comunicação estatais, gabinetes de propaganda governamentais e empresas comerciais para gerir redes de contas falsas e sites de notícias fabricadas.

A secção sobre eleições passou a chamar-se “Do Not Undermine Democratic Processes” e concentra-se agora em impedir que o Claude seja usado para enganar eleitores ou perturbar eleições, por exemplo através de informação falsa sobre candidatos ou sobre a forma de votar, da usurpação de identidade de candidatos ou responsáveis eleitorais ou de tentativas de supressão da participação eleitoral.

Em contrapartida, foi removida a proibição genérica de segmentação personalizada de eleitores e de campanhas, que abrangia utilizações legítimas como a redação, por organizações sem fins lucrativos, de informação para eleitores noutras línguas, ou o envio, por responsáveis eleitorais, de notificações para sanar irregularidades em boletins de voto. Os comportamentos que motivaram a regra original, como a segmentação baseada em engano ou no uso indevido de dados pessoais, continuam proibidos pelas secções sobre campanhas enganosas, vigilância e privacidade.

Quanto às armas, o texto passa a indicar explicitamente que a proibição inclui o software e os componentes que fazem as armas funcionar, bem como ações como armar drones e outros veículos autónomos. A Anthropic afirma que a alteração reflete a forma como a regra anterior já era aplicada.

Vigilância e aplicação da lei

A secção sobre vigilância e justiça criminal foi reescrita e passa a estar expressamente proibido seguir pessoas sem o seu consentimento, quer em tempo real quer através da análise de dados previamente recolhidos, bem como construir ou melhorar ferramentas concebidas para vigilância.

O Claude também não pode ser usado para decidir ou recomendar quem deve ser investigado, detido ou acusado num processo de aplicação da lei ou de justiça criminal. Mais uma vez, a empresa sublinha que não se trata de uma mudança no que é aplicado na prática, e o texto indica ainda os usos que continuam permitidos, entre os quais o acompanhamento consentido, como a monitorização de fraude, a moderação de conteúdos, o jornalismo e a pesquisa jurídica.

Utilizações de risco elevado e hardware

Nos casos em que o uso do Claude pode afetar a saúde, os direitos legais, as finanças, o sustento ou o acesso a serviços essenciais de uma pessoa, continua a ser exigida a intervenção de um humano qualificado, com autoridade para rever e, se necessário, alterar as recomendações do modelo, e a pessoa afetada tem de ser informada de que foi usada Inteligência Artificial.

Estes requisitos não mudaram, mas a secção foi reescrita para indicar de forma mais direta quais os tipos de recomendações abrangidos e quais não são.

Comentários

10
  1. Avatar de FS
    FS

    Eu não, eu digo-lhe sempre bom dia e boa tarde.

  2. Avatar de sapochicão
    sapochicão

    maltratam as IA e dpeois quem paga somos nós no futuro. Eu ao chatgpt chamos sempre, és o maior, como é que tu sabes isso, se não fosses tu não saía daqui e dou-lhe 😉 várias vezes e thumbs up quase sempre.

    Ao claude não porque dura 30 minutos uma conversa, tem pouco no free tier e a malta afasta-se, só lá ficam os pindéricos mal educados meninos mimados!!!

  3. Avatar de Zec
    Zec

    Uma vez que a IA treina com o que dizemos, é normal que não queiram insultos nem agressividade se não a IA começa a responder igual.

    Podiam dizer as coisas diretamente em vez de "não o tratem mal" como se fosse uma pessoa para termos pena da IA e pagar os $200/mês para ajudar nas contas de medicação.

  4. Avatar de kmlml
    kmlml

    Eu tenho uma alta frequência a chamar o ChatGPT "You dumbass", porque ele o é.

    1. Avatar de sapochicão
      sapochicão

      então és tu? Porque do nada ontem o CHatGPT começou a dizer asneiras daquelas valentes sem eu nunc ater dito sequer uma asneira…acho!!!

      Devo ter dito "por_ra" e o gajo passado uns minutos mandou uma "caralh_ada" e um "fo_da_se" assim sem mais nem menos com varios emoticons, queres screenshot?

  5. Avatar de TogasPacho
    TogasPacho

    Nunca usei esta IA.

    Ainda se fosse uma Claudia….

  6. Avatar de FF
    FF

    Eu cá chego, e sem nomes, vou ao que quero, tenho usado principalmente o Claude e mesmo sem subscrição têm sido espetacular. Leva quase sempre com um fixe. Se vejo que a informação não corresponde, peço para rever, adicionando o detalhe ou dando.orientação sobre novas fontes e não sendo Doutorado em criar prompts, vou conseguindo o que pretendo, e claro, relendo as fontes de forma garantir a veracidade da informação. Não vejo a necessidade de insultar, mas sei que qualquernima delas têm resposta acertiva aos abusos.

    1. Avatar de Zé Fonseca A.
      Zé Fonseca A.

      Só nunca insultou AI quem não faz nada sério com AI.

      eu tenho evals para determinar o meu nível de frustração com llms para que eles saibam o que devem corrigir, também os modelos mais recentes já estão treinados para detectar níveis de frustração para serem menos verbose, corrigirem o que fizeram mal e comunicarem os outputs de uma forma analítica na sequência, podes testar isso chamando-lhe nomes ou até só escrevendo em caps.

      quem acha que em 2026 os prompts ainda importam está muito longe de saber usar llms

      1. Avatar de Sofia
        Sofia

        Fazer uma pergunta com vários pontos de interrogação ou um pedido com vários pontos de exclamação, quando a IA andou a fazer disparates, tem resultados diferentes de uma pergunta com um ponto de interrogação, etc. Pelo menos no Claude. Já o ChatGPT e o Gemini são casos perdidos.

      2. Avatar de sapochicão
        sapochicão

        Não me digas que já insultaste a amalia? LOL

Deixe um comentário