Anthropic propõe um abrandamento global do desenvolvimento da IA

A Anthropic acredita que a evolução da inteligência artificial (IA) está a acelerar a um ritmo que poderá ultrapassar a capacidade das instituições e da sociedade para acompanhar as suas consequências. A empresa defende que chegou o momento de discutir um possível abrandamento global do desenvolvimento desta tecnologia.

Anthropic propõe pausa para acompanhar a evolução tecnológica

A Anthropic, uma das empresas mais relevantes do setor da IA, considera que estes sistemas poderão, num futuro não muito distante, adquirir capacidades suficientes para ajudar a criar versões ainda mais avançadas de si próprios.

Embora admita que esse cenário ainda não é uma realidade, a empresa alerta que poderá surgir mais cedo do que muitas empresas antecipam. Segundo a Anthropic, esta evolução poderia trazer vantagens em áreas como a investigação científica, a medicina e a descoberta de novos tratamentos.

No entanto, também aumentaria as preocupações relacionadas com a supervisão humana e o controlo destes sistemas.

Perante este cenário, a empresa sugere a possibilidade de um abrandamento coordenado, ou até de uma suspensão temporária do desenvolvimento de IA avançada. O objetivo seria dar mais tempo para que a investigação em segurança e alinhamento tecnológico evoluísse ao mesmo ritmo que os próprios sistemas de IA.

Críticas apontam para estratégia de imagem

Apesar dos alertas lançados pela empresa, nem todos encaram esta posição da mesma forma. Alguns críticos defendem que a Anthropic poderá estar a utilizar estas preocupações como forma de reforçar a sua reputação no mercado da IA, apresentando-se como uma das empresas mais responsáveis do setor.

As dúvidas aumentaram após a disponibilização limitada do Mythos, um modelo especializado em cibersegurança. A empresa justificou a restrição com os riscos associados à identificação rápida de vulnerabilidades informáticas.

Contudo, alguns observadores consideram que a medida serviu sobretudo para gerar interesse em torno da tecnologia ou para direcionar a sua comercialização para grandes clientes empresariais.

Anthropic lança investigação dedicada aos riscos da IA

A recomendação da Anthropic resulta do trabalho desenvolvido pelo Anthropic Institute, uma divisão de investigação criada em março deste ano. A missão deste organismo passa por estudar os desafios que acompanham o desenvolvimento de sistemas de IA cada vez mais avançados e partilhar essas conclusões com o público.

Entre os objetivos do instituto está a análise das ferramentas, processos e estruturas necessárias para tornar viável uma eventual desaceleração coordenada do progresso tecnológico neste setor.

Um dos principais obstáculos identificados pela empresa prende-se com a verificação do cumprimento de qualquer acordo internacional. Para que uma pausa ou redução do ritmo de desenvolvimento seja eficaz, seria necessário garantir que todos os principais laboratórios e empresas respeitam as mesmas regras.

Caso contrário, existiria o risco de algumas organizações continuarem a desenvolver tecnologia de forma discreta, e conquistarem uma vantagem sobre os restantes concorrentes.

Leia também: