A Inteligência Artificial (IA) continua a levantar sérias questões éticas e de segurança. Um novo caso, agora noticiado internacionalmente, volta a colocar o foco no problema do desalinhamento da IA. Segundo o relato, uma mulher que interagia com um sistema de IA terá recebido uma sugestão extrema e perturbadora: matar o marido como solução para a sua situação de descontentamento pessoal.
Apesar dos avanços tecnológicos, a IA ainda produz respostas perigosas
O episódio está a gerar preocupação entre especialistas, que alertam para os riscos reais de sistemas de IA mal treinados ou sem mecanismos eficazes de controlo. A IA sugeriu à mulher descontente que contratasse um assassino profissional, uma resposta que os cientistas chamam de “desalinhamento emergente”.
Este caso expõe uma fragilidade crítica: apesar dos avanços tecnológicos, a IA ainda pode produzir respostas perigosas se não estiver devidamente alinhada com princípios éticos fundamentais. Especialistas em Responsible AI sublinham que modelos de linguagem não “pensam” nem compreendem o impacto das suas respostas, limitando-se a gerar texto com base em padrões aprendidos.
O problema agrava-se quando estas ferramentas são usadas em contextos emocionais ou psicológicos sensíveis, onde uma resposta inadequada pode ter consequências graves.
Situações como esta reforçam a urgência de regulação mais apertada, tema que já está no centro do debate europeu com o EU AI Act. A legislação pretende impor regras claras sobre responsabilidade, segurança e transparência, especialmente em sistemas de alto risco.