Nos últimos meses, dois vídeos viralizaram nas redes sociais, mostrando robôs humanoides em comportamentos alarmantes — um deles aparentemente “descontrolado” durante uma demonstração, e outro a agredir participantes de um festival na China. Fica a questão: quem controlará os robôs humanoides quando eles já não precisarem de nós?
Estes incidentes mostrados em vídeo, ainda que envoltos em controvérsia quanto à sua autenticidade, acendem um debate fundamental: até que ponto os robôs do futuro terão autonomia?
E como garantimos que essa autonomia não ultrapasse os limites do controlo humano?
Autonomia em expansão: o que está por vir?
Os avanços na inteligência artificial e na robótica têm conferido aos robôs humanoides capacidades cada vez mais sofisticadas — reconhecimento facial, tomada de decisões em tempo real, linguagem natural e interação emocional.
A autonomia, antes limitada a tarefas simples e programadas, está a evoluir para níveis que permitem a estes sistemas operarem de forma relativamente independente em ambientes complexos.
No futuro próximo, é plausível que vejamos robôs com a capacidade de:
- tomar decisões éticas com base em contextos variáveis;
- agir sem supervisão contínua de humanos;
- interagir de forma convincente em ambientes sociais ou profissionais.
Mas com esta evolução, surge uma questão inevitável: quem terá a palavra final quando as decisões dos robôs entrarem em conflito com os interesses ou segurança dos humanos?
O controlo humano: uma linha que se pode esbater
O conceito de Human-in-the-loop — sistemas em que a decisão final depende de um humano — é um princípio ético-chave na robótica. No entanto, com a escalada da autonomia, manter um humano “no circuito” em todas as situações pode tornar-se impraticável.
Neste sentido, os investigadores propõem níveis de supervisão adaptativos, onde os humanos apenas intervêm em decisões críticas ou de alto risco.
Ainda assim, a supervisão humana poderá falhar, seja por:
- falhas técnicas; ataques informáticos; decisões mal calibradas dos próprios sistemas de IA.
Neste cenário, o controlo preventivo passa a ser mais relevante do que o controlo reativo.
Defesa contra robôs: ficção ou necessidade real?
A ideia de que um robô possa representar uma ameaça física real a humanos parece, para alguns, tirada de filmes de ficção científica. No entanto, a realidade tecnológica já nos obriga a ponderar mecanismos de defesa e salvaguarda:
- Desativação de emergência: cada robô deveria ter um mecanismo de interrupção total, físico e digital.
- Zonas seguras: delimitações físicas e digitais onde os robôs não podem atuar sem autorização explícita.
- Protocolos de desativação remota em caso de falha comportamental.
- Blindagem ética nos algoritmos de decisão, para limitar qualquer tipo de ação prejudicial a humanos, mesmo que indiretamente.
Além disso, a legislação sobre responsabilidade civil e criminal em casos de “agressão robótica” terá de evoluir rapidamente.
O que podemos fazer hoje?
Apesar de ainda estarmos longe de um cenário em que robôs humanoides são comuns nas ruas, os sinais de alerta já estão visíveis. O investimento em regulação, cibersegurança e ética robótica deve acompanhar a velocidade da inovação.
Sem isso, poderemos estar a abrir portas a sistemas que, embora inteligentes, operem fora do alcance do nosso controlo.
A tecnologia pode servir-nos — ou ultrapassar-nos. Depende de como a construímos, supervisionamos e limitamos.