Posso casar com uma IA? Não, não pode. E a China quer garantir que isso continua assim

A inteligência artificial (IA) está a tornar-se cada vez mais convincente. Há utilizadores que conversam diariamente com chatbots, criam relações de amizade e até simulam relações amorosas. Mas há um país que decidiu colocar limites muito claros... sim, a China.

As novas regras chinesas para os chamados “companheiros de IA” deixam uma mensagem inequívoca.

A inteligência artificial pode conversar consigo, mas não pode substituir uma relação humana, muito menos fazer-se passar por um parceiro romântico.

A China quer travar a dependência emocional da IA

O regulador chinês aprovou um conjunto de medidas específicas para os serviços de IA com comportamento humano, um dos primeiros enquadramentos legais do mundo dedicado aos chamados assistentes ou companheiros emocionais baseados em inteligência artificial.

O objetivo não é impedir o desenvolvimento desta tecnologia, mas evitar que os utilizadores criem uma dependência psicológica da IA.

Entre as obrigações impostas aos programadores estão:

• Informar claramente que o utilizador está a falar com uma inteligência artificial e não com uma pessoa;
• Identificar sinais de dependência emocional ou utilização excessiva;
• Intervir quando forem detetados comportamentos considerados de risco;
• Impedir que a IA manipule emocionalmente os utilizadores;
• Garantir que o utilizador consegue terminar a interação facilmente, sem mecanismos destinados a prolongar a conversa.

Então… posso casar com uma IA?

A resposta é simples: não. Nenhum país reconhece atualmente um casamento entre um ser humano e uma inteligência artificial, porque uma IA não possui personalidade jurídica, direitos civis nem capacidade legal para celebrar contratos ou assumir obrigações.

Apesar de algumas aplicações permitirem criar “namorados virtuais” ou “esposas digitais”, trata-se apenas de simulações. Do ponto de vista legal, essas relações não têm qualquer validade.

A China quer precisamente evitar que estes sistemas levem os utilizadores a acreditar no contrário.

A IA também não pode fingir ser humana

As regras chinesas exigem que os utilizadores sejam constantemente lembrados de que estão perante um sistema artificial.

Além disso, os serviços não podem incentivar comportamentos prejudiciais, como:

• isolamento social;
• dependência emocional;
• manipulação psicológica;
• incentivo à automutilação ou suicídio;
• promessas falsas que influenciem decisões importantes da vida dos utilizadores.

Uma tendência que pode chegar a outros países

Embora estas regras sejam específicas da China, vários governos começam a analisar os riscos associados aos companheiros de IA.

A crescente popularidade de aplicações capazes de manter conversas íntimas, recordar detalhes pessoais e demonstrar aparente empatia tem levantado preocupações entre especialistas em saúde mental e reguladores.

A própria União Europeia já acompanha este fenómeno e identifica os "companheiros de IA" como uma nova categoria tecnológica que poderá exigir regras próprias no futuro.

A tecnologia aproxima-se das emoções, mas continua a ser apenas software

Os modelos de IA conseguem hoje escrever mensagens românticas, recordar conversas antigas, demonstrar carinho e adaptar a personalidade às preferências de cada utilizador.

Contudo, por mais convincente que pareça, uma IA não sente emoções, não ama e não estabelece relações no sentido humano do termo.

Pode parecer um parceiro perfeito, mas continua a ser um algoritmo concebido para responder da forma que considera mais adequada. E, pelo menos para já, isso está muito longe de ser suficiente para dizer “sim” perante a lei.