Europa passa ao ataque e proíbe todas as IA que não cumpram os “oito mandamentos”

Com falta de tecnologia na área da Inteligência Artificial relevante, a União Europeia percebe que são as IAs americanas e chinesas quem mais ordenam. Como tal, as plataformas como a Apple Intelligence, assim como as demais, terão de cumprir as novas normas da UE ou enfrentar sanções de milhões de euros.

Lei da Inteligência Artificial e os 8 mandamentos

A União Europeia tomou uma decisão histórica sobre a regulamentação da inteligência artificial. A Lei da Inteligência Artificial, aprovada em março de 2024, começou a entrar numa fase mais rigorosa depois de o prazo de cumprimento ter expirado a 2 de fevereiro.

O que significa isto?

Todas as IA que não cumpram determinados requisitos podem ser totalmente proibidas, e os gigantes da tecnologia como a Apple, a Meta ou a OpenAI não são poupados. E, como temos visto, este facto teve um impacto óbvio na implementação da Apple Intelligence ou Meta AI.

E por que razão?

A Europa exige que estas IA cumpram os regulamentos destinados a proteger os utilizadores. E este processo de adaptação não é rápido nem fácil.

A Apple Intelligence foi lançada em setembro com o iPhone 16 e, embora não estivesse disponível em português, é verdade que a sua utilização em inglês a partir de Portugal (ou de qualquer outro país da UE) é limitada.

Felizmente, no próximo mês de abril, a Apple terá cumprido todos os requisitos da UE e poderemos desfrutar da sua IA em português e com total liberdade.

A Lei da Inteligência Artificial e os níveis de risco

Até agora falámos de muita regulamentação, mas o que é isso?

A Europa traçou uma linha clara para determinar quais as IA aceitáveis e quais as que representam uma ameaça para o público.

Esta é a pirâmide de risco da União Europeia que baliza as tecnologias de Inteligência Artificial (IA).

A lei prevê quatro níveis de risco, como podemos ver aqui:

• Risco mínimo ou nulo: ferramentas sem impacto significativo, como filtros de spam.
• Risco de transparência: chatbots ou assistentes virtuais que requerem uma ligeira supervisão regulamentar.
• Risco elevado: IA para decisões críticas, como diagnósticos médicos, que estarão sob controlo rigoroso.
• Risco inaceitável: tecnologias diretamente proibidas por violarem valores fundamentais da UE.

Contudo, é neste último nível que as coisas se complicam. Uma IA rotulada como “inaceitavelmente arriscada” não só será retirada do mercado, como as empresas que a utilizarem poderão ser sujeitas a coimas até 35 milhões de euros ou 7% das suas receitas anuais.

Oito razões pelas quais a UE pode vetar uma IA

O que torna uma IA “inaceitável” para a UE? A resposta está no artigo 5.º da lei, que estabelece uma lista de atividades proibidas:

1. Manipulação e engano prejudiciais com base na IA.
2. Exploração nociva de vulnerabilidades com base na IA.
3. Pontuação social.
4. Avaliação ou previsão do risco de uma infração penal individual.
5. Raspagem não direcionada de material da Internet ou CCTV para criar ou expandir bases de dados de reconhecimento facial.
6. Reconhecimento das emoções nos locais de trabalho e nas instituições de ensino.
7. Categorização biométrica para deduzir determinadas características protegidas.
8. Identificação biométrica à distância em tempo real para fins de aplicação da lei em espaços acessíveis ao público.

Todas estas "linhas vermelhas" levantam questões complicadas e a UE quer que o processo seja totalmente transparente, ainda que muitas destas plataformas tenham uma complexa forma de atuar.

O lado negativo é a janela de tempo em que uma funcionalidade pode ser atrasada. Mas a realidade é que, mesmo o DeepSeek, chegou atempadamente à UE. Por isso, pode ser mais uma questão de vontade entre a empresa e a UE do que uma regulamentação demasiado extrema.

E onde é que a Apple Intelligence está a pisar a linha?

Um dos nomes que surgiu no debate foi Apple Intelligence, a empresa de inteligência artificial da empresa de Cupertino. A sua abordagem, embora mais conservadora do que a de ferramentas como o ChatGPT, está também sob o escrutínio da UE. Apesar de a Apple ser uma das empresas com maior proteção da privacidade, o método para analisar se é realmente esse o caso é o mesmo para todas as empresas.

Características como a utilização do reconhecimento facial para a Borracha Mágica (Magic Eraser) ou a recolha de dados para o Genmoji fazem com que a UE analise a Apple Intelligence na sua totalidade.

Felizmente, uma vez que grande parte do processamento é efetuado no dispositivo, a justificação para a UE é muito simples. O Galaxy S25, por exemplo, incorpora a IA Gemini da Google sem qualquer problema e já está à venda.

Em suma...

Não há dúvida de que a Europa está a traçar um caminho completamente diferente do resto do mundo no que diz respeito à inteligência artificial. A questão é saber se esta estratégia será suficiente para proteger os cidadãos sem abrandar a inovação tecnológica.

Empresas como a Apple e a Meta estão a adaptar-se, mas as startups mais pequenas podem considerar este regulamento um obstáculo intransponível. Para já, a UE está a enviar uma mensagem clara: a tecnologia tem de ser ética antes de ser ambiciosa.