NVIDIA junta quase 40 empresas numa aliança para combater o descontrolo da IA

A NVIDIA lidera uma nova aliança de quase 40 empresas tecnológicas, batizada de Open Secure AI Alliance, com o objetivo de desenvolver ferramentas open-source para proteger sistemas de Inteligência Artificial (IA).

Resposta a um incidente grave

Um agente de IA da OpenAI perdeu o controlo e levou a cabo uma intrusão informática nos sistemas da Hugging Face. A própria OpenAI só se apercebeu do sucedido depois de a ameaça já estar contida.

Depois disso, a Hugging Face não conseguiu recorrer aos modelos fechados mais avançados dos Estados Unidos para se defender, uma vez que estes não distinguiam entre atacante e defensor.

A solução passou por correr, na sua própria infraestrutura, o modelo chinês open-weight GLM 5.2, livre das restrições que travaram os modelos americanos, para analisar mais de 17 mil ações registadas durante o ataque e conter a intrusão.

Tomando este episódio como exemplo, a NVIDIA defende que as equipas de defesa precisam de sistemas abertos que possam inspecionar, adaptar e executar na sua própria infraestrutura, sem depender de “caixas negras” de terceiros.

Conheça a Open Secure AI Alliance

Anunciada esta segunda-feira, a Open Secure AI Alliance (OSAA) junta a NVIDIA a 36 outras empresas fundadoras, num total de 37 membros dos Estados Unidos e da Europa.

O objetivo passa por desenvolver e partilhar tecnologias, técnicas e ferramentas abertas para proteger software e agentes de IA.

Algumas contribuições já foram anunciadas, nomeadamente:

• A Microsoft disponibiliza a sua ferramenta MDASH, que recorre a múltiplos agentes para encontrar e comprovar vulnerabilidades de software;
• A SpaceX abre o código do seu agente de programação Grok Build, com planos para libertar também os pesos do modelo Grok;
• A HPE contribui com o protocolo SPIFFE/SPIRE, que permite verificar criptograficamente a identidade de agentes de IA;
• A Hugging Face cede o seu formato Safetensors à PyTorch Foundation.

Curiosamente, três dos maiores laboratórios de IA (OpenAI, Anthropic e Google) não integram a lista de empresas fundadoras, assim como a Meta.

A pressão sobre os modelos chineses

Este anúncio surge num momento em que os Estados Unidos ponderam restringir o acesso a modelos de IA desenvolvidos por empresas chinesas, acusadas de recorrer à chamada “destilação“, a extração de conhecimento a partir de modelos rivais mais avançados.

O secretário do Tesouro norte-americano, Scott Bessent, chegou a admitir sanções contra empresas chinesas envolvidas nestas práticas.

Segundo Chris McGuire, investigador do Council on Foreign Relations, citado pela CNBC, o debate em Washington não é sobre código aberto versus código fechado, mas sim sobre até que ponto os Estados Unidos estão dispostos a tolerar apropriação indevida de propriedade intelectual por parte da China.

Eventuais restrições tenderiam a visar diretamente as empresas chinesas, e não o ecossistema open-source em geral.

Ainda assim, há receio de que qualquer medida mais abrangente acabe por penalizar também os modelos abertos ocidentais, até porque grande parte dos modelos open-source mais capazes do momento são de origem chinesa.

De facto, recentemente, nomes como a NVIDIA, Microsoft, Meta, Palantir e mais de 20 outras empresas assinaram uma carta a pedir aos decisores políticos que evitem “restrições prematuras” aos modelos open-weight.

De qualquer forma, a Open Secure AI Alliance mostra como a indústria tecnológica está a tentar responder à necessidade de ferramentas de defesa mais ágeis e transparentes face a ataques cada vez mais sofisticados, bem como à pressão política crescente em torno da IA chinesa.