Investigador deixa a Anthropic e alerta: IA “pode matar-nos a todos até ao fim da década”

Metade da população mundial vai com os pitos mas não será por causa da IA mas sim durante a tribulação profetizada por Daniel, na Bíblia. Ou seja, durante o período de 7 anos. E tudo parece estar cada vez mais a dar fundo desse tempo estar a chegar.

Só daqui a 10 anos?? Bolas. Nunca mais acaba

basta o raio da IA sair de controlo e por “acidente” carregar nos botoes das bombas atómicas e….. puf….

Até a acabar o dinheiro para pagar essas tais IAs esses tais modelos

Por cá a nossa AmálIA ainda vai cantar o fado e criar a melhor selecção de futebol do mundo 😀

– É fundamental perceber a diferença entre o software tradicional e a IA. O Gemini explica o essencial em poucas palavras:
“A principal diferença entre a inteligência artificial (IA) e o software tradicional está na forma como o código processa a informação e resolve problemas:
Software Tradicional (Determinístico): Funciona com base em regras e rotinas explícitas programadas por humanos (“se acontecer X, faz Y”). Segue uma lógica fixa e produz sempre o mesmo resultado para as mesmas entradas.
Inteligência Artificial (Probabilística/Aprendizagem): Aprende a reconhecer padrões a partir de grandes volumes de dados. Em vez de seguir instruções rígidas, infere regras, adapta-se e gera respostas probabilísticas (…)”
– Outro aspeto fundamental é perceber a “black box”. Explica o Gemini:
“Chama-se “black box” (caixa preta) à incapacidade de observar ou compreender o processo interno que leva uma inteligência artificial a tomar uma decisão ou a gerar uma resposta específica.
Em termos simples: o utilizador fornece uma entrada (input) e a IA entrega uma saída (output), mas o caminho intermédio entre os dois permanece opaco e incompreensível, mesmo para os engenheiros que criaram o sistema.
Por que razão a IA se torna uma caixa preta?
Complexidade Matemática: Os modelos modernos de aprendizagem profunda (Deep Learning) contam com centenas de milhar de milhões de conexões (pesos e parâmetros) ajustadas continuamente. A tomada de decisão não segue um fluxo de código legível, mas sim operações matemáticas em massa.
Representações Abstratas: A IA transforma conceitos (como palavras, imagens ou sons) em vetores numéricos num espaço multidimensional. O modelo processa relações entre estes números de uma forma que não tem correspondência direta com a linguagem humana.
Comportamento Emergente: Em redes neuronais profundas, a interação entre camadas produz raciocínios e conclusões que não foram explicitamente programados, tornando impossível prever o resultado exato apenas olhando para as regras iniciais.
Quais são as implicações da “caixa preta”?
Falta de Transparência e Confiança: Em áreas críticas como a medicina, o setor financeiro ou a justiça, é difícil confiar plenamente num diagnóstico ou numa decisão de crédito se o sistema não puder justificar o porquê.
Dificuldade na Correção de Erros: Quando o modelo falha ou apresenta alucinações, é extremamente difícil “abrir” o sistema e corrigir a linha exata de código que causou o problema.
Risco de Viés Oculto: Preconceitos e descriminações presentes nos dados de treino podem ficar enraizados na rede sem que os programadores se apercebam, perpetuando decisões injustas”.
– Aqui chegados, percebe-se os alertas de Coxon e muitos outros. Novamente recorrendo ao Gemini:
“A caixa preta deixou de ser totalmente opaca, mas tornou-se um território tão vasto que os investigadores só conseguem inspecionar pequenas frações de cada vez. A grande questão atual não é se conseguimos olhar lá para dentro, mas se conseguimos fazer essa inspeção rápido o suficiente para garantir a segurança de modelos que continuam a crescer a um ritmo vertiginoso.”