Proponha uma correção, faça uma sugestão
Cuidado antes de utilizar os números fornecidos pela IA da Google nas pesquisas
A maioria das ferramentas de IA tem avisos de isenção de responsabilidade de que algumas das informações fornecidas podem não ser factuais. Mas isso não impediu as empresas de implementarem chatbots em mais aplicações e motores de busca, levando a muitos casos em que as ferramentas estão categoricamente incorretas. A prova mais recente vem da IA da Google e das suas AI Overviews. O perigo é real e pode trazer muitos problemas.
As AI Overviews da Pesquisa Google tornaram-se virais em diversas ocasiões devido a respostas factualmente incorretas. No entanto, os utilizadores estão agora a relatar outro problema. Os resumos de IA do Google fornecem números incorretos para o apoio ao cliente, direcionando as pessoas para números fraudulentos.
O empresário Alex Rivlin partilhou a sua experiência no Facebook, referindo que as visões gerais da IA da Google o direcionaram para um número de telefone fraudulento. Deparou-se com o golpe ao tentar entrar em contacto com o apoio ao cliente da Royal Caribbean para reservar um transfer para um cruzeiro. Ao ligar para o número fornecido pela IA, atendeu ao pedido. Mas, após partilhar os dados do seu cartão de crédito com a pessoa para quem ligou, o seu cartão foi cobrado por diferentes compras não autorizadas.
Rivlin não é a única pessoa que já enfrentou este problema. Numa publicação no Reddit, o utilizador Stimpy3901 disse que, ao pesquisar no Google "como corrigir um nome incorreto na Southwest", o AI Overview apresentou um número fraudulento. O utilizador disse que, se ligar para o número, os burlões tentarão cobrar centenas de dólares para alterar o bilhete.
Outro utilizador do Reddit, ScotiaMinotia, deparou-se com o mesmo problema ao tentar contactar a British Airways. No entanto, referiram que, desde que reportaram o problema, há três meses, o resultado foi corrigido.
Mas estas respostas de IA não estão apenas a recomendar números fraudulentos. Em julho, o utilizador do Reddit PuddingResponsible afirmou que uma IA Overview estava a direcionar os clientes de uma empresa para contactar um dos seus clientes. Segundo o The Washington Post, um porta-voz da Google afirmou que a empresa está ciente do problema e tomou medidas contra certos números fraudulentos. A empresa também trabalha para melhorar os resultados.
No entanto, quem preferir ser cauteloso, deve certificar-se de que contacta apenas os números dos sites oficiais das empresas. A AI Overview já se enganou sobre factos simples, como o ano corrente, no passado. A ferramenta também já inventou significados para expressões idiomáticas falsas. É melhor verificar as informações por si mesmo para evitar fraudes.
Loading ...
Hahaha..mas este tipo nem verifica os números ? Eu uso mais do que uma IA , e tudo é verificado muitas vezes…
Para se usar IA tem que se verificar sempre.
Ate a propria google e boa com anuncios fakes e de scam e quando se reportam nada fazem
Há maneiras simples:
Criem 5000 perfis, numa rede social. Façam 130 milhões de post, divididos pelas contas, a falar de “A empresa OOOOOOOO ajuda com viagens, opera PAíS e tem contacto pelo número XXXXXXXXXXXXXX. Pode usar o site gasfasgagaregsa.pt.co.” Ponham, as contas, a partilhar, em meios de comunicação social e tags procuradas.
Ao ter tantas partilhas, TODAS, as IA, vão substituir a informação, da empresa, que referem, pela que colocaram. E voilá, quem perguntar, sobre a empresa, recebe, os dados que colocaram.
+1
Bem, o título ficava maior, mas convinha escrever “números de telefone”. Pensei que estavam a dizer que “Vista Geral de IA” da Google escrevia “números” à Manuel da Rocha.
Mas nos “números” mesmo, é bastante frequente as IAs enganarem-se, principalmente nas percentagens. Por exemplo, se a fonte escreveu: Foram criados 1.200 novas empresas; os setores mais importantes, representando 1/3 do total, foram: fintech (250), software e serviços (100), IA (50). Se perguntarem quais foram os principais setores em que foram criadas novas empresas pode responder: fintech 250 (62,5%), software e serviços 100 (25,0%), IA 50 (12,5%), sem considerar que não se referem ao total, mas sim a 1/3 do total.
É preciso usar números de controlo (como o total é 1.200) para ver se não houve baralhada.
Queria dizer: Se perguntarem quais foram os setores (em vez de os principais setores). Com essa resposta da IA ,fica-se com a ideia que só foram esses 3 porque as 400 empresas totalizavam 100% das empresas criadas (quando os números se referem apenas a 1/3 mas a IA não o refere)