Proponha uma correção, faça uma sugestão
Deveria haver uma marca obrigatória em todas as imagens geradas por IA?
A Inteligência Artificial (IA) chegou com uma força descomunal aos nossos dispositivos, dificultando a tarefa de a compreender para uma boa parte dos utilizadores. Uma das áreas mais sensíveis, dentro desta tecnologia, é a capacidade que as ferramentas têm de gerar imagens e vídeos altamente realistas... Ora, deveria haver uma marca obrigatória em todas as imagens geradas por IA?
Deveria haver uma marca obrigatória em todas as imagens geradas por IA?
A criação de imagens com IA tornou-se uma das áreas mais fascinantes e, ao mesmo tempo, controversas da tecnologia. Aplicações baseadas em modelos de IA conseguem gerar retratos realistas, paisagens inexistentes ou obras de arte originais com apenas algumas palavras como prompt.
Esta capacidade surpreendente democratizou a criação de conteúdo visual, permitindo que qualquer pessoa produza imagens sofisticadas sem precisar de conhecimentos técnicos ou artísticos avançados, como era anteriormente.
Ao mesmo tempo, contudo, essa acessibilidade abre portas a usos menos éticos.
De facto, um problema claro é quando a linha entre o real e o artificial se tornam impercetíveis, sendo partilhadas e disseminadas imagens geradas por IA que correspondem a notícias falsas, que procuram manipular opiniões públicas ou difamar pessoas, por exemplo.
Com o crescimento da IA e a sua ampla utilização, a confiança naquilo que vemos está a ser posta à prova e, por isso, queremos saber: deveria haver uma marca obrigatória em todas as imagens geradas por IA?
Após responder à questão na sondagem em baixo, deixe-nos mais detalhes sobre a sua perspetiva na secção de comentários.
Participe na nossa questão desta semana
Loading ...Obrigado pela participação!
Nesta rubrica colocamos uma questão sobre temas pertinentes, atuais e úteis, de modo a conhecer a opinião e tendências dos nossos leitores no mundo da tecnologia, sobretudo no nosso país.
Deixe-nos então sugestões de temas na caixa de comentários ou envie para marisa.pinto@pplware.com
claro que nao, liberdade de expressao! Eu digo e faco o que me apetecer, quem está mal va para a Russia ou China!
Não faças o que te apetece, faz o que achas certo, se fores amoral precisas é de levar uma carga de porrada.
Fazes parte dos 12% que não entenderam que o assunto não é liberdade de expressão.
12%? Não sera 13,5? As fontes sao de algum documento cientifico ou da tua anormal cabeca?
Liberdade de expressao nao tem haver com ser responsavel e informar a verdade e informar as coisas certas. Pelo visto voce nao e um cara etico em querer informar a verdade e ajudar aos outros a identificarem a origem da imagem. Idáí que foi a IA que fez a imagem, pelo ao menos tem que informar isso. Em resumo, voce parece ser malicioso, voce quer enganar a quem? Liberdade de expressao para enganar os outros? É isso que voce quer
Concordo. NÃO. Porque isso não resolve nada e portanto é só idiota.
O que deve haver è uma marca de água digital (o que já há) deterministica, para que qualquer conteúdo possa ser rapidamente verificado em aplicativos de deteção de IA.
O que è necessário è popularizar aplicativos de deteção como se popularizou um google.com, um Photoshop, uma gilete. Para que se torne CULTURAL o uso de detetores de IA. A proibição ou obrigação não são a resposta para tudo seus comunas.
Um nadinha de Photoshop e apaga-se a marca. Até podes fazer uma foto do Montenegro com um boné igual ao do trumpas a dizer Make Portugal Burn Again.
Claro que sim.
Distiguir o real do falso.
E abrir os olhos?
Se precisarmos de uma marca para nos ajudar a distinguir nunca vamos estar treinados para saber distinguir por nós mesmos
A AI ainda está no inicio e bastante arcaica, basicamente na idade da Pedra. Meia duzia de anos é impossivel distinguir por nós mesmos
Eu já não sei o que é real ou não, é como se tivesse fumado droga, que mundo é este? Não quero viver neste pesadelo.
Tens bom remedio não deixas saudades
Eu nao entendi o que voce falou. Mas se tivesse me dado uma maconha eu agradeceria, to precisando. Eu tenho raiva dessa desgraca de mundo que nao deixa plantar um pé de maconha só na sua casa, nem na roça, nem no quintal, nem no sito da pessoa para consumo pessoal. Como se a maconha fosse o problema do mundo kkkk. Tem tanta coisa mais problematica no mundo ocorrendo como políticos ladões, big techs exploratorias, perigo da IA… Maconha é apenas uma valvula de “Escape” nescessaria da realidade, um alivio, uma forma de amenizar a dor. O mundo é cruel e hipócrita isso sim por proibir ela
Ele respondeu a Diana, nao foi para ti palerma
Não só deveria haver, como é urgente. UE devia obrigar as empresas da IA a identificar esses conteúdos.
para quê? essa identificação será de facil remoção.
Abrir os olhos? Esta malta vive numa realidade paralela, é que só pode. Então seria preferível vivermos numa sociedade em que não poderíamos distinguir entre o real e o fabricado? O que acontece quando não conseguirmos distinguir mais entre um comunicado real do nosso presidente da repíublica e um falso? É certo que hoje ainda conseguimos destinguir com relativa facilidade, e daqui a 5 anos???
Se não consegues distinguir sendo a brincar imagina quando for a sério para manipular massas.. ao teres uma marca que faça essa distinção por ti a sociedade nunca vai estar trinada para distinguir o certo do errado, é como com as fake news, as pessoas não sabiam pensar pela própria cabeça por estarem habituados a consumir o os media lhes davam então qualquer palha que lhes dessem era verdadeiro.
Eu e muitos outros não precisamos de fact check que por si só muitas vezes têm a sua própria agenda para saber o que é verdadeiro do que é falso. Aqui será ainda pior se não estivermos atentos.
Ainda no outro dia o Max publicou uma coisa engraçada de uma cama de silicone, nos comentários mais de 80% pensava aquilo ser real.. ABRAM OS OLHOS
Informação de ingredientes e origem etc nas embalagens não é necessário! abram os olhos! só os ignorantes (todos nós) é que se deixam enganar!!!
Informação manipulada em muitos caso.. és enganado na mesma
Isso e mensagens a dizer que é toxico ou perigoso para a saúde. A quantidade de papel que se poupava com rotulos e instrucoes
Boa analogia Gringo Bandido. Tem que obrigar e informar sim por lei. Da mesma forma que todo alimento comprado no supermercado tem que informar tudo na embalagem, como ingredientes calorias, tabela nutricional para NÃO LESIONAR E ENGANAR O CONSUMIDOR pois é necessario já que as vezes ele(a) tem doencas congenitas ou adquiridas, como diabetes, alergias, intolerancia a lactose… Ele tambem precisa estar informado tambem sobre sua tabela nuctriuonal, sobre as calorias, sobre o produto em geral que irá consumir. Em resumo, não cabe ao consumidor fazer um papel de um “advinhador” ou algum “mágico” para tentar advinihar e deduzir o que está dentro da embalagem e as propriedades do produto em geral antes de ingerir o produto e consumir. Tem que avisar sim atraves de marcacao dágua visível os produtos gerados por IA
Nem é preciso ir tão longe. Há dezenas e dezenas de páginas no Facebook com fake news, que artista X ou artista Y morreu, agora que o Rui Pedro foi encontrado, as pessoas sabem que o que ali se publica é falso, (e isto eu sep or experiência), mas insistem em acreditar que se calhar aquele conteúdo falso desta vez pode ser verdadeiro, e continuam a seguir a página na procura de mais notícias, ou então vão a outras ver se também se diz o mesmo. E nada disto passa por inteligência artificial. Tudo isto é feito por humanos, e estas páginas já existiam antes da inteligência artificial proliferar desta maneira.
Consegue? Eu não consigo. Primeiro, os comunicados da presidência da república são da presidência, não do presidente. Hoje temos pessoas que escrevam um bonito para nós, e são pagas para isso. Não somos nós que escrevemos, nem que sentimos, e mesmo quando dizemos, já vamos com filtros sobre o que deve, como deve, quando deve, com que tom deve, e porque deve e onde deve ser dito. E no quando incluímos parâmetros como: “se já passou muito ou pouco tempo do sucedido, quem disse, e não o que foi dito” e este parâmetro volta a ser aplicado no “com que tom deve ser dito”, ou seja, se tem a ver com a minha ideologia política ou com a minha cor empresarial, e inclusive o “se deve ser dito ou não”. Se a Rússia matar 10 pessoas na Ucrânia é um crime bárbaro, se Israel matar 80 na Palestina é a luta pela autodefesa. Ou, no caso mais recente, para Trump o mal não é na Nigéria se matarem pessoas. É se matarem cristãos, os outros que se explodam. E nós, deste lado, devemos falar, ou não? E como? Criticar muito, ou pouco comedidamente? Em resumo: qual a diferença de ser uma IA a falar por uma figura pública, ou a própria figura pública? Simples: a propriedade intelectual. Mas não deixa de ser algo fabricado. Algo que, em realidade, também é artificial.
E os artistas que utilizam autotune e autoafinadores nos microfones dos concertos? Não é artificial? Devíamos também proibir isso? Ou como é um humano a cantar deixamos de considerar artificial?
Acorda meu caro. Se eu estou consumindo produtos artificiais obrigatoriarmente eu deveria ter direito de saber pelo ao menos. Eu escrevi lá em cima, mas vou ter que copiar e colar para voce. Tem que obrigar e informar sim por lei. Da mesma forma que todo alimento comprado no supermercado tem que informar tudo na embalagem, como ingredientes calorias, tabela nutricional para NÃO LESIONAR E ENGANAR O CONSUMIDOR, pois é necessario, já que as vezes ele(a) tem doencas congenitas ou adquiridas, como diabetes, alergias, intolerancia a lactose, curiosidade etc… Ele tambem precisa estar informado tambem sobre sua tabela nuctriuonal, sobre as calorias, para perda de peso, sobre o produto em geral que irá consumir. Em resumo, não cabe ao consumidor fazer um papel de um “advinhador” ou algum “mágico” para tentar advinihar e deduzir o que está dentro da embalagem e as propriedades do produto em geral antes de ingerir o produto e consumir. Se eu sou consumidor eu deveria ter o direito de saber o que eu estou consumindo. Tem que avisar sim atraves de marcacao dágua visível os produtos gerados por IA sim
E em vídeos também
Acho que não deveria existir qualquer marca na imagem que fosse como uma marca d’agua mas deveria existir algo como um exif que desse a informação que a imagem foi gerada por IA e qual ia a gerou, além disso não deveria dar para apagar isso da imagem!
Ahhh tu querias imagens invioláveis? LOOOL
E DESDE QUANDO EXIF É EFETIVO O EXIF na rapidez e imediatismo da demanda do scrolling de rolagem que ocorre geralmente nas redes sociais como instagran, mastodon, bluesky, x, tiktok…? Imagine as pessoas terem que salvarr a imagem para depois tentar achar ela e abrir num outro programa para depois analisar para saber se é feito por IA ou nao. Infelizmente tem que ser uma coisa visivel e de rápido acesso como a marca dagua por exemplo. Na verdade deveria ter os dois para ser mais resiliente, marca dagua e EXIF juntos pois muitas pessoas vao querer remover a marca dagua, sobrando o EXIF para confirmar
Naturalmente que deveria existir algum tipo de indicação. Agora, como impor isso? Nos serviços comerciais tipo GPTs e afins é fácil… para operarem na europa têm de respeitar as regras.
Mas qualquer software open-source irá contornar isso. Para forçar alguma coisa deste tipo seria necessário impor oitro tipo de regras anti-democráticas e isso seria ainda pior. Aliás os jornalistas e comentadores já dizem as maiores barbaridades na televisão e escondem-se atrás de supostas fontes… é exactamente a mesma coisa. Quem quiser come quem não quiser não come.
SER VERDADEIRO e queerer informar A ORIGEM do porduto, dos videos e imagens gerados por IA etc, nao tem nada haver com ser democrático. Sao coisas totalmente diferentes. Algumas pessoas confundem democracia com badeira e desorganizacao e insistem em querer se esconder nessa mentira. Talvez obvio por querer se aproveitar disso, como querem as Big Techs e afins que ppretendem ficar trilhonarias quatrilhonarias com isso
Claro que não. É a mesma coisa que uma música feita por IA ter como fundo de 20 em 20 segundos: “Suno. Suno. Suno.
ai, meu amor, gosto tanto de “suno” e por isso faço esta “suno” para ti”
Isso, ou fazer uma página em PHP gerada por IA e ter no canto inferior esquerdo ou direito o triângulo do Gemini.
E, e se eu quiser pegar na imagem que fiz por IA, e fazer-lhe uma pequena alteração? Aplicar um sombreado, retirar qualquer coisa…? Já não é gerada apenas por IA. Já tem toque humano.
A lógica tem de ser outra:
1. Impedir que sejam usadas fotografias de figuras públicas, salvo uma autorização da mesma,
2. As plataformas onde essas imagens são geradas, manterem um histórico desse material por um período pré-acordado, para o caso de haver denúncias, poderem agir em conformidade e ceder material às entidades competentes,
e enfim. Criar uma imagem em Photoshop ou numa IA é a mesma coisa que fazer uma música na IA ou no Reason ou no nosso teclado. O que está em causa não é a capacidade da ferramenta, é o uso que cada ser humano lhe dá. E é sobre isso que deve haver penalizações, e sistemas jurídicos e recursos humanos para aplicar essas penalizações, e azer funcionar os sistemas jurídicos.
O nosso mal não é simplesmente ter uma ferramenta. É cada vez mais sermos mal educados. E quando digo mal educados não estou a tentar insultar ninguém com um insulto de escola primária. Quando digo mal educados, digo, que temos uma educação com valores invertidos e deficitária. Ou seja, não só somos mal educados em qualidade, mas também em quantidade.
Dou-vos um exemplo: a pessoa que fez com que o André Ventura saísse de uma entrevista está a ser considerado um herói. Aquilo que ele fez ninguém faria a José Luís Carneiro nem a Luís Montenegro. E se fizesse seria mal, e não, bem visto. Ou seja, a sociedade está a ser educada desta forma: “desta pessoa podes troçar, daquela não”.
“Palestinianos é para morrer, israelitas é para matar.
– Mas porquê?
– Porque sim.
– Quem determinou?
– Fui eu.
– com que base?
– na minha vontade.
– mas isso não está correto, são todos pessoas.
– eu determinei que não.
– Como assim?
– Eu posso.
– E quem lhe disse que pode?
– Pessoas que votaram em mim.
– Como puderam votar em si?
– porque eu fui ensinado na arte do bem enganar.”
Isto aplica-se a tudo, a rigorosamente tudo. Compreender o mundo que nos rodeia é uma enorme chatisse. Somos educados de que o mundo é que se tem que adaptar a nós, e não nós ao mundo, nem que deva haver uma cinergia entre nós, e o mundo. E este era o caminho.
O caminho certo era que seres-humanos se respeitassem, e quem não respeita é penalizado,
o mais provável é que paga o justo pelo pecador, como se isso fosse um procedimento normal, ou, como se não houvesse outras formas de mitigar a problemática.
“… 1. Impedir que sejam usadas fotografias de figuras públicas, salvo uma autorização da mesma…” Corrigindo, não somente figuras públicas mas como qualquer cidadão no mundo deveria ter autorizacao prévia do uso da imagem dele obvio. Isso é respeito
Deveria ter 3 tipos de obrigatoriedade na geracao de imagens e videos, 2 tipos de marca dagua viriveis para identificar de forma rápida e melhor visualmente. 1 – A primeira marca dagua com a cor vermelha quando o material é puramente gerado por IA. 2- Marca dagua com a cor amarela quando o material é gerado parcialmente por IA junto com alguma modificacao humana. Alem das marcas dágua visiveis, ainda deveria incluir no arquivo original as informacoes EXIF para complementar mais as informacoes, sobre qual programa usado, como qual gerador de IA foi usado etc. Isso é basilar, nao entendo porque nao foi implementado. A unica justificativa é que as Big techs estão trabalhando ao contrario, ou seja estao ganhando dinheiro com a falta de regulamentacao feita pelo governo para proteger o individuo
Devia mudar o nome para “bromista” ou “idealista”, porque de “realista” mostrou muito pouco.
Desculpe, mas… 3 tipos de obrigatoriedade? Sendo a última delas uma verdadeira criminalização de quem usa os meios digitais para a criação de imagem? Bom, ainda bem que não é realista, porque isso seria tudo o que Kim Yun Hill sonhou: tornar o mundo um lugar centralizado em um pequeno, muito pequeno, grupo de pessoas.
Mesmo ““… 1. Impedir que sejam usadas fotografias de figuras públicas, salvo uma autorização da mesma…” Corrigindo, não somente figuras públicas mas como qualquer cidadão no mundo deveria ter autorizacao prévia do uso da imagem dele”.
Idealismo. Percebendo o que diz, a verdade é que é impossível criar uma base de dados que contemple os registos de 500 ou 600 mil milhões de pessoas no mundo. As 8 mil milhões que agora estão vivas, mais as que entretanto já não estão, e note que eu estou apenas a falar de um registo único, desconsiderado que essas 500 ou 600 mil milhões de pessoas nunca mudaram de aspeto durante a vida, ou que apenas um exemplar imagético seu está disponível nas bases de dados, o que tornaria qualquer ferramente inútil.
Mas teria ainda outro problema: a criação de imagens por IA parecidas com as de humanos, mas que não são humanos. E outra coisa: as imagens de pessoas muito parecidas, porque há pessoas que são sósias entre elas. Das que estão vivas. Não falo de senhores de 70, que agora são parecidos com os seus pais quando esses tinham 70. Ou seja, nem aí foi realista.
Se vão meter uma marca de IA, serve de que?
Se depois pode-se usar PS ou outros para remover..
Uma tentativa. É uma tentativa, não perfeição. Nao tem como impedir e conter alguem de cometer crime se ele(a) ela quiser cometer crime de quallquer jeito. O governo tem que colocar ordem basica nas coisas como proibir assassinatos etc. Tem que ter harmonia. Se voce é consumidor, voce deveria ter o direito de exigir pelo ao menos saber o que voce está consumindo. E as pessoas consomem diariamente redes sociais sem regulamentacao. Infelizmente, deveria ser regulamentado. Mas as Big Techs e afins provavelmnente fazem lobbys contra governos e nao querem isso, nao incentiva isso. Pois lucram com isso. É abusivo
Quem diz que há rótulos? Há, em muitas coisas. Em ortaliças, salpicões nas feiras, não. E depois: quando compramos uma camisola, sabemos que é de algodão ou lã, mas não sabemos de que país veio, quem a produziu, se veio de trabalho escravo ou de trabalho com condições para os trabalhadores, e isso também é importante. Então, tudo está numa questão de consciência. E a consciência é:: tudo o que pode colocar em risco a vida humana tem que estar altamente escrutinado. O que não implica risco para a vida humana não está altamente escrutinado. E sabermos se a lã virgem vem de ovelhas bebés do Camboja ou de ovelhas criadas em pasto natural em Sintra é pouco relativo. Não coloca a vida humana em risco.
Se uma música é feita por IA, se depois houve um trabalho de estúdio para corrigir uma ou outra falha, e se o cantor partiu a música em 14 takes diferentes, isso não interfere no produto final. Sim, quando vamos comprar uma música, ou um livro, convém que esteja explicado se foi totalmente feito por IA ou não. Mas a colocação de marcas de água em imagens é só uma patetisse de todo o tamanho, porque isso jamais teria qualquer efeito. É a mesma coisa que indicar que a melhor solução seria nunca gerar rostos de pessoas, só corpos. Os rostos estariam sempre desfocados, e assim já não se precisava da marca d’água. Porque esse é o problema: os rostos. Se eu fizer uma imagem por IA de um zoológico com animais mal tratados, não tem problema. O problema tem se eu disser qual é o zoológico. É aí que começa o perigo. Mas não é da IA. É da ética das pessoas.
Claro que sim. Imagens e todo o tipo de ficheiros gerados, através da IA.
Não vejo qual o problema.
a solução não se resolve na fonte, mas sim do lado do utilizador.
se obrigam a colocar marcas de agua, essas rapidamente são removidas em fotoshop ou AI a correr localmente que nao têm de respeitar papeis rabiscados.
A solução será AI detectors, inteligencias artificiais que o utilizador contrata para fazer essa distinção.
Era isso e as mulheres que têm implantes e afins! Deviam ter um selo!
Ora essa. Fotos com coisas falsas há muitas: wonder bra, push-ups, plásticas, bottox, pestanas, unhas, rimmel, perucas, cabelos farandol, poses artificiais, alianças escondidas, barrigas encolhidas, etc, etc. O povo não quer a verdade, quer fiestaaaa!!! Deixem-se de moralismos que falsidade é o que não falta por aí e a culpa não é da IA!!!