Nova funcionalidade do ChatGPT poderá expor os alunos que copiam textos do chatbot
De acordo com fontes próximas da OpenAI, a empresa tem um sistema para criar marcas de água para os textos gerados pelo ChatGPT, bem como uma ferramenta para detetar essas marcas de água. Isto poderá levar à exposição de pessoas que se limitam a copiar textos do chatbot.
OpenAI debate se deve ou não introduzir a funcionalidade no ChatGPT
Segundo o TechCrunch, um porta-voz da OpenAI confirmou que a empresa está a trabalhar num método de marca de água descrito no WSJ, mas que o sistema tem "complexidades" e representa um "provável impacto no ecossistema para além da OpenAI". Os responsáveis da empresa estão a debater se devem ou não introduzi-lo no mercado.
Existe uma divisão interna: se por um lado seria da sua responsabilidade fazer algo deste género, por outro, o lançamento desta ferramenta poderia prejudicar a sua atividade.
Como revela o TechCrunch, os responsáveis da OpenAI acreditam que, embora este sistema seja "tecnicamente prometedor", tem alguns problemas.
Apresenta riscos significativos que estamos a ponderar à medida que investigamos alternativas, como a suscetibilidade de ser contornado por maus atores e a possibilidade de afetar desproporcionadamente grupos como os que não falam inglês.
Disse a OpenAI.
Uma tarefa quase impossível
Várias empresas lançaram ferramentas de deteção de texto geradas por IA, mas nenhuma delas funciona muito bem. A OpenAI criou e lançou a sua própria ferramenta no início de 2023, mas acabou por admitir que o seu nível de precisão era baixo e até cancelou e abandonou a proposta inicial.
Este novo mecanismo é relativamente mais simples, embora só funcione no ChatGPT. O que a empresa faria era introduzir pequenas alterações na forma como o ChatGPT seleciona as palavras que gera, criando uma espécie de marca invisível na caligrafia que poderia ser detetada por outra ferramenta.
Por outras palavras: a OpenAI forçaria o ChatGPT a ter um "estilo robótico" de escrita que poderia depois identificar. Os textos continuariam a ser de qualidade, mas a escolha das palavras denunciá-lo-ia.
A OpenAI afirma que a marca de água demonstrou "elevada precisão e até eficácia contra manipulações localizadas, como a paráfrase", mas também tem problemas.
A empresa não esclarece em nenhum momento se acabará por lançar a ferramenta, mas parece que pelo menos há uma forma interessante de conseguir algo que até agora parecia impossível.
Leia também:
Penso que, ao copiar o texto escrito pela plataforma, e colar numa folha de Word, conseguirá anular a marca da água. E, a partir deste documento Word recém criado, podemos utilizar o texto como um texto genuíno.
não leste o artigo, é uma marca de água gramatical/lexical.
No dia seguinte haverá 5 ferramentas para refazer o texto sem essa marca de agua.
Fazer isso é praticamente dar um tiro no pé! Isso irá denunciar seus próprios usuários, o que não faz sentido para aqueles que pagam pelo uso da ferramenta.
Ja passei e acabei o curso gracas ao chatgpt….copiar todos o fazemos. Agora w ingressar no mercado de trabalho e aguentar um salario misero de 2800 euros por mes mas so fico ca um ano