O ChatGPT invadiu o nosso dia a dia, com tudo o que de bom e de mau tem. Esta ferramenta que deveria poder ajudar os utilizadores rapidamente caiu nas mãos de todos e revelou o que a natureza humana tem de melhor e de pior, pelo menos no que toca a usar este tipo de ajudas.
De uma ferramenta de conversa e ajuda passou a ser essencial para realizar trabalhos e a escrever pelos utilizadores. Este aproveitamento pode ter os dias contactos, com a chegada de ferramentas com o Detect GPT, que agora permite que qualquer um detete textos escritos pelo ChatGPT.
Assim como chegou, rapidamente o ChatGPT passou a ser usado para gerar texto para alimentar trabalhos escolares e até meios de comunicação. Estes textos muitas vezes são desprovidos de conteúdo ou, o que é ainda pior, libertam, de forma errada, os seus supostos autores do trabalho que deveriam ter.
Importava assim criar ferramentas para contrapor este cenário indesejado. Estas já existirem, sendo especializadas em detetar textos criados pelo ChatGPT e outras plataformas, mas ainda não estão acessíveis e generalizadas. É aqui que entra o Detect GPT, criado por Eric Mitchell.
ChatGPT (and others) generate very fluent (but not always truthful) text.
— Eric (@_eric_mitchell_) January 27, 2023
Some worry that teachers, news-readers (like you!), and society in general will be swamped with AI-generated content.
That's why we built DetectGPT, a method for detecting if text comes from an LM. pic.twitter.com/5xEwzSkiLw
O seu lançamento foi há algum tempo, mas só agora começou a ganhar visibilidade. É dedicado ao Chrome e verifica o conteúdo de um site ou documento, analisando-o para identificar se algum conteúdo presente foi gerado usando o modelo de linguagem GPT.
O DetectGPT assume que o texto amostrado de um grande modelo linguístico tende a ocupar regiões de curvatura negativa da função de semelhança do modelo. Isso significa que não requer treino de um classificador independente, nem a recolhe dados reais ou gerados. Usa apenas probabilidades de registos calculados a partir de outro modelo linguístico genérico pré-treinado.
Simples de usar, só é necessário navegar para a página que se pretende avaliar e rapidamente é fornecido um grau de confiança sobre a origem dos textos. Se o utilizador preferir, pode também validar texto de forma manual, com o limite de 50 carateres.
Os autores desta ferramenta referem que a fluência e o conhecimento dos grandes modelos linguísticos (LLM) aumentam a necessidade de sistemas para detetar se um texto é escrito por uma máquina. Assim, esta será a ferramenta ideal para conseguir detetar estes textos que o ChatGPT cria.