Estudante cria programa que identifica textos criado pelo ChatGPT

O estudante norte-americano Edward Tian, de 22 anos, criou o programa “GPTZero”, que identifica se um texto foi criado ou não pela Inteligência Artificial (AI) Generative Pre-Trained Transformer (GPT), mais conhecida como ChatGPT, que tem sido debate no mundo sobre a originalidade de textos. A ferramenta foi desenvolvida no final de 2022, durante as férias de Natal.

O programa não avalia somente as chances de um texto ter sido criado pela inteligência artificial, analisa também como essa probabilidade varia ao longo do texto. Em testes realizados, o programa apresentou 98% de eficácia.

VEJA MAIS

Como funciona

Para detectar se um texto foi escrito por um humano, a ferramenta GPTZero usa como referências em suas varreduras os seguintes indicadores: perplexidade e ruptura. A perplexidade diz respeito à complexidade do texto. Quanto mais complexo o texto for, mais perplexo o GPTZero fica, logo, maiores as chances de ser escrito por humano.

A ruptura está ligada aos sinônimos variados ao longo das frases. Geralmente, um texto redigido por um humano contém alternância: simplicidade e complexidade. Um texto desenvolvido por inteligência artificial usa de muita repetição, um modelo mais uniforme. Veja um teste feito por Edward:

Segundo o El País, a ferramenta criada pelo aluno de ciência da computação da Universidade de Princeton, em Nova Jersey, é diretamente aos docentes, e já é algo bastante procurada por tais. Durante a fase de desenvolvimento, cerca de 35 mil professores entraram na fila de espera para usufruírem do programa em suas atividades.

Ainda segundo o jornal, quando visitou sua escola nas férias, uma professora contou a Edward que vários alunos descobriram a existência do ChatGPT e começaram a utilizá-lo. Ele disse ainda que o GPTZero os professores enxergam o programa como alívio: “Muitos dizem que é reconfortante saber que o GPTZero existe”.

Preocupado com o impacto e a eficácia da ferramenta, o laboratório que desenvolveu o ChatGPT também criou uma espécie de detector de inteligência artificial usada em textos. Os resultados da probabilidade foram classificadas como “muito improvável”, “improvável”, “possível” ou “provável”. Entretanto, o próprio laboratório reconheceu a baixa eficácia do programa, que identificou corretamente 26% dos textos escritos por IA.

Apesar dos grandes resultados do GPTZero, especialistas dizem que a ferramenta pode se tornar inutilizável menos exata devido à atualização dos dados do ChatGPT, que, atualmente, busca informações até o ano de 2021.

O universitário conta que a finalidade da tecnologia ChatGPT “é incrível”. Contudo, é indispensável usar com responsabilidade: “Acredito que é o futuro. Mas, ao mesmo tempo, é como se abríssemos uma caixa de Pandora. E precisamos de salvaguardar que o adotamos de forma responsável”, disse à NPR.

O que é o ChatGPT?

Lançado em novembro de 2022, o ChatGPT é uma ferramenta de inteligência artificial desenvolvida com técnicas ajustadas para responder a perguntas, basicamente um robô virtual. Atualmente o programa já é utilizado por mais de 100 milhões de assinantes. 

(*Gabriel Bentes, estagiário sob supervisão do editor de OLiberal.com, Felipe Saraiva)