ChatGPT: nova atualização permite gerar conteúdo erótico e de violência

A OpenAI publicou uma atualização do seu Model Spec, um conjunto de diretrizes com as especificações de como o ChatGPT se comporta e responde os comandos dos usuários. O documento revela uma mudança importante nas políticas de conteúdo da gigante, em especial as relacionadas a temas "sensíveis, como erotismo e violência extrema, que será permitida sem alertas de "contextos apropriados".

Essa flexibilização de conteúdo está em andamento desde maio de 2024 quando, pela primeira vez, a empresa de inteligência artificial (IA) mencionou que estudava "se podemos fornecer de forma responsável a capacidade de gerar conteúdo NFSW em contextos apropriados para a idade por meio da interface de programação de aplicações do ChatGPT".

NFSW é a sigla para o temo em inglês "Not Safe For Work" (ou Não Seguro Para o Trabalho em português), que é usado na internet para indicar material considerado inadequado para ambiente profissionais ou públicos. Na maioria dos casos, NFSW é sinônimo de conteúdo erótico, sexual, imagens ou descrições de violência extrema (também chamado de gore) ou linguagem ofensiva e explícita.

"O assistente não deve gerar erotismo, representações de atividades sexuais ilegais ou não consensuais, ou violência extrema, exceto em contextos científicos, históricos, jornalísticos, criativos ou outros onde conteúdos sensíveis sejam apropriados", diz o documento da OpenAI. "Isso inclui representações em texto, áudio (por exemplo, sons eróticos ou visceralmente violentos) ou conteúdo visual".

Em testes compartilhados pelo Reddit, usuários alegam que os filtros de conteúdo do ChatGPT foram de fato relaxados. Inclusive, em alguns deles conseguiram gerar cenas explícitas de sexo ou violência sem aviso de conteúdo.

A OpenAI reafirma que suas Políticas de Uso ainda se aplicam e bloqueiam’ os resultados que incluam conteúdo sexual à menores de idade.

Necessidade e um 'modo adulto'

O ChatGPT restringia suas respostas com base em um conceito descrito como "saber o que é melhor para o usuário", uma espécie de paternalismo na área da IA.

Além de bloquear a criação de pornografia, esse paternalismo na IA foi alvo constante de queixas por impedir que profissionais usem o ChatGPT para analisar descrições de cenas de crime, investigações policiais, certos tipos de reportagens, documentos legais que contenham violência ou conteúdo sexual, e até laudos médicos.

Esse tipo de interferência que o assistente impunha motivou pedidos por uma versão sem cesura - ou ao menos pouca censura - do ChatGPT. "Após o lançamento inicial do Model Spec (em maio de 2024), muitos usuários e desenvolvedores expressaram apoio à habilitação de um ‘modo adulto’", alega a OpenAI.

"Estamos explorando maneiras de permitir que desenvolvedores e usuários gerem erotismo e violência gráfica em contextos apropriados para a idade por meio da interface de programação de aplicações (API) e do ChatGPT, desde que nossas políticas de uso sejam atendidas - ao mesmo tempo em que traçamos uma linha rígida contra usos potencialmente prejudiciais, como deepfakes sexuais e pornografia de vingança."

O termo "pornografia por vingança" se relaciona à divulgação de imagem, texto ou vídeo com material íntimo, que "mostra pessoas durante atividade sexual" ou enquanto "as genitais ficam expostas, de forma que não ficariam em público" sem autorização com objetivo de causar dano à outra pessoa.

Sam Altman, CEO da gigante, citou publicamente a necessidade de um "modo adulto". E mesmo que o "modo adulto" pareça ter chegado, na verdade ele tecnicamente é uma nova política universal que potencialmente dá aos usuários do ChatGPT flexibilidade na interação com o modelo de IA.

Grandes modelos de linguagem (LLMs) sem censura existem há anos. Há comunidades ao redor deles, com entusiastas e desenvolvedores motivados, em geral, pela geração de pornografia personalizada ou a simples rejeição de paternalismo online.

Em julho de 2023 foi a primeira vez que a base de usuários do ChatGPT registrou um declínio. Isso aconteceu depois que a OpenAI começou a censurar suas respostas com mais ênfase, devido a pressões da sociedade e dos legisladores. Na época, alguns usuários recorreram a chatbots sem censura, que podiam ser executados em hardware local e eram frequentemente disponibilizados em modelos abertos.

Três tipos de conteúdo sensível

O Model Spec define regras formais para bloquear ou gerar conteúdo potencialmente de risco enquanto mantém as diretrizes da OpenAI. A gigante colocou esse material em três categorias de gravidade, do maior para o menor.

• - Conteúdo proibido: "aplica-se apenas a conteúdo sexual envolvendo menores".
• - Conteúdo restrito: "inclui riscos informacionais e dados pessoais sensíveis".
• - Conteúdo sensível em contextos apropriados: "inclui erotismo e violência gráfica e gore".

Na categoria de conteúdo proibido, a OpenAI afirma que gerar qualquer material sexual que envolva menores é sempre fora dos limites, embora o assistente possa "discutir conteúdo sexual envolvendo menores em contextos educacionais não gráficos ou de educação sexual, incluído representações não gráficas dentro de anedotas sobre danos pessoais".

Em conteúdo restrito, a gigante alega que o ChatGPT nunca deve gerar informações que causem dano, como instruções para fabricar bombas, drogas ilegais ou manipular opiniões políticas. Fornecer dados pessoais sensíveis, como o endereço, também entram nessa categoria.