Trends virais com inteligência artificial exigem alerta e cuidado dos usuários

A utilização das ferramentas de Inteligência Artificial (IA) tem se popularizado. O último “trend” viral que ganhou as redes neste mês foi a criação de imagens no estilo do Studio Ghibli, do cineasta Hayao Miyazaki, a partir de fotos pessoais ou memes. A nova atualização do software da mesma empresa do ChatGPT - a Open AI – gerou uma enxurrada de imagens nas redes sociais. Apesar do sucesso, alguns especialistas alertam para a importância dos cuidados com os dados pessoais e com as próprias imagens para uso nessas ferramentas.

A diretora de uma agência de marketing de Belém, Letícia Favatto, sempre participa das trends nas redes sociais, seja de maneira pessoal ou como uma forma de incentivar os clientes a utilizarem as ferramentas. Letícia é uma fã da cultura japonesa. “Na infância e adolescência assistia bastante [anime]. Era o que mais transmitia nas TVs e achava o visual lindo, foi aí que me interessei mais pelo design também. E com certeza, gosto, consumo e aprecio muito a cultura japonesa”, declara.

Com o surgimento da ‘trend’ do Stugio Ghibli, Letícia aproveitou a oportunidade para unir os gostos pessoais às tarefas profissionais. A ideia também era incentivar os clientes a entrar na trend para atingir seus objetivos, o público alvo ou adequado ao storytelling de cada um. “A nossa social media sugeriu fazermos um material que pudesse dar visibilidade aos nossos clientes, em um formato mais lúdico, brincando com o real e o desenho. Também sendo uma forma de valorização do trabalho do Studio Ghibli”, afirma.

O professor de Ciência da Computação e Engenharia de Software, da Universidade da Amazônia (Unama) Mauro Margalho, adverte que com a evolução da Inteligência Artificial (IA) e a popularização dessas ferramentas para qualquer pessoa uma série de preocupações novas estão surgindo. “São preocupações mais contemporâneas e muito mais perigosas, principalmente associadas com o que denominamos ‘engenharia social’. O que é isso? Pessoas mal-intencionadas podem utilizar os programas de Inteligência Artificial para emular a voz de outra pessoa para se fazer por alguém que você conhece para pedir dinheiro”, exemplifica. As novas ferramentas conseguem também imitar o jeito de escrita de um usuário, e em casos mais avançados, até substituir o rosto de pessoas em vídeos.

Outra preocupação dos especialistas da área de computação é a destinação dos dados, que as pessoas voluntariamente concedem às empresas privadas como a OpenIA, Google, Microsoft e outras. O professor da área de IA da Faculdade de Computação e superintendente de inovação e desenvolvimento da Universidade Federal do Pará (UFPA), Filipe Saraiva, ressalta essa situação. “Sempre que você sobe um dado para a internet, esse dado vai para algum computador. Quando a informação vai para a nuvem, esse computador que armazena é propriedade de alguém, e no fundo você está entregando os seus dados para quem tem o controle da máquina. Você entrega para algum controlador”, destacou.

As fotos utilizadas para criar as imagens estilizadas no Studio Ghibli e qualquer informação enviada para a OpenAI servem para realimentar os bancos da IA, o que faz com que as plataformas tenham mais informações ainda sobre os usuários. Esses dados são utilizados pelas Big Techs para transformar o usuário em um produto a ser vendido para empresas de diversos segmentos, cada uma com o seu interesse, seja de comercialização, pesquisa ou de convencimento.

Um lado obscuro na utilização dessas plataformas de IA e nas redes sociais continua sendo a destinação e utilização que as empresas privadas fazem dos dados dos usuários. O advogado criminalista Filipe Silveira, reforça que é preciso ter a atenção redobrada antes de aderir a essas modas digitais.

“O serviço de coleta de dados foi desenvolvido como uma forma de adaptar o conteúdo ao perfil do usuário, melhorar a usabilidade e tornar o app mais atrativo, entender como o app está sendo usado, identificar erros, travamentos, funções pouco utilizadas, etc., mostrar anúncios personalizados, com maior chance de cliques e compras, venda ou compartilhamento de dados com terceiros, como anunciantes, empresas de dados ou parceiros comerciais, exploração comercial de dados”, explica Silveira.

Silveira detalha que, em muitos casos, a política de coleta de dados nos termos de uso é confusa e mal explicada. “O que permite, inclusive, que o usuário sequer saiba quais os dados estão realmente sendo compartilhados”, aponta. “Nesse cenário, antes do risco de vazamento, os dados podem ser utilizados para usos eticamente questionáveis, tais como: utilização de dados para manipulação comportamental, venda de dados sem consentimento, treinamento de IA a partir de dados sensíveis, criação de perfis ocultos em redes sociais”, detalha.

O advogado aponta que existem critérios e boas práticas para que o consumidor consiga diferenciar um aplicativo confiável ou uma plataforma mal-intencionada. O primeiro é o endereço do site que deve começar com https:// e exibir um cadeado ao lado, esse dado indica que as informações são criptografadas. O segundo critério é a existência de uma política de privacidade clara e acessível (a ausência ou uma política confusa, deve ser objeto de atenção e alerta). Outra é a existência de autenticação de dois fatores. E o quatro é se o app está disponível em fontes oficiais (como APP Store, Google Store).

Outras orientações são: verificar as avaliações de especialistas; verificar as permissões que os aplicativos requerem (um aplicativo de foto não possui nenhum motivo para requerer permissão de dados de GPS, por exemplo); o excesso de pop-up ou de redirecionamentos também deve ser interpretado com alerta; o tempo de existência do desenvolvedor; e observar certificações e selos de segurança (Norton Secured, SSL Secure, ISO/IEC 27001).

Letícia entende e busca tomar vários cuidados. Ela utiliza IA praticamente todos os dias, que facilitou muito o cotidiano. “Eu acredito que com o uso responsável, as plataformas de IA somam demais em todos os projetos. Desde a escrita à produção audiovisual. Acho que é uma oportunidade para novos profissionais e aprimorar as que já existem”, diz. “Hoje em dia, é quase impossível sermos anônimos. Não somente por IA ou rede social, uma pesquisa básica no Google, você consegue encontrar diversos dados de pessoas ou empresas. Então, confiar na rede social não é um problema, confio sim, porém devemos ter o cuidado com as informações e com o que é exposto, para que não caia na mão de pessoas erradas”, completa.