Fotos de crianças e adolescentes brasileiras são usadas por inteligência artificial sem autorização
Um levantamento apontou que imagens de 170 crianças de pelo menos 10 estados brasileiros foram utilizadas indevidamente pelas IAs
Imagens de crianças e adolescentes brasileiros estão sendo utilizadas de maneira indevida pelas ferramentas de Inteligência Artificial (IA), de acordo com uma pesquisa realizada pela organização internacional Human Rights Watch. O levantamento feito pela entidade aponta que as fotos foram retiradas de sites e plataformas de redes sociais sem autorização.
VEJA MAIS
Durante a pesquisa, foram encontradas cerca de 170 fotos de crianças de pelo menos 10 estados brasileiros. As fotos vão desde o nascimento de bebês, até festas escolares e de aniversário. O material está no banco de dados LAION-5B, uma ferramenta usada para treinar as IAs.
Embora o número de fotos encontradas seja baixo, a entidade destaca que esse comportamento causa um alerta.
Em nota enviada à Agência Brasil, a Human Righs Watch disse que “algumas dessas fotos foram postadas por crianças e adolescentes, seus pais ou familiares em blogs pessoais e sites de compartilhamento de fotos e vídeos. Algumas foram postadas anos ou até mesmo uma década”.
A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, explica que a inteligência artificial permite a criação de imagens e cenas realistas em questão de segundos, gratuitamente e de forma fácil.
Segundo a especialista, os registros fotográficos servem como base para a criação e disseminação na internet de deepfakes não consensuais e nocivas. A deepfake é utilizada para modificar vídeos, com ajuda da inteligência artificial.
Ainda de acordo com a entidade, as fotos encontradas teriam sido publicadas anos atrás, antes da criação do banco de imagens. O acesso a elas pelas ferramentas de IA revela que houve falha por parte de grandes empresas e mídias sociais em proteger a privacidade dos usuários.
A nota enviada pela Human Rights Watch informou que a instituição alemã responsável pelo LAION-5B “confirmou que o conjunto de dados continha as fotos pessoais das crianças encontradas pela Human Rights Watch e se comprometeu a removê-las. Ela contestou que os modelos de IA treinados no LAION-5B pudessem reproduzir dados pessoais literalmente. A LAION também disse que as crianças e seus pais são responsáveis por remover suas fotos pessoais da Internet, argumentando ser a proteção mais eficaz contra o uso indevido”.
“É importante e bem-vinda a inclusão de novos direitos a partir dos desafios colocados em relação ao ambiente digital, incluindo da inteligência artificial. A gente precisa garantir o dever de cuidado com crianças e adolescentes, quando são os públicos mais afetados”, disse a coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, durante entrevista à TV Brasil.