Fotos de crianças brasileiras são usadas por IA de forma indevida

Uma pesquisa da organização internacional Human Rights Watch identificou o uso de fotos pessoais de crianças e adolescentes brasileiros por ferramentas de inteligência artificial (IA). Segundo a entidade, as imagens foram retiradas de sites e redes sociais sem consentimento.

A entidade encontrou 170 fotos de crianças de pelo menos 10 estados, que retratam momentos de nascimentos de bebês, festas de aniversário e apresentações escolares.

As imagens estão em um banco de dados chamado LAION-5B, usado para treinamento de ferramentas de IA. Segundo a entidade, o percentual é baixo diante do tamanho do acervo do banco, que ultrapassa 5 bilhões de imagens, mas levanta um alerta.

“Algumas dessas fotos foram postadas por crianças e adolescentes, seus pais ou familiares em blogs pessoais e sites de compartilhamento de fotos e vídeos. Algumas foram postadas há anos ou até uma década”, diz nota da Human Righs Watch.

Deepfakes

A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, explica que a inteligência artificial permite a criação de imagens e cenas realistas em questão de segundos, de forma gratuita e fácil. Com isso, muitas das fotos são base para o desenvolvimento de deepfakes não consensuais e prejudiciais, que circulam na internet.

Deepfake permite a adulteração de vídeos e fotos através de inteligência artificial. Um exemplo é mudar o rosto das pessoas em um vídeo ou mudar sua fala.

Segundo a Human Rights Watch, fotos de crianças brasileiras não estão disponíveis em pesquisas online e foram postadas anos atrás, antes mesmo da criação do banco de imagens. O acesso a eles por ferramentas de IA revela que houve uma falha por parte das grandes empresas e das redes sociais em proteger a privacidade dos usuários.

A organização informou que a instituição alemã responsável pelo LAION-5B “confirmou que o conjunto de dados continha fotos pessoais de crianças encontradas pela Human Rights Watch e comprometeu-se a removê-las. Ela contestou que os modelos de IA treinados no LAION-5B pudessem reproduzir dados pessoais literalmente. LAION também disse que as crianças e seus pais são responsáveis ​​por remover suas fotos pessoais da Internet, argumentando que é a proteção mais eficaz contra o uso indevido.”

A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, defende a aplicação de legislação no mundo virtual para proteger os usuários.

“A inclusão de novos direitos baseados nos desafios colocados em relação ao ambiente digital, incluindo a inteligência artificial, é importante e bem-vinda. Precisamos garantir o dever de cuidado com as crianças e adolescentes, quando são os grupos mais afetados”, disse a pesquisadora em entrevista ao TV Brasil.

>> Assista na TV Brasil