Inteligência artificial utiliza fotos de crianças brasileiras sem autorização

Um estudo realizado pela Human Rights Watch revelou o uso não autorizado de fotos pessoais de crianças e adolescentes brasileiros por ferramentas de inteligência artificial (IA). Segundo a organização, essas imagens foram obtidas de sites e redes sociais sem o consentimento dos indivíduos ou de seus responsáveis.

Foram identificadas 170 fotos de crianças de pelo menos 10 estados brasileiros, capturando momentos como nascimentos de bebês, festas de aniversário e apresentações escolares. Essas imagens foram incorporadas a um banco de dados denominado LAION-5B, utilizado para o treinamento de algoritmos de IA. Embora representem uma porcentagem pequena em relação ao volume total do banco, que ultrapassa 5 bilhões de imagens, essa descoberta levanta preocupações significativas.

Muitas dessas fotos, a maioria antigas, foram originalmente compartilhadas por crianças, adolescentes, seus pais ou familiares em blogs pessoais e plataformas de compartilhamento de mídia.

A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, explicou que a IA possibilita a criação rápida e fácil de imagens e vídeos realistas. Isso pode resultar na produção de deepfakes, que são conteúdos audiovisuais adulterados de forma não consensual e prejudicial, disseminados na internet.

Os deepfakes permitem a manipulação de vídeos e fotos por meio de IA, como a troca de rostos em vídeos ou alteração de discursos. A organização ressaltou que as fotos das crianças brasileiras não são facilmente acessíveis online e foram postadas muito antes da criação do banco de imagens.

>> Para mais notícias, siga o SCC10 no Twitter, Instagram e Facebook.