Fotos pessoais de crianças e adolescentes brasileiros estão sendo usadas para treinar ferramentas de inteligência artificial (IA)
sem o conhecimento ou consentimento deles, segundo a organização Human Rights Watch.
Essas imagens são capturadas da web e inseridas em um grande conjunto de dados que as empresas usam para treinar suas ferramentas de IA. Enquanto isso, outros usuários acessam as ferramentas para criar deepfakes maliciosos que colocam ainda mais crianças em risco de exploração e danos.
Menores em risco
“Crianças e adolescentes não deveriam ter que viver com medo de que suas fotos possam ser roubadas e usadas contra eles”, disse Hye Jung Han, pesquisadora de direitos da criança e tecnologia da Human Rights Watch.
Leia + sobre Tecnologia, ciência e celulares
Ela afirmou que cabe ao poder público regulamentar as ferramentas e desenvolver legislações para proteger os menores de idade.
Uma análise da Human Rights Watch descobriu que o LAION-5B, um conjunto de dados usado para treinar ferramentas populares de IA e construído a partir da raspagem de grande parte da Internet, contém links para fotos identificáveis de crianças brasileiras.
Os nomes de algumas crianças estão listados nas respectivas legendas ou na URL onde a imagem está armazenada. Em muitos casos, suas identidades são facilmente rastreáveis, incluindo informações sobre quando e onde a criança estava no momento em que a foto foi tirada.
Uma dessas fotos mostra uma menina de dois anos com os lábios entreabertos de admiração enquanto toca os dedinhos de sua irmã recém-nascida. A legenda e as informações incorporadas na foto revelam não apenas os nomes das duas crianças, mas também o nome e a localização exata do hospital em Santa Catarina onde o bebê nasceu.
Dados do estudo
A Human Rights Watch encontrou 170 fotos de crianças de pelo menos 10 estados: Alagoas, Bahia, Ceará, Mato Grosso do Sul, Minas Gerais, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina e São Paulo.
É provável que essa seja uma subestimação significativa da quantidade total de dados pessoais de crianças existentes no LAION-5B, uma vez que a Human Rights Watch analisou menos de 0,0001% dos 5,85 bilhões de imagens e legendas contidas no conjunto de dados.
As fotos analisadas abrangem toda a infância e adolescência, capturando momentos íntimos de bebês nascendo nas mãos enluvadas de médicos; crianças pequenas soprando velas no seu bolo de aniversário ou dançando de cueca e calcinha em casa; estudantes fazendo uma apresentação na escola; e adolescentes posando para fotos no Carnaval de seu colégio.
+ NOTÍCIAS NO GRUPO NOVOMOMENTO WHATSAPP