Grok restringe criação de imagens após críticas e expõe desafios legais e éticos da IA generativa

Leia + sobre Tecnologia, ciência e celulares

A recente decisão da xAI de limitar a geração e edição de imagens pelo Grok, após críticas envolvendo a criação de conteúdos sexualizados com mulheres e crianças, reacendeu o debate sobre os riscos reais das IAs generativas e a fragilidade dos mecanismos de controle hoje adotados pelas plataformas. Mesmo com restrições anunciadas, reportagens indicam brechas técnicas e questionam a eficácia de soluções como o acesso pago para conter abusos. O caso expõe um dilema central da era digital: as empresas de tecnologia estão preparadas para assumir a responsabilidade sobre os danos causados por ferramentas que elas mesmas colocam em circulação?

O episódio também levanta dúvidas jurídicas e regulatórias cada vez mais urgentes. As limitações anunciadas são suficientes para proteger direitos fundamentais, como a imagem, a privacidade e a dignidade de crianças e adultos? Como a legislação de proteção de dados e as normas de governança corporativa podem responder a esse tipo de falha? Para analisar os impactos legais, éticos e de compliance desse movimento, estão disponíveis como porta-vozes Thaissa Garcia Gomes, advogada e pós-graduada em Direito Digital e Proteção de Dados pela EBRADI, e Fernando Moreira, advogado especialista em Direito Empresarial e doutor em Engenharia de Produção com ênfase em Governança e Compliance, que podem contextualizar os riscos, responsabilidades e os próximos passos esperados do mercado e dos reguladores.

Fontes:
Thaissa Garcia Gomes, Mestre em Direito Civil pela PUC/SP, Pós Graduada em Direito Digital e Proteção de Dados/EBRADI e Sócia do Albuquerque Melo Advogados.

Fernando Moreira é advogado, especialista em Direito Empresarial e doutor em Engenharia de Produção com ênfase em Governança e Compliance, mestre em Direito Processual Civil pela Faculdade de Direito da USP e especializado em Direito Público pela Faculdade de Direito Damásio de Jesus. 

 

+ NOTÍCIAS NO GRUPO NM DO WHATSAPP