São Francisco quer as apps de 'nudify' fora das lojas da Apple e da Google
A procuradoria de São Francisco enviou intimações à Apple e à Google para removerem 13 apps de IA que criam imagens sexuais não consentidas, sobretudo de mulheres e raparigas.
A cidade de São Francisco decidiu atacar um dos usos mais tóxicos da IA generativa pela porta onde dói: as lojas de aplicações. O procurador municipal enviou intimações à Apple e à Google a exigir a remoção de 13 apps de troca de rosto e “nudify” — ferramentas usadas esmagadoramente para criar imagens sexuais falsas de pessoas reais, sem consentimento, sobretudo de mulheres e raparigas.
O que são as apps de nudify e porque estão na mira?
São aplicações que pegam numa fotografia normal e geram uma versão despida ou sexualizada da pessoa, com meia dúzia de toques e sem necessidade de saber tecnologia. A cidade argumenta que a Apple e a Google lucram com estas apps — que violam as próprias regras das lojas contra conteúdo nocivo e sexualmente explorador — e, além da remoção, exige informação sobre como foram revistas, classificadas e monetizadas.
A jogada é menos óbvia do que parece: em vez de perseguir os criadores das apps um a um, num jogo do gato e do rato que a internet conhece bem, a procuradoria aponta à camada de distribuição. As duas empresas controlam as portas de entrada do software móvel — se a porta fecha, o alcance destas ferramentas encolhe de milhões para resíduos.
A Apple e a Google vão mesmo remover as apps?
É a pergunta que fica. As duas empresas já removeram apps do género no passado, mas a acusação de que o problema é sistémico — de revisão fraca a rankings que as promovem — mexe com o modelo das lojas, não só com uma dúzia de maçãs podres. O caso pode criar um precedente legal sobre a responsabilidade das plataformas na distribuição de ferramentas de abuso, um debate que a Europa acompanha com atenção enquanto aperta o seu próprio cerco regulatório à IA. Os documentos oficiais da procuradoria estão publicados no site do City Attorney de São Francisco.
Já vimos as plataformas a mexer-se quando o assunto é imagem e IA — a Meta, por exemplo, recuou numa funcionalidade de IA no Instagram depois da reação dos utilizadores. A diferença é que desta vez não é o mercado a pedir: é uma intimação legal, com prazo e papel timbrado.
Por Oliver Grant
Imagem: Bernard Spragg. NZ from Christchurch, New Zealand / Wikimedia Commons (CC0)
