A Apple atualizou as regras da App Store e passou a proibir aplicativos que usam inteligência artificial para criar imagens íntimas de pessoas sem o consentimento delas. A mudança também barra um tipo específico de fraude: apps que se disfarçam de ferramentas comuns durante a análise da loja e só liberam as funções de nudificação depois de aprovados. Caso descumpram as novas regras, os aplicativos podem ser removidos da App Store e os desenvolvedores correm o risco de perder suas contas no Apple Developer Program.

A decisão veio após pressão de autoridades e organizações de segurança. Em julho, a cidade de São Francisco ordenou que tanto a Apple quanto o Google removessem apps de nudificação de suas lojas, acusando as empresas de lucrar com serviços que geram imagens íntimas sem autorização. Antes disso, em abril, um relatório do Tech Transparency Project já havia identificado vários aplicativos desse tipo nas duas plataformas, incluindo alguns classificados como adequados para menores de idade.

A Apple informou que, só no ano passado, suas medidas de segurança barraram mais de 150 mil aplicativos com problemas e que a empresa encerrou mais de 193 mil contas de desenvolvedores por fraudes e abusos.

As novas diretrizes também reforçam as exigências de moderação de conteúdo e determinam que apps com material publicado por usuários adotem medidas para prevenir imagens íntimas não consentidas, inclusive as geradas por IA. As plataformas devem oferecer ferramentas para denunciar abusos e bloquear contas invasivas. O descumprimento pode violar o Código de Conduta do Desenvolvedor. As regras ainda proíbem apps que facilitem tráfico humano, exploração infantil ou distribuição de material de abuso sexual infantil.