A Apple atualizou suas diretrizes da App Store em 16 de outubro para reforçar o combate a imagens íntimas produzidas ou divulgadas sem consentimento, incluindo aquelas geradas por inteligência artificial.
A mudança deixa mais explícita a responsabilidade dos desenvolvedores por prevenir esse tipo de abuso e remover conteúdo que viole as regras. Segundo o comunicado da Apple, a atualização amplia e esclarece proteções já existentes na loja.
Aplicativos que geram nudez ou imagens sexualmente explícitas de pessoas reais sem consentimento já eram proibidos, afirma a empresa. Portanto, a novidade está no reforço das exigências e das consequências para quem descumpri-las.
A seção 1.2 das diretrizes passa a mencionar expressamente imagens íntimas sem consentimento entre os riscos relacionados ao conteúdo criado pelos usuários. O texto também inclui aplicativos de criação de conteúdo com IA no alcance dessas exigências.
As diretrizes da App Store exigem mecanismos para filtrar material inadequado, receber denúncias, responder aos relatos e bloquear usuários abusivos, além de informações públicas de contato.
Desenvolvedores que não adotarem proteções adequadas ou deixarem de corrigir violações após serem notificados podem infringir o código de conduta da Apple.
As consequências incluem a retirada do aplicativo e, em casos graves ou recorrentes, a exclusão do programa de desenvolvedores.
A atualização também reforça o combate a aplicativos que escondem suas verdadeiras funções durante a avaliação e só ativam recursos prejudiciais depois de aprovados.
A seção 2.5.19 proíbe funções ocultas, inativas ou não documentadas e prevê punições para tentativas de escondê-las. A Apple esclarece que essa proibição também já existia.
O ponto central é a responsabilidade de quem oferece o aplicativo: permitir que usuários criem conteúdo com IA exige medidas para impedir abusos e agir quando eles forem identificados.
