A Apple atualizou suas diretrizes para desenvolvedores para banir aplicativos que usam inteligência artificial (IA) para criar conteúdo ofensivo, bem como aqueles que se disfarçam de aplicativos regulares para passar pelo processo de revisão da App Store e, em seguida, revelam recursos de nudez ou os destacam proeminentemente.

De acordo com a Apple, os aplicativos que hospedam conteúdo gerado pelo usuário devem incluir medidas preventivas para moderar material ofensivo ou obsceno, dar aos usuários a opção de relatar conteúdo ofensivo e permitir que os usuários bloqueiem contas abusivas. Além disso, a empresa proíbe aplicativos com recursos ocultos ou não documentados, incluindo aqueles que distorcem seu propósito durante a revisão e apenas revelam capacidades prejudiciais, como "nudificação", após a aprovação.

Contexto

A Apple tem trabalhado para melhorar a segurança e a moderação de conteúdo em sua plataforma, especialmente após relatos de que aplicativos de nudez estavam sendo hospedados em sua loja. Em julho, a cidade de São Francisco ordenou que a Apple e o Google removessem esses aplicativos de suas lojas, alegando que as empresas estavam lucrando com eles através de taxas de loja.

Medidas de Segurança

A Apple afirmou que removerá aplicativos que adicionam recursos não presentes na versão submetida para revisão da App Store. Além disso, a empresa atualizou a linguagem em sua seção legal para reforçar que proibirá aplicativos que promovam tráfico humano e exploração de crianças.

Consequências

A Apple disse que, no ano passado, seu processo de revisão bloqueou mais de 150.000 aplicativos de alcançar os usuários e removeu 193.000 contas de desenvolvedores por fraude e abuso. Essas medidas demonstram o compromisso da empresa em manter uma plataforma segura e respeitosa para todos os usuários.