O Google anunciou novas regras para conteúdo gerado por IA na Play Store, com o objetivo de reduzir a disseminação de conteúdo prejudicial. Essas regras incluem a proibição de aplicativos que geram deepfakes de material sexual não consensual, gravações falsas de pessoas reais para fins de fraude e conteúdo eleitoral falso ou enganoso.
A IA pode ser usada para criar conteúdo de forma automatizada, como textos, imagens, vídeos e áudio. No entanto, o uso da IA para gerar conteúdo prejudicial também é uma preocupação crescente.
As novas regras impostas pelo Google
As novas regras do Google para conteúdo gerado por IA na Play Store incluem as seguintes proibições:
- Deepfakes de material sexual não consensual: esses aplicativos usam IA para criar vídeos ou áudios manipulados para fazer parecer que alguém disse ou fez algo que não disse ou fez. O Google afirma que esses aplicativos podem ser usados para espalhar desinformação, difamar pessoas ou até mesmo cometer crimes.
- Gravações falsas de pessoas reais para fins de fraude: esses aplicativos usam IA para criar gravações de pessoas reais que podem ser usadas para cometer fraudes, como clonar cartões de crédito ou se passar por outra pessoa.
- Conteúdo eleitoral falso ou enganoso: esses aplicativos usam IA para criar conteúdo que pode ser usado para influenciar o resultado de uma eleição. O Google afirma que esse conteúdo pode ser usado para espalhar mentiras ou propaganda.
Além dessas proibições, o Google também está implementando as seguintes medidas para reduzir a disseminação de conteúdo prejudicial gerado por IA:
- Limitação do acesso de aplicativos a fotos e vídeos no dispositivo do usuário: essa medida visa impedir que aplicativos usem fotos ou vídeos do usuário para gerar conteúdo prejudicial, como deepfakes.
- Requisito de aviso para aplicativos que usam IA para criar conteúdo: esses aplicativos serão obrigados a exibir um aviso informando aos usuários que o conteúdo foi gerado por IA.
- Avisos obrigatórios: além das proibições mencionadas anteriormente, o Google também está implementando uma regra que exige que os aplicativos que usam IA para criar conteúdo, como textos, imagens ou vídeos, exibam um aviso informando aos usuários que o conteúdo foi gerado por IA. Essa medida ajudará os usuários a identificar o conteúdo gerado por IA e a tomar decisões informadas sobre como interagir com ele.
A nova política, contudo, não se aplica a aplicativos que usam IA apenas como recurso para resumir materiais, como livros, ou aplicativos de produtividade.
Exemplos de como as novas regras funcionam
O Google forneceu alguns exemplos de como as novas regras funcionarão na prática. Por exemplo, um aplicativo que usa IA para criar deepfakes de celebridades será banido da Play Store. O mesmo vale para apps que criam gravações falsas de políticos para fins de propaganda também será banido.
***
As novas regras do Google são uma medida positiva para proteger os usuários da Play Store de conteúdo prejudicial. No entanto, é importante notar que essas regras não são uma solução definitiva.
O uso da IA para gerar conteúdo prejudicial continuará a ser uma preocupação crescente. É importante que os usuários estejam cientes do potencial de abuso da IA e que tomem medidas para se protegerem. Para saber mais sobre o mundo digital, visite o blog do Positivo Do Seu Jeito.
