A plataforma social X, de Elon Musk, deve garantir que a aplicação Grok não possa mais tirar fotos de pessoas nuas sem o seu consentimento nos Países Baixos.

Sem a autorização expressa da pessoa na foto, o Grok não poderá mais gerar imagens em que as pessoas estejam sem roupa. A nudez parcial também não é permitida. A decisão do juiz de Amsterdam estipula que isso se aplica a pessoas residentes nos Países Baixos.

O centro de especialistas em abuso online Offlimits e o Fonds Slachtofferhulp entraram com uma ação sumária há um mês contra a xAI, empresa que desenvolve o Grok para o X. As organizações procuravam impor uma proibição à ferramenta de IA, já que gerar e distribuir imagens de nudez sem consentimento é crime.

Através do Grok, isso era fácil e possível em larga escala. Os subscritores do X-User podiam solicitar a remoção de roupas de qualquer foto. Não importava se as pessoas retratadas eram adultos ou crianças. O chatbot recebeu muitas críticas recentemente porque supostamente facilita a prática de abuso sexual online. De acordo com a Bloomberg, o Grok tirava milhares de fotos de pessoas sem roupa por hora.

A cada dia que a empresa responsável do Grok não cumprir com a decisão judicial, o chatbot ficará indisponível. A xAI também deverá pagar uma multa de 100 mil euros por dia, podendo chegar a um máximo de 10 milhões de euros.

O diretor da Offlimits, Robbert Hoving, disse aos jornalistas que está muito satisfeito com a decisão. "Fizemos isso pelas vítimas neerlandesas. Mas a Grok não sabe de onde vêm as vítimas, o que quer dizer que se aplica, na verdade, ao mundo todo."

"Para as vítimas, não faz diferença se uma imagem é real ou criada com IA", disse Ineke Sybesma, do Fundo de Apoio às Vítimas, no mês passado. "E o que torna tudo ainda mais cruel é que não tem fim. A vergonha é real, as consequências são reais e não acaba sozinha, porque a internet não esquece."

Parlamento Europeu

No Parlamento Europeu, também foi tomada uma decisão na quinta-feira sobre aplicações de remoção de roupas. A maioria dos eurodeputados votou a favor da proibição de ferramentas de inteligência artificial capazes de remover roupas de fotos. Essa proibição não entrará em vigor imediatamente, mas espera-se que se aplique a todos os países da UE a partir de julho.

Hoving acredita que a proibição cria um precedente que também se aplicará fora da UE. "Atualmente, mecanismos americanos como o Google e o Bing simplesmente continuam a mostrar essas aplicações nos resultados", afirma.

Isso também não deverá mais ser permitido em breve. Mas o fato é que a lei é letra morta se não for cumprida. Portanto, se as empresas não cumprirem a proibição, teremos que tomar medidas mais enérgicas.

Países Baixos

Nos Países Baixos, também se fala há muito tempo sobre uma possível abordagem para aplicações de IA que permitem despir pessoas. A criação de imagens deepfake já é proibida, mas as próprias aplicações operam numa zona cinzenta legal.

No início deste ano, o ministro interino Foort van Oosten (Justiça e Segurança) disse aos jornalistas que é "extraordinariamente repreensível" que as pessoas sejam vítimas de aplicações de nudismo por IA.

No entanto, foi difícil conceber e implementar uma abordagem adequada. As autoridades envolvidas, como a Autoridade Neerlandesa de Proteção de Dados, a Autoridade Neerlandesa para os Consumidores e Mercados e a Autoridade para Material Terrorista e Pornográfico Infantil Online, descreveram a questão em torno destas aplicações como complexa.

Imagem de White Papers Online