O Expertise Center for Online Abuse Offlimits e o Victim Support Fund querem a proibição da criação e distribuição não autorizadas de imagens sexualmente explícitas com a participação de Grok.

Nos Países Baixos é ilegal produzir ou distribuir imagens sexualmente explícitas de indivíduos sem o seu consentimento. A produção de imagens sexualmente sugestivas envolvendo crianças pode ter consequências legais particularmente graves.

O Fundo de Apoio às Vítimas e a Offlimits enfatizam que a criação de imagens sexuais por IA não é um problema teórico: já acontece em larga escala, sem o consentimento das pessoas. Como o site e os aplicativos Grok e X também estão disponíveis em neerlandês, também há a possibilidade de surgirem vítimas nos Países Baixos, afirmam os autores do processo.

"Imagens editadas ou criadas com ferramentas de IA estão a ser usadas para intimidar, humilhar ou assediar sexualmente vítimas", afirma Robbert Hoving, diretor da Offlimits. "A acessibilidade dessas ferramentas permite criá-las e distribuí-las em larga escala. É um acidente em câmera lenta e isso exige ação."

A diretora Ineke Sybesma, do Fundo de Apoio às Vítimas, acrescenta: "Para as vítimas, não faz diferença se uma imagem é 'real' ou criada com IA.”

Outros Países

Musk lançou o Grok em 2023 como uma alternativa "humorística" e "anti-politicamente correta" ao amplamente utilizado ChatGPT da OpenAI. O chatbot está integrado à plataforma social X, que também pertence a Musk.

O Grok tem sido amplamente criticado em todo o mundo porque o bot facilita a prática de abuso sexual online. A Bloomberg News já havia noticiado que o Grok gera milhares de imagens de pessoas sem roupa por hora.

Nos Países Baixos e em outros países, foram iniciadas investigações sobre possíveis violações de leis e regulamentos, como a Lei Europeia dos Serviços Digitais e as disposições penais nacionais.

No Reino Unido, a entidade reguladora Ofcom também está a investigar o Grok. Na União Europeia, estão em curso processos judiciais para obter uma ordem judicial que proíba o uso deste chatbot.

Imagem de Startuptalky